La eclosión de la inteligencia artificial y su popularidad en todos los ámbitos de nuestras vidas ha traído consigo una serie de palabras y conceptos especializados que se suelen mencionar de manera más o menos habitual en charlas, debates o artículos escritos sobre IA. De ejemplos hay muchos, como algoritmos, modelos generativos, modelos de lenguaje grande, machine learning, tokens o alucinaciones. Uno de los conceptos de los que más se está hablando últimamente es la inferencia de inteligencia artificial o inferencia de IA.
Así que si ya estás familiarizado con conceptos sobre la IA como prompt o prompting, chatbot, agente de IA o capacidades agénticas, ahora toca ampliar ese vocabulario con la inferencia de IA. Un concepto que, en realidad, era uno de los objetivos de la inteligencia artificial a medio y largo plazo. Pero que con la celeridad con la que evolucionan los algoritmos y los grandes modelos de lenguaje, la inteligencia artificial ya ha llegado a ese nivel de maduración.
La página oficial de Google Cloud dice que “la inferencia de IA es la parte práctica de la inteligencia artificial. Es el momento en que un modelo entrenado deja de aprender y empieza a trabajar, convirtiendo sus conocimientos en resultados del mundo real”. Por su parte, IBM lo explica de una manera menos poética y más directa. “La inferencia de la inteligencia artificial (IA) es la capacidad de los modelos de IA entrenados para reconocer patrones y sacar conclusiones a partir de información que no han visto antes”.
Qué es la inferencia de IA
Cloudflare nos lo explica así. “la inferencia (de inteligencia artificial) es el proceso que utiliza un modelo de aprendizaje automático formado para extraer conclusiones a partir de datos totalmente nuevos. Un modelo de IA capaz de hacer inferencias puede hacerlo sin ejemplos del resultado deseado. En otras palabras, la inferencia es un modelo de IA en acción”.
Y para que esa acción sea correcta, “los modelos de aprendizaje automático pasan por un proceso de formación”. Ese proceso determinará que un modelo saque mejores o peores resultados respecto a otros modelos, realizando tareas como resolver problemas matemáticos, sacar conclusiones de un documento científico, encontrar patrones en unas radiografías o crear código para crear una app o página web.
Por su parte, Oracle define la inferencia de IA como “la capacidad de la IA, después de mucho entrenamiento con conjuntos de datos seleccionados, para razonar y sacar conclusiones de datos que no haya visto antes”. Y Red Hat, dice esto sobre la inferencia de inteligencia artificial. “Ocurre cuando un modelo de inteligencia artificial proporciona una respuesta a partir de datos”. Y añade que “una vez que el modelo se entrena con éxito, puede realizar inferencias”. “La gran cantidad de información empleada en el entrenamiento permite al modelo hacer inferencias en un entorno nuevo en tiempo real”.
Y Cloudflare pone dos ejemplos para entenderlo mejor. “Un coche autoconducido capaz de reconocer una señal de stop, incluso en una carretera por la que nunca antes ha circulado. El proceso de identificar esta señal de stop en un nuevo contexto es la inferencia”. Segundo ejemplo. “Un modelo de aprendizaje automático formado en el rendimiento pasado de jugadores deportivos profesionales puede ser capaz de hacer predicciones sobre el rendimiento futuro de un determinado jugador deportivo antes de que firme un contrato. Tal predicción es una inferencia”.
La importancia de entrenar la inteligencia artificial
Google Cloud explica que “el ciclo de vida completo de la IA abarca desde la recogida de datos hasta la monitorización a largo plazo”. Sin embargo, “el recorrido central de un modelo, desde su creación hasta su ejecución, consta de tres fases clave. Los dos primeros se centran en el aprendizaje, mientras que el último consiste en poner en práctica lo aprendido”. Esas fases son entrenamiento, ajuste e inferencia.
Cuando empezamos a oír hablar de la inteligencia artificial y los grandes modelos de lenguaje, se hizo siempre mucho hincapié en el proceso de entrenamiento de la IA. De nuevo, Google nos cuenta que “es un proceso que consume muchos recursos computacionales, en el que un modelo analiza un conjunto de datos masivo para aprender patrones y relaciones”.
Precisamente, elegir correctamente la cantidad y calidad de esos datos es la parte más importante, ya que de ahí surgirá un modelo de IA capaz de dar buenas respuestas, buenas predicciones o, en los modelos más avanzados, ser autónomo en la toma de decisiones.
Como dice Oracle, “el trabajo de los datos de entrenamiento consiste en enseñar al modelo a realizar una tarea determinada, por lo que los conjuntos de datos varían. Pueden incluir imágenes de gatos o puentes, llamadas de servicio al cliente grabadas o imágenes médicas. El modelo de IA puede analizar datos en vivo, reconocer patrones y realizar predicciones necesarias de qué será lo próximo en el conjunto de datos”.
Qué beneficios implica la inferencia de la IA
Hay muchos casos prácticos que explican los beneficios de la inferencia de la inteligencia artificial. Muchos de ellos ya los vemos en nuestro día a día. En muchas ocasiones, sin darnos cuenta de que la IA estaba detrás. Cloudflare pone varios ejemplos, la seguridad del correo electrónico, capaz de identificar mensajes no deseados o potencialmente peligrosos, los coches sin conductor, el análisis predictivo en sectores como la salud, las finanzas, el deporte profesional o la industria, y un largo etcétera.
Y si vamos al origen, al modelo de IA, la inferencia de la inteligencia artificial le permite ser tan versátil que podamos aplicarlo a tantos ámbitos de la vida. Gracias a la inferencia de la IA, un bot inteligente puede dar respuestas en tiempo real, automatizar tareas complejas, escalar esas inferencias sin necesidad de entrenarlo de nuevo, personalizar sus inferencias para distintos usuarios y, lo mejor de todo, integrar la IA en cualquier dispositivo o sistema. Como podemos comprobar, todo esto es algo que ya vemos en la actualidad. Es el presente de la IA.
Tipos de inferencia: ¿dónde está la inteligencia artificial?
En función del modelo de IA y del tiempo de respuesta que necesitemos, la inferencia de la IA se puede clasificar según dónde se ejecuta. Podemos hablar de inferencia en la nube e inferencia en el borde o edge inference. Que también podemos llamar local.
La inferencia en la nube es la más popular entre el gran público. Descargas una aplicación en tu móvil u ordenador y ya puedes interactuar con un modelo de IA que está en unos servidores de unos centros de datos a kilómetros de distancia. La inteligencia artificial, en estos casos, toma las decisiones en esos servidores. De manera que su capacidad de tomar decisiones, su rapidez de respuesta o la cantidad de datos que es capaz de procesar, pueden ser prácticamente ilimitados. Dependerá de las capacidades de los centros de datos que utilice.
La inferencia en el borde, edge inference en inglés, también podemos llamarla como inferencia por lotes o local. Es el modelo alternativo y que consiste en ejecutar el modelo de IA directamente en el dispositivo. Ya sea un teléfono móvil, un dispositivo de IoT, una cámara o un automóvil inteligente. Su propósito es funcionar sin necesidad de acceder a Internet, salvo que necesite buscar información adicional. Pero el modelo de IA está instalado en el dispositivo. De ahí lo de local. En los dispositivos inteligentes, como automóviles o cámaras de seguridad, el concepto de en el borde o edge se refiere a que necesitan que la IA responda de inmediato. Estos modelos son más pequeños que sus equivalentes online, ya que los dispositivos en los que funcionan no son tan potentes. Pero están especializados en tareas muy específicas.
Presente y futuro de la inferencia de la IA
Aunque hay distintas maneras de clasificar las inferencias de la inteligencia artificial, nos hemos centrado en la clasificación online versus local porque es el aspecto más importante en el futuro de la inteligencia artificial. Las tendencias a futuro de la inferencia de la IA van encaminadas a que los modelos de IA sean cada vez más eficientes. Es decir, que tras un buen entrenamiento con una ingente cantidad de datos, el modelo pueda estar en el dispositivo final del usuario dando respuestas rápidas y complejas, con el mínimo de consumo de energía. Ya sea un dispositivo móvil, un sensor, un termostato inteligente, un robot o un automóvil.
Sin embargo, en paralelo, la industria va encaminada al diseño de chips dedicados a la IA. Empresas como NVIDIA, Qualcomm, Apple o AMD trabajan, desde hace años, en el hardware que ha de permitir ejecutar modelos de IA complejos en dispositivos diminutos con apenas consumo de batería o electricidad. Esto no impide que se promocionen los modelos híbridos, es decir, aquellos que combinan las inferencias de la IA en local y en la nube. O en inglés, cloud más edge.
El futuro de las inferencias
Otro aspecto en el que las inferencias de la IA van a evolucionar es en la capacidad de procesar toda clase de información para tomar sus decisiones. El texto y la imagen es algo habitual. Pero cada vez es más frecuente procesar audio y video. Otro paso a futuro es que los modelos de IA sean capaces de interactuar con robots, videojuegos, entornos tridimensionales o interfaces naturales.
Más tendencias a futuro. La personalización de los modelos de IA, adaptándose en tiempo real al usuario, la posibilidad de verificar las decisiones tomadas para que la inferencia sea confiable, verificable y auditable, especialmente en ámbitos como la medicina o las finanzas.
Y, finalmente, el paso más complicado de alcanzar es el de las inferencias de IA distribuidas y colaborativas. O, en inglés, Swarm AI o inteligencia de enjambre. Consiste en que varios modelos de IA trabajen conjuntamente. Por ejemplo, robots dentro de una fábrica, agentes de IA en una red interna o externa, sensores en un mismo edificio o vivienda, automóviles en una misma red viaria…
Si te ha gustado este artículo y quieres recibir más contenido sobre innovación y tecnología directamente en tu correo, suscríbete a nuestra newsletter y mantente siempre actualizado. No somos de los que llenan tu bandeja, solo compartimos los lunes.
