La carrera de las grandes compañías de inteligencia artificial por desarrollar modelos cada vez más potentes parece no tener fin. Ya hemos visto cómo empresas de la talla de OpenAI, Google o Anthropic lanzan al mercado IAs capaces de programar, razonar de forma similar a los humanos o incluso ejecutar tareas complejas de forma autónoma. Pero mientras todo el mundo se centra en ver quién presenta el modelo más potente e inteligente, las principales tecnológicas compiten por algo igual o incluso más importante. Se trata de reducir el coste de inferencia a la hora de ejecutar sus modelos y hacer que la IA sea mucho más rentable. OpenAI ya lo está consiguiendo con una fórmula mágica que podría demostrar que la inteligencia artificial realmente no es una burbuja.
Por muy avanzadas que sean las capacidades de la IA, mantener millones de conversaciones diarias con usuarios de todo el mundo tiene un coste enorme para empresas como OpenAI. Cada petición enviada a ChatGPT requiere una cantidad considerable de recursos informáticos, lo que a su vez obliga a utilizar miles de tarjetas gráficas de manera interrumpida. Todo ello contribuye a disparar los costes operativos de OpenAI. De hecho, y según datos financieros filtrados, la compañía gastó 34 mil millones de dólares el año pasado frente a 13 mil millones en ingresos.
Precisamente por esto, cualquier mejora en la eficiencia de la IA puede ser crucial para OpenAI. Lo que ha logrado la compañía es una nueva optimización interna capaz de reducir en más de un 50 % los costes de inferencia de algunos de sus modelos. Se trata de un avance que si bien puede parecer puramente técnico, tiene ventajas muy importantes, incluso para el usuario.
Entrenamiento e inferencia: ¿a dónde se va el dinero?
En el campo de la IA hay dos conceptos fundamentales. Por un lado, está el entrenamiento, que consiste en enseñar al modelo utilizando una cantidad abismal de datos. Desde siempre ha sido uno de los procesos más costosos a la hora de desarrollar una IA. Y todo ello aunque el entrenamiento solo se lleva a cabo durante la etapa de creación de ese modelo.
La inferencia, en cambio, es el proceso que realiza la IA cada vez responde una pregunta que realiza un usuario. A diferencia del entrenamiento, la interferencia ocurre constantemente y se repite millones de veces al día. De hecho, una parte muy importante del gasto operativo que tienen compañías como OpenAI ya no provienen de los entrenamientos, sino de mantener funcionando los modelos existentes para atender toda la demanda.
Así lo ha logrado OpenAI reducir los costes de inferencia
Ahora bien, ¿en qué consisten estas optimizaciones por parte de OpenAI para reducir la inferencia en sus modelos de IA? La compañía no ha compartido detalles al respecto más allá de destacar que han conseguido reducir a más de la mitad el coste de inferencia de los modelos a los que se han aplicado esta optimización.
No obstante, desde The Information creen que la tecnológica habría optado por combinar varias técnicas ya conocidas en el sector. Entre ellas la cuantificación, el almacenamiento en caché de valores claves, hacer que el modelo sea capaz de recordar información relacionada con cálculos que ya ha realizado previamente para evitar que vuelva a repetir el trabajo o enviar consultas en lotes en vez de una por una.
OpenAI habría aplicado esta optimización, de momento, al tráfico de ChatGPT que proviene de usuarios que no han iniciado sesión. El resultado ha sido una reducción tan importante del consumo de la GPU, que el número de aceleradores necesarios para tender ese tráfico disminuyó en apenas unos cientos. Es decir, la compañía logró ofrecer exactamente el mismo servicio utilizando menos recursos informáticos.
Es importante recalcar que OpenAI no es la única empresa de inteligencia artificial que está persiguiendo este objetivo. De hecho, hay otras compañías, que también están buscando métodos para abaratar respuestas y conseguir reducir sus costes operativos. Google, por ejemplo, lanzó Gemini Flash, una versión reducida de su modelo estándar para conseguir disminuir el coste de respuesta. Anthropic, por su parte, ha conseguido algo similar con modelos como Claude Haiku.
¿Qué implicaciones tiene reducir los costes de inferencia?
Si bien una de las principales ventajas de la reducción de los costes de inferencia en hasta un 50 %, es el ahorro de dinero, hay otras implicaciones muy importantes.
En primer lugar, OpenAI podría atender a un número considerablemente superior de usuarios utilizando exactamente la misma infraestructura. Además, la compañía también podría tener más margen para aumentar los límites de uso de ChatGPT sin necesidad de incrementar los costes operativos. Por otro lado, OpenAI también podría permitirse lanzar modelos de inteligencia artificial más avanzados.
La optimización de OpenAI también podría reducir el precio de las API utilizadas por millones de desarrolladores para sus servicios y aplicaciones. Esto facilitaría que las empresas pudiesen incorporar modelos avanzados sin que el coste de cada consulta se convierta en un problema.
El mayor desafío, resuelto
En cualquier caso, uno de los principales desafíos financieros para OpenAI ha sido los costes de computación de la IA. Evidentemente, cuanto más usuarios acceden a sus modelos, mayor es la factura relacionada con el mantenimiento. Si esa factura consigue reducirse, la compañía podría ganar margen para acelerar su crecimiento sin tener que aumentar al mismo ritmo su inversión en infraestructura.
OpenAI ha logrado este hito en un momento crucial para la compañía. Lo hace cuando están a punto de lanzar una novedad que la convertiría en un digno competidor de Anthropic o Google. Se espera que la compañía rediseñe por completo ChatGPT, transformándolo en una especie de «superapp» en la que el chat dejará de ser el único protagonista.
La firma apostará por los agentes de IA capaces de hasta controlar el ordenador, gestionar archivos o ejecutar tareas de forma autónoma. Es una tendencia que se ha amplificado mucho durante los últimos meses gracias a plataformas como OpenClaw. No obstante, ChatGPT también apostará por más funciones de codificación, que es otra de las herramientas más populares a la hora de usar la IA.
¿Significa esto que no hay burbuja?
Reducir a la mitad el coste de inferencia es una noticia muy relevante. No obstante, no responde completamente a una de las mayores dudas: ¿es la IA una burbuja? Es importante tener en cuenta que hay otros factores que hacen que ejecutar modelos de IA no sea realmente rentable, como el gasto descomunal en centros de datos o la limitada cantidad de ingresos actuales.
No obstante, conseguir que una IA sea el doble de barata de ejecutar ya es un paso gigantesco para conseguir que esta tecnología no sea algo que puede tener un límite. El hecho de que este hallazgo haga que la inteligencia artificial pueda atender a más usuarios, ofrecer respuestas más rápidas y ejecutar modelos cada vez más complejos sin disparar los costes de inferencia, es una pieza importante de un puzle financiero que todavía está por completar.
Si te ha gustado este artículo y quieres recibir más contenido sobre innovación y tecnología directamente en tu correo, suscríbete a nuestra newsletter y mantente siempre actualizado. No somos de los que llenan tu bandeja, solo compartimos los lunes.
