El aprendizaje auto-supervisado es la base del modelo de IA de Meta

Al conocimiento que se adquiere a través de los sentidos se le suele llamar sentido común. Este es clave en el aprendizaje auto-supervisado, en el cual se identifican procesos y patrones sin la guía de un ser humano.

Un bebé, por ejemplo, puede conocer su mundo usando este tipo de aprendizaje. Podría clasificar varias frutas según sus colores usando su sentido común. En el aprendizaje supervisado, por el contrario, habría un maestro que le enseñaría el nombre de cada fruta.

Este conocimiento a través de la observación y las interacciones que tenemos a diario es lo que quiere aprovechar Meta en su más reciente desarrollo, el modelo I-JEPA. Esta IA basada en el aprendizaje auto-supervisado ofrecerá imágenes mucho más realistas.

I-JEPA: modelo basado en aprendizaje auto-supervisado

Para el jefe investigador de IA en Meta, Yann LeCun, la IA debe pensar de forma similar a como lo hacen los humanos. Al desarrollar la nueva IA, el objetivo era crear un modelo capaz de usar el sentido común para afrontar situaciones desconocidas y predecir resultados futuros.

Normalmente, las IA actuales como Midjourney crean imágenes a partir de textos. Se apoyan en millones de imágenes similares, luego las descomponen en píxeles e invierten el proceso para convertir ese ruido de píxeles en una imagen original.  

La gran diferencia entre otras IA e I-JEPA es que esta será capaz de completar imágenes inacabadas con mucha más precisión. Meta asegura que con este modelo la imagen no contendrá errores, como manos deformes o con más dedos de los normales (Aguilar, 2023). Para lograrlo, I-JEPA se vale de seis módulos.

Los módulos de I-JEPA

El primer módulo, el configurador, controla y ejecuta el resto de los módulos. El segundo recibe las señales del mundo exterior a través de sensores. El modelo de mundo permite a la IA estimar la información que falta partiendo de la percepción. El cuarto es el módulo de coste, que pretende minimizar costes a largo plazo. El módulo actor optimiza las acciones de la IA. Por último, el de memoria a corto plazo lleva un registro del estado actual de la realidad.

Estos seis módulos dotan a la IA de sentido común. Meta explicó que I-JEPA aprende al crear un modelo interno del mundo exterior. Para ello compara representaciones abstractas de imágenes, no comparando los píxeles, como hacen otras IA.

La pregunta que ahora se hacen muchas personas es: ¿hay alguna diferencia entre I-JEPA e IA? ¿El chatbot recolecta información a través del aprendizaje auto-supervisado?

Aprendizaje auto-supervisado
Imagen de Unsplash.

I-JEPA, ChatGPT y el aprendizaje auto-supervisado

ChatGPT es un chatbot entrenado para realizar actividades relacionadas con el lenguaje. Puede traducir textos o generarlos y hacer corrección de sintaxis.

Para hacerlo utiliza una técnica de aprendizaje conocida como Redes Neuronales de Transformadores. Dichas redes aprenden de forma no supervisada a partir de un conjunto de datos. Utilizan la información recopilada para generar texto coherente.

Es decir, a medida que interactúa con los humanos ChatGPT tiene la capacidad de aprender de forma autónoma. I-JEPA, por su parte, no depende de esta interacción, pues puede ver y comprender el mundo que lo rodea.

Además, no observa los detalles (en una imagen, por ejemplo), sino que se enfoca en un panorama más general. El modelo de Meta además se puede entrenar con menos recursos y en un tiempo menor.

Para reforzar la idea de lo innovador que puede llegar a ser el nuevo modelo de Meta basado en aprendizaje auto-supervisado, retomemos algo dicho recientemente por Yann LeCun: “Un bebé… es capaz de aprender rápidamente tareas por observación. La IA carece de sentido común, no razona ni planifica”. Pues es esto precisamente lo que ofrecerá I-JEPA. Para el jefe de IA en Meta es claro que en el futuro la IA superará a los humanos. Y dicho acontecimiento “supondrá un renacer para la humanidad, como pasó con la imprenta o la internet”.

Imagen de Unsplash.

Sobre el autor

RELACIONADOS