Alucinaciones de la inteligencia artificial

Qué sabemos de Safe Superintelligence, la misteriosa empresa de IA de Ilya Sutskever (exOpenAI)

Como ocurre en otros sectores, en el ámbito de la inteligencia artificial hay cierta endogamia. O dicho de otra forma: cuando repasamos las empresas más importantes del sector, vemos nombres en común. Y en un campo tan incipiente como la inteligencia artificial, el talento no tiene precio. De ahí que nombres como Ilya Sutskever, uno de los fundadores de OpenAI, acaben desarrollando nuevos proyectos. En este caso, Safe Superintelligence.

Como era de esperar, Safe Superintelligence es una nueva empresa que va a dedicarse al desarrollo de inteligencia artificial. Pero, como dice su nombre, con el propósito de que sea una IA segura. Tal y como exponen en su carta fundacional, “planeamos avanzar en las capacidades lo más rápido posible mientras nos aseguramos de que nuestra seguridad siempre se mantenga por delante”.

Y detrás del proyecto está el mencionado Ilya Sutskever. Una persona tan conocida entre el gran público como OpenAI y ChatGPT, pero, sin duda, una de las más importantes en el campo de la IA si tenemos en cuenta que trabajó con Google en el pasado y lleva toda su vida innovando en áreas de la inteligencia artificial como el aprendizaje profundo (deep learning en inglés) y las redes neuronales artificiales. Junto a él, también destacan Daniel Gross y Daniel Levy, ambos con experiencia en el terreno. El primero creando su propio motor de búsqueda, que vendió a Apple. Y el segundo trabajando en OpenAI.

Qué es Safe Superintelligence

Safe Superintelligence es una nueva empresa dedicada al desarrollo de inteligencia artificial. Su página oficial muestra ahora mismo la carta fundacional de sus creadores. Y su nombre es muy significado. En castellano significa superinteligencia segura. Como dicen en su carta, “crear una superinteligencia segura (SSI) es el problema técnico más importante de nuestro tiempo”.

Este nuevo proyecto contará inicialmente con dos oficinas. Una en Silicon Valley (Palo Alto, California) y otra en Israel (Tel Aviv). Silicon Valley, por razones obvias. Es donde se concentra el sector tecnológico estadounidense y, también, muchas de las empresas, laboratorios y universidades que trabajan en este campo. E Israel también tiene un ecosistema empresarial que incluye la tecnología y la inteligencia artificial. Y, además, Sutskever y Gross tienen estrechos lazos con ese país. Especialmente Gross.

https://twitter.com/ilyasut/status/1803472978753303014

Volviendo a la carta fundacional de Safe Superintelligence, su intención es abordar “la seguridad y las capacidades en tándem, como problemas técnicos que deben resolverse a través de la ingeniería revolucionaria y los avances científicos”. Y lo más importante: a diferencia de OpenAI, Google y otros, no quieren distracciones “por los gastos generales de gestión o los ciclos de los productos, y nuestro modelo de negocio significa que la seguridad y el progreso están aislados de las presiones comerciales a corto plazo”.

Precisamente, el motivo por el que Sutskever abandonó OpenAI poco antes de fundar su nueva aventura fue por la dinámica en la que se ha enfrascado la industria de la inteligencia artificial. Una carrera contrarreloj en la que, cada pocas semanas, alguien lanza una nueva versión de su modelo. Una dinámica que vemos en otros campos tecnológicos y en el que las presiones comerciales tienen más peso que la calidad o la seguridad de la IA. Así que tendremos que esperar para ver los frutos de este proyecto.

Quién es Ilya Sutskever

Ilya Sutskever es uno de los cofundadores de Safe Superintelligence junto a Daniel Gross y Daniel Levy. Y la pieza más importante si echamos un vistazo a su currículum. Fue uno de los cofundadores de OpenAI, una de las empresas referentes en el campo de la IA. Y, hasta no hace mucho, era científico jefe de OpenAI bajo la dirección de Sam Altman, la cara visible del proyecto y también cofundador del mismo.

Sutskever, nacido en la antigua URSS en 1985, emigró a Israel cuando aún era muy pequeño. Cursó estudios universitarios entre Israel y Canadá. De ahí que, en la actualidad, tenga doble nacionalidad, canadiense e israelí. Reside en Mountain View, California, Estados Unidos. En su currículum, de poco más de una década, destaca por haber trabajado en DNNResearch, un proyecto de IA que luego fue comprado por Google. Ya en Google, estuvo en el equipo Google Brain, dedicado al desarrollo de IA. 

Safe Superintelligence quiere diseñar una IA segura sin presiones comerciales

En Google desarrolló un algoritmo de aprendizaje secuencia a secuencia junto a Oriol Vinyals y Quoc Viet Le. También trabajó en TensorFlow y fue responsable de AlphaGo, un programa de ordenador que sabía jugar a Go. Finalmente, desembarcó en OpenAI como fundador y una de las piezas clave. Sin embargo, su disparidad de opinión con Sam Altman hizo que participara en la frustrada operación salida de Altman de la empresa. Al ver que su opinión era minoritaria dentro de la OpenAI actual, Sutskever decidió poner en marcha Safe Superintelligence.

Quiénes son Daniel Gross y Daniel Levy

Daniel Levy era hasta hace poco jefe del equipo de optimización de OpenAI. Y, viendo su currículum, podemos ver que también estuvo implicado en el equipo de Google Brain y, con anterioridad, en el desarrollo de IA por parte de Facebook. Por lo demás, es la cara menos pública del equipo, si bien en el ámbito académico y en el sector de la IA es también una figura en alza.

Por su parte, Daniel Gross es un emprendedor israelí reconocido por crear el motor de búsqueda Cue, que vendió a Apple en 2013. Tras esa compra, siguió con Apple trabajando en proyectos relacionados con inteligencia artificial. Luego dedicó su tiempo y parte de su dinero, a través de Y Combinator, a invertir en empresas como Uber, GitHub y otras. Y, finalmente, este verano ha iniciado una nueva aventura en el campo de la IA con Safe Superintelligence.

RELACIONADOS