El equipo de OpenAI encargado de proteger a la humanidad de la IA ya no existe, su jefe ha dimitido

Por Borja Colomer
18/05/2024
Inteligencia Artificial

Apenas llevamos unos pocos años desde que hemos visto el enorme potencial de la IA generativa gracias en gran parte a la llegada de ChatGPT. OpenAI se ha convertido en una de esas empresas en las que vale la pena echar un ojo y estar pendiente de sus avances, pues al igual que llegó ChatGPT en IA generativa de textos, tenemos a Sora como IA generativa de videos. Con ambas bajo su poder, parece ser que ninguna otra compañía puede plantarles cara, aunque habría que ver que lanzan con sus nuevos modelos de IA. Sin embargo, OpenAI no está pasando por un buen momento ahora, ya que ha dimitido uno de sus cofundadores y el jefe encargado de proteger a la humanidad de las IA.

Gracias a la inteligencia artificial podemos llegar a automatizar tareas o crear todo tipo de contenido. La IA generativa se encarga de generar vídeos, imágenes, texto, música y prácticamente todo en lo que ha sido entrenada. Aunque llevemos poco tiempo con el desarrollo de la IA moderna, hemos visto ya grandes cambios y mejoras, algo que puedes comprobar si comparas la primera versión de Midjourney con la actual, por ejemplo.

OpenAI pierde a los jefes de su equipo superalignment cuyo objetivo era controlar las IA para proteger a la humanidad

James Cameron IA Terminator

Además de provocar que se llene Internet de imágenes, la IA también se está empleando en investigación, permitiendo ahorrar tiempo y dinero. Otro de los sectores donde se está empezando a emplear es en el militar, donde ahí tenemos bastante miedo sobre lo que pueda ocurrir en un futuro. Personas como James Cameron creen que la IA acabará con la humanidad, algo que advirtió con películas como Terminator en los años 80. El temor de que aparezca una IA malvada es una posibilidad que se pronostica en el momento en el que los seres humanos no controlen ni limiten lo que sea capaz de hacer la inteligencia artificial.

Elon Musk quiso demandar a OpenAI por incumplir su promesa de hacer una IA en beneficio de la humanidad, pues acabó culpándolos de que los únicos que sacaban beneficio eran ellos mismos. De hecho, ahora podemos decir que efectivamente OpenAI ha perdido al equipo encargado de proteger a la humanidad supervisando la IA. El científico jefe de OpenAI, Ilya Sutskever, decidió abandonar la compañía y cortar lazos con OpenAI. Este era uno de los cofundadores de la compañía y uno de los líderes del equipo de "superalignment", el que se encarga de controlar la IA con el objetivo de proteger a la humanidad.

Ilya Sutskever y Jan Leike han decidido abandonar OpenAI

La marcha de Ilya Sutskever de OpenAI fue un duro golpe para la compañía, pero no ha sido el único. Resulta que Jan Leike, jefe de este equipo destinado a proteger la humanidad de la IA, también ha abandonado OpenAI. Este anuncia su despedida y las razones por las que ha decidido irse a pesar de que consideraba que esta empresa era el mejor sitio donde trabajar en sus investigaciones. La primera de las razones es que está en desacuerdo con las decisiones tomadas por el equipo directivo de la compañía. Este cree que deberían invertir más recursos en crear una nueva generación de modelos de IA más seguros y preparados, además de lidiar con otros temas como el impacto en la sociedad.

Viendo que la empresa no iba por ese camino y había dificultades para cumplir estos propósitos, Jan decidió irse. Con su abandono, podemos decir que el equipo de superalignment ya no existe como tal. Este equipo se formó hace menos de un año y OpenAI prometió dedicarle un 20% de su capacidad de cómputo. Sin embargo, todo esto acabó quedando en un segundo plano, no cumplió sus promesas y al final se está dedicando más a sus productos principales como GPT-4o que anunciaron hace poco.