Éxodo en OpenAI: dimiten los líderes de seguridad en plena expansión de ChatGPT

Jan Leike, quien era el responsable de superalineación en OpenAI. / RR SS.
Jan Leike, quien era el responsable de superalineación en OpenAI. / RR SS.
En un hilo de X (antes Twitter), Jan Leike ha dicho que OpenAI prioriza la creación de productos nuevos y llamativos a la seguridad. Y por todos estos motivos ha justificado su marcha.
Éxodo en OpenAI: dimiten los líderes de seguridad en plena expansión de ChatGPT

OpenAI ha visto la salida de varios de sus principales directivos encargados de la seguridad de la inteligencia artificial, justo cuando la empresa lanzaba la versión mejorada y gratuita de su popular chatbot, ChatGPT-4o. Jan Leike, quien hasta el jueves era el responsable de superalineación en OpenAI, anunció su dimisión citando preocupaciones sobre las prioridades de la empresa en relación a la seguridad y responsabilidad social.

Jan Leike, conocido por su papel crucial en la evaluación y mitigación de los riesgos asociados a la inteligencia artificial avanzada, expresó en un hilo de X (antes Twitter), que OpenAI está más enfocada en crear productos nuevos y atractivos que en asegurar su seguridad. Esta diferencia de prioridades fue la razón principal de su partida.

Leike no es el único en dejar la empresa. Ilya Sutskever, cofundador y anteriormente una figura clave en OpenAI, también anunció su salida hace unos días. Junto con ellos, William Saunders y Leopold Aschenbrenner completan la lista de renuncias, lo que resulta en el desmantelamiento del equipo de superalineación de OpenAI. Este equipo era el encargado de garantizar que los avanzados sistemas de inteligencia artificial de la empresa respetaran los valores y objetivos humanos.

Tensión interna

El lanzamiento de ChatGPT-4o ha captado la atención del mundo tecnológico, especialmente por las demostraciones donde el chatbot mostraba una capacidad inquietante para interactuar de manera coqueta con los presentadores del evento. El consejero delegado de OpenAI, Sam Altman, mencionó la película Her durante la presentación, en la que un hombre se enamora de un chatbot, utilizando la distopía como estrategia de marketing.

Las dimisiones de Leike y Sutskever reflejan una creciente tensión interna en OpenAI. Sutskever, una figura conservadora dentro de la empresa, había sido uno de los principales opositores a la acelerada comercialización de modelos avanzados de inteligencia artificial. En noviembre pasado, Sutskever intentó, junto a otros directivos, cesar a Altman por considerarlo demasiado temerario. Este recuperó su puesto, pero el conflicto dejó secuelas que ahora se manifiestan en la forma de dimisiones.

A pesar de estas bajas significativas, OpenAI continúa avanzando con sus ambiciosos planes. Se espera el lanzamiento de ChatGPT Search, un motor de búsqueda basado en IA que podría revolucionar el sector dominado por Google, y ChatGPT-5, la nueva versión de su herramienta estrella. Además, la empresa ha desarrollado otros productos como el generador de imágenes Dall-E y el generador de vídeos Sora.

En su despedida, Leike subrayó la importancia de invertir más recursos en la seguridad, el impacto social y la confidencialidad. "Estos problemas son muy difíciles de resolver, y me preocupa que no estemos en el buen camino", afirmó. Por su parte, Altman, en un mensaje de respuesta, reconoció la validez de las críticas de Leike y se comprometió a abordar estos desafíos con mayor dedicación en el futuro. @mundiario

Comentarios