¿Por qué Elon Musk y expertos en inteligencia artificial reclaman frenar su investigación?
El hombre más rico del mundo y más de mil investigadores y empresarios piden pausar la “carrera sin control” por la IA al menos por seis meses, debido a sus “grandes riesgos para la humanidad”.
La vertiginosa irrupción de la inteligencia artificial (IA) generativa en el ecosistema común preocupa a los expertos. La velocidad con la que empresas tecnológicas despliegan al público herramientas basadas en los sistemas que son capaces de crear textos, imágenes y música a través de una simple conversación, ha orillado a los investigadores, expertos y ejecutivos de las grandes compañías a pedir que se frene el desarrollo de estas nuevas tecnologías, al menos temporalmente.
Más de un millar de investigadores, intelectuales, empresarios y personalidades de primer nivel vinculadas con el desarrollo de las IA han firmado una carta abierta en línea, en la que reclaman que se aplace por unos seis meses la investigación de esta nueva tecnología para reflexionar acerca de sus consecuencias, capacitar a las empresas para corregir riesgos y reconducir la “carrera sin control” de la inteligencia artificial.
En concreto, los firmantes piden una pausa de “al menos seis meses en el desarrollo y pruebas de sistemas de IA más poderosos que GPT4”, la última versión que utiliza el popular modelo de lenguaje ChatGPT, lanzado por la empresa OpenAI en noviembre del año pasado, tras advertir “grandes riesgos para la humanidad”, según reza la misiva publicada en el sitio futureoflife.org.
En la petición se pide una moratoria hasta que se establezcan sistemas de seguridad con nuevas autoridades regulatorias especializadas, una mayor vigilancia sobre los programas que usan IA, técnicas eficientes que ayuden a distinguir entre lo artificial y la realidad, así como instituciones fortalecidas para ser capaces de hacer frente a la “dramática perturbación económica y política (especialmente para la democracia) que causará la IA”.
Frenar por seis meses la "carrera sin control" de la IA
Entre las figuras que suscriben la misiva hay nombres extremadamente relevantes como el del hombre más rico del mundo, el fundador de Tesla y SpaceX, Elon Musk, que también es el dueño de Twitter y de la propia empresa OpenAI, desarrolladora de ChatGPT, por lo que sus palabras adquieren bastante peso. Otros expertos que han secundado la solicitud son Steve Wozniak (cofundador de Apple), Jaan Tallin (cofundador de Skype), el historiador Yuval Noah Harari, Yoshua Bengio (ganador del premio Turing de informática), Carles Serra (director del Instituto de la IA del CSIC) e incluso trabajadores de otras empresas de desarrollo como la AI DeepMind de Google, Stability AI e incluso Microsoft.
La carta advierte de que el último modelo del programa desarrollado por OpenAI y Microsoft, la versión GPT4, ya es capaz de competir con los humanos en un inquietante número de tareas que continúa en aumento, y que su intervención en esas áreas podría producir la destrucción del empleo con un sistema económico que no está listo y también abriría un canal completamente nuevo para la difusión de la desinformación.
Por ello, los firmantes piden que se reanuden las investigaciones solo cuando se tenga certeza de que el desarrollo es seguro, y de que los efectos de la introducción de esta nueva tecnología resulten positivos. “Desafortunadamente”, asegura la carta, “este nivel de planificación y gestión no está ocurriendo, a pesar de que en los últimos meses los laboratorios de IA han entrado en una carrera sin control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable”, reza la misiva.
La carrera por la IA generativa la comenzó la empresa de Musk en 2022. En tan solo cinco meses OpenAI y Microsoft han conseguido revolucionar el campo al poner en manos de las audiencias el famoso bot conversacional, una tecnología que Google y Meta llevaban desarrollando desde hace años. Las nuevas actualizaciones del sistema de lenguaje en el que se basa el programa, su inclusión en otros servicios como en el buscador de Bing y la presentación de nuevos competidores como el propio bot de Google (Bard), han alarmado a los expertos pues en menos de medio año se desarrollan las IA como una carrera armamentística, sin reparar en las consecuencias. @mundiario
