El creador de ChatGPT testifica y pide al Senado de EE UU regular la inteligencia artificial

Sam Altman, director ejecutivo de OpenAI. / RR.SS.
Sam Altman, director ejecutivo de OpenAI. / RR.SS.

El cofundador de OpenAI ha comparecido en el Capitolio para explicarlos beneficios de las nuevas herramientas y alertar de los riesgos del desarrollo desmedido de la IA.

El creador de ChatGPT testifica y pide al Senado de EE UU regular la inteligencia artificial

El director ejecutivo y fundador de la empresa OpenAI, creadora del famoso modelo de lenguaje y generación de texto, ChatGPT, ha pedido de manera sorpresiva a los senadores de EE UU que se regule el desarrollo y los usos de la inteligencia artificial (AI), tanto en suelo estadounidense como parte de una iniciativa global para garantizar que el público acceda a “los muchos beneficios de la tecnología”, pero también para evitar “un daño significativo para el mundo”.

“Es esencial regular la inteligencia artificial, y que esas normas garanticen que el público acceda a los muchos beneficios de esta tecnología”, dijo Sam Altman, CEO de OpenAI, que se ha convertido recientemente en el portavoz de la industria de la inteligencia artificial, durante su comparecencia ante un comité de senadores estadunidenses acerca del funcionamiento y los riesgos de su herramienta estrella, la más poderosa en el campo de la IA. “Mi peor miedo es que esta tecnología salga mal. Y si sale mal, puede salir muy mal”, ha agregado el empresario de 38 años.

El director de la firma OpenAI ha comparecido este martes ante una comisión de privacidad y tecnología del Senado, en la que se abordaron los beneficios y los riesgos que supone el desarrollo desmedido de la IA, aupado por el advenimiento de ChatGPT en el último trimestre del año pasado y la reavivación de la carrera para desarrollar herramientas de tecnología puntera que podrían cambiar al mundo tal cual lo conocemos, según han explicado los legisladores durante la audiencia, con quienes ha coincidido el propio Altman acerca de sus preocupaciones de la misma tecnología que ayudó a crear.

Lo usual es que los interrogatorios contra los directores y ejecutivos de las firmas tecnológicas resulten en una conversación muy agresiva en el Capitolio, como en el caso de Facebook o TikTok, pero Altman ha asegurado que entiende los puntos de vista que están inquietos por el desarrollo de la IA, y que él mismo también tiene sus reservas como la divulgación masiva de la desinformación. Por ello, afirmó que está consciente del impacto que pueden tener estas herramientas en la industria creativa, así como los desafíos que trae para el futuro del trabajo y su uso malintencionado.

“Pero creemos que podemos y debemos trabajar juntos para identificar y gestionar las posibles desventajas para que todos podamos disfrutar de las tremendas ventajas”, indicó Altman, para resaltar las potencialidades de estas tecnologías para resolver problemas complejos de la humanidad como el cambio climático o encontrar la cura para el cáncer.

Agencias gubernamentales para regular la IA

Debido a las respuestas reflexivas de Altman, incluso ante cuestionamientos realmente directos como la ética de la IA y sus implicaciones, el veterano senador Dick Durbin (Illinois) y presidente de la comisión, declaró la audiencia como una comparecencia “histórica”, pues las industrias tecnológicas suelen ser muy reacias a la intervención estatal dentro de sus proyectos. Por el contrario, Altman se ha mostrado dispuesto a apoyar e incluso a proponer la creación de agencias gubernamentales que se encarguen de controlar el desarrollo, funcionamiento y salida al mercado de los nuevos modelos de IA que se realicen de ahora en adelante.

“EE UU debe ser el primer país en hacer algo. Pero creo que, por muy quimérico que suene, también opino que esto debería ser también un esfuerzo de alcance global”. Por ello, tanto Altman como los senadores fueron un poco más allá y compararon el advenimiento de las nuevas tecnologías con la creación de la bomba atómica, como indicó el republicano Josh Howley. Altman incluso propuso la creación de un organismo internacional que establezca estándares para la IA, tal y como se instaló una estructura alrededor de las armas nucleares.

En la audiencia de este martes también testificaron la directora de IBM, Christina Montgomery, Gary Marcus, profesor emérito de la Universidad de Nueva York autodenominado crítico de la “exageración” de la IA. Marcus propuso los puntos de vista más ácidos del encuentro, pero los tres han estado de acuerdo con los senadores en crear una suerte de agencia gubernamental que emule a la FDA (Administración de Alimentos y Medicamentos) para examinar previamente una herramienta y otorgarle una licencia para operar, así como otra institución que les haga seguimiento y las monitoreé constantemente.

Los riesgos de la IA

Altman también hizo sus propuestas. El director de OpenAi coincidió en la necesidad de crear la agencia que otorgue y anule las licitaciones a empresas para que desarrollen una inteligencia artificial, para que “garantice el cumplimiento de las normas”. Altman también sugirió crear paquete de normas de seguridad y “crear protocolos para descubrir cuándo un modelo es capaz de replicarse a sí mismo”.

Los tres interpelados también coincidieron en la importancia de que los legisladores no cometan “los mismos errores” que se tomaron con las redes sociales, que ahora son difíciles de restringir per se. “Actuamos muy lentamente. Muchas decisiones desafortunadas tuvieron consecuencias duraderas”, dijo Marcus. “Las decisiones que tomemos ahora tendrán efectos durante décadas, tal vez incluso siglos”, sentenció el profesor.

Los senadores pusieron en valor las declaraciones de los tres interpelados, así como subrayaron la importancia de la IA, y dieron como prueba que ChatGPT ganara unos 100 millones de usuarios dos meses después de su puesta en marcha al público. Algunos legisladores como Marsha Blackburn (Tennessee) explicaron en la audiencia que usaron las herramientas de IA durante el fin de semana, y que consiguieron, entre muchas otras cosas, que el bot inventara una canción del cantante de música Garth Brooks con su voz.

En esa línea abrió la sesión el senador Richard Blumenthal, con una grabación falsa de su propia voz, con lo que ilustró los riesgos de las nuevas herramientas. La grabación incluía un discurso redactado por ChatGPT, así como audios de voz producidos a partir de grabaciones de sus intervenciones reales en el pleno del Senado. Blumenthal indicó que, aunque por esta oportunidad el bot reflejaba fielmente sus posturas y opiniones, también pudo haber producido con la misma facilidad “un respaldo a la rendición de Ucrania o al liderazgo de Vladimir Putin”. Eso, dijo, “habría sido realmente aterrador”. @mundiario

Comentarios