¿Por qué el ‘padrino de la inteligencia artificial’ advierte de los peligros de esta tecnología?

El informático británico Geoffrey Hinton, de 75 años, dedicó gran parte de su carrera a investigar la red neuronal, un sistema matemático y computacional que sentó las bases del desarrollo de la inteligencia artificial (IA), por lo que se trata de todo un pionero en el campo y uno de los expertos en el tema que sigue inmerso en la investigación, hasta este momento.

Hinton anunció que deja su trabajo en el gigante tecnológico Google, y en una entrevista con The New York Times ha revelado que su principal motivación es la de advertir con mayor libertad de los peligros que plantean las nuevas tecnologías, principalmente la IA, en especial después de que las grandes empresas se hayan abocado a una frenética carrera para desarrollar programas basados en estos modelos inteligentes, como el famoso ChatGPT.

En la entrevista, el ‘padrino de la IA’ aseguró que lamenta haber dedicado su carrera a la inteligencia artificial. “Me consuelo con la excusa normal: si no hubiese sido yo, otro lo habría hecho”, señaló al diario neoyorquino al explicar su renuncia como vicepresidente de Ingeniería de Google. Más tarde, a través de Twitter, Hinton matizó que no abandonaba su puesto para criticar a la empresa, sino que lo hacía para poder hablar con libertad de los riesgos de la IA sin preocuparse por el impacto que sus palabras podrían tener en la compañía, que según él “ha actuado de forma muy responsable”.

 “Es difícil ver cómo se puede evitar que los malos actores lo usen para cosas malas”, dijo Hinton, para avisar de la asombrosa velocidad con la que se están logrando los avances. “Mira cómo era hace cinco años y mira cómo es ahora”, señaló el informático. “Tome la diferencia y propáguela hacia adelante. Eso asusta”, ha sentenciado.

Hinton alerta de la desinformación y las armas autónomas

La voz de Hinton no se trata de una corriente aislada en el mundo científico, sino todo lo contrario. Apenas a finales de marzo una larga lista de más de un millar de empresarios, intelectuales e investigadores de primer nivel relacionados con esta tecnología suscribieron una carta abierta, en la que alertaron del peligro que estaba tomando el desarrollo de la IA, el hecho de que ni la sociedad ni los científicos están preparados para controlar los sistemas de inteligencia artificial y pidieron una moratoria de seis meses para suspender las investigaciones con modelos más poderosos que GPT 4, la última versión del modelo de lenguaje con la que funciona ChatGPT.

Las inquietudes de este grupo de expertos, entre los que se encuentran el propio Elon Musk, dueño de OpenAI (empresa desarrolladora de ChatGPT), se alinean con las de Hinton. El ahora extrabajador de Google teme que, a corto plazo, Internet sea llenada con falsos textos, fotos o vídeos creados a partir de la IA, y que los usuarios no puedan ser capaces de distinguir lo ficticio de lo real. Además de la desinformación, Hinton cree que estos sistemas podrán quitar “algo más” que el trabajo pesado de los empleados.

Otro de los temores que Hinton explicó a The New York Times ha sido un escenario distópico, en el que estas tecnologías en el futuro amenacen a la humanidad y se desarrollen armas verdaderamente autónomas. Los sistemas de IA “a menudo aprenden un comportamiento inesperado de la gran cantidad de datos que analizan”, explicó. “Las personas y las empresas permiten a los sistemas de IA no solo generar su propio código, sino también ejecutar ese código por su cuenta”, agregó Hinton.

“Algunos creían en la idea de que estas cosas en realidad podrían volverse más inteligentes que las personas”, dijo. “Pero la mayoría de la gente pensaba que estaba muy lejos. Yo mismo pensaba que estaba muy lejos. Creía que faltaban entre 30 y 50 años o incluso más. Obviamente, ya no pienso eso”, añadió Hinton al diario neoyorquino. @mundiario