No dejemos la inteligencia artificial en manos de quien solo sabe de inteligencia artificial

A mis estudiantes de inteligencia artificial les insisto en que debemos tener muy presente cuáles son las implicaciones de la tecnología que desarrollamos y usamos. No se trata de hacer todo lo que tecnológicamente es posible, sino lo que es pertinente. No hay que confundir los medios con los fines, aunque a veces tengamos como fin desarrollar medios para otros fines. Es necesario cumplir con la legislación, pero no es suficiente. Debemos tener siempre presentes las consideraciones éticas, sociales, económicas, laborales, políticas… según el caso.

En fin, no voy a seguir con la cantinela, porque seguro que ya se la saben y, de un modo u otro, será aplicable también en sus ámbitos profesionales. Pero no dejemos de insistir en lo que nos parece obvio, ya que podría dejar de serlo. Además, para construir el sentido común, hay que dotarlo de sentido primero, y luego compartirlo.

Para que todas estas cosas no se queden en monólogos míos en el aula, cada estudiante ha de elaborar un tema en el que analice un resultado de la IA desde una perspectiva social, cultural, medioambiental, ética, laboral… en fin, ha de ir más allá de la tecnología y de cómo funciona y se diseña, para abordar cómo nos afecta. Por supuesto, no les pido que me entreguen por escrito el tema, que eso lo haría ChatGPT, sino que lo expongan en clase y debatamos sobre ello.

En general, veo que no están muy habituados a este tipo de ejercicios de reflexión y de comunicación. Tenemos todavía serias carencias en nuestro sistema educativo, como tantas veces he advertido. Pero veo también que les motiva pensar en la tecnología más allá de su diseño e implementación, y le dan importancia a estas cosas. Me reconforta que sea así. 

El saber o no saber de las cosas nos divide a las personas en una taxonomía inagotable. Desde la ignorante, que no sabe nada de nada, a la que es sabia, y sabe mucho de mucho, pasando por el tertuliano, que cree saberlo todo de todo. También está la persona experta o especializada en un cierto ámbito del saber, que sabe mucho del mismo. Sin embargo, tal como decía Lichtenberg de la química, quien solo entiende de química, tampoco la entiende. Esto es lo que yo pienso de quien solo sabe de las matemáticas y los algoritmos de la IA. O de quien, siendo especialista en IA, solo ve desarrollos y alardes tecnológicos posibles, sin pensar en las personas que han de usarlos o que, de un modo u otro, estarán concernidas por su uso. 

El diseño de soluciones basadas en IA requiere un enfoque multifacético y multidisciplinar. Si bien es esencial tener un profundo conocimiento teórico y técnico para acometerlas, hay muchas otras cuestiones a saber y a tener en cuenta:

- es necesario conocer la legislación y resulta clave entender y aplicar principios éticos para garantizar que la tecnología no cause males o amplifique las desigualdades;

- es necesario comprender los contextos y condicionantes culturales y sociedades en las que se usaran las aplicaciones;

- los problemas complejos requieren soluciones complejas y casi siempre multidisciplinares –un sistema de diagnóstico en medicina basado en IA requerirá de especialistas en ambas disciplinas, es obvio, pero seguramente también de otras, como la comunicación, la psicología, la sociología, la economía, los recursos humanos y las relaciones laborales–;

- también debemos pensar en cómo la IA afectará a los trabajadores, a las organizaciones, al mercado laboral y a la economía;

- es imprescindible comunicar de un modo efectivo cómo funcionan las soluciones basadas en IA y sus posibles usos y consecuencias, tanto a los agentes implicados como al público general. 

Parafraseando a Konrad Adenauer, cuando dijo que “la política es demasiado sería para dejarla en manos de los políticos”, podemos decir lo mismo de la IA. No la dejemos en manos de quienes solo saben de IA, porque ni de IA saben. @mundiario

Senén Barro Ameneiro, director del CiTIUS-Centro Singular de Investigación en Tecnologías Inteligentes de la Universidade de Santiago de Compostela.