El Gran Hermano estará a la vuelta de la esquina si no actuamos con decisión y unidos

Inteligencia Artificial. RR SS
Inteligencia artificial. / Pexels.

La decisión de la UE de permitir el uso de la Inteligencia artificial (IA) para su aplicación en usos de toma de decisiones y evaluación predictivo de los ciudadanos  ha sido acogida con satisfacción.

El Gran Hermano estará a la vuelta de la esquina si no actuamos con decisión y unidos

La decisión de la Unión Europea (UE) de permitir el uso de la Inteligencia artificial (IA) para su aplicación en usos de toma de decisiones y evaluación predictivo de los ciudadanos, ha sido acogida con satisfacción por parte de las autoridades europeas que realizan funciones de supervisión y control en materia de protección de datos.

Estas autoridades aprueban la medida de que la UE regule esta aplicación de la IA, al tiempo que advierten, en palabras del director del Supervisor Europeo de Protección de Datos (SEPD), el español Leonardo Cervera Navas, que "El Gran hermando esta a la vuelta de la esquina si no actuamos con decisión y unidos para defender nuestros valores europeos". 

El SEPD y el CEPD han adoptado un dictamen conjunto sobre la propuesta de Reglamento de la Comisión Europea, por el que se establecen normas armonizadas en materia de inteligencia artificial (IA).

El CEPD y el SEPD acogen con gran satisfacción el objetivo de abordar el uso de los sistemas de IA en la Unión Europea, incluido el uso de sistemas de IA por parte de las instituciones, órganos u organismos de la UE. Al mismo tiempo, el CEPD y el SEPD están preocupados por la exclusión de la cooperación policial internacional del ámbito de aplicación de la propuesta.

El CEPD y el SEPD también subrayan la necesidad de aclarar explícitamente que la legislación vigente en materia de protección de datos de la UE (RGPD, EUDPR y LED) se aplica a cualquier tratamiento de datos personales que entre en el ámbito de aplicación del proyecto de Reglamento sobre IA.

Si bien el CEPD y el SEPD acogen con satisfacción el enfoque basado en el riesgo que sustenta la propuesta, consideran que el concepto de «riesgo para los derechos fundamentales» debe ajustarse al marco de protección de datos de la UE. El CEPD y el SEPD recomiendan que también se evalúen y mitiguen los riesgos sociales para grupos de personas. Además, están de acuerdo con la propuesta en que la clasificación de un sistema de IA como de alto riesgo no significa necesariamente que sea legal per se y que pueda ser utilizado por el usuario como tal. El CEPD y el SEPD también consideran que el cumplimiento de las obligaciones legales derivadas de la legislación de la Unión -incluida la protección de datos personales- debe ser una condición previa para entrar en el mercado europeo como producto con la marca CE.

Los riesgos que plantea la identificación biométrica a distancia

Teniendo en cuenta los riesgos extremadamente elevados que plantea la identificación biométrica a distancia de las personas en espacios de acceso público, el CEPD y el SEPD piden una prohibición general de cualquier uso de la IA para el reconocimiento automatizado de las características humanas en espacios de acceso público, como el reconocimiento de rostros, marcha, huellas dactilares, ADN, voz, pulsaciones de teclas y otras señales biométricas o de comportamiento , en cualquier contexto. Del mismo modo, el CEPD y el SEPD recomiendan la prohibición de que los sistemas de IA utilicen datos biométricos para clasificar a las personas en grupos basados en el origen étnico, el género, la orientación política o sexual u otros motivos por los que la discriminación está prohibida en virtud del artículo 21 de la Carta de los Derechos Fundamentales. Además, el CEPD y el SEPD consideran que el uso de la IA para inferir emociones de una persona física es altamente indeseable y debe prohibirse, excepto en casos muy específicos, como algunos fines sanitarios, en los que el reconocimiento de las emociones del paciente es importante, y que debe prohibirse el uso de la IA para cualquier tipo de puntuación social.

Andrea Jelinek, presidenta del CEPD, y Wojciech Wiewiórowski, SEPD, dijo: "El despliegue de la identificación biométrica remota en espacios de acceso público significa el fin del anonimato en esos lugares. Aplicaciones como el reconocimiento facial en directo interfieren con los derechos y libertades fundamentales hasta tal punto que pueden poner en tela de juicio la esencia de estos derechos y libertades. Esto exige una aplicación inmediata del criterio de precaución. Una prohibición general del uso del reconocimiento facial en áreas de acceso público es el punto de partida necesario si queremos preservar nuestras libertades y crear un marco legal centrado en el ser humano para la IA. El Reglamento propuesto también debería prohibir cualquier tipo de uso de la IA para la puntuación social, ya que va en contra de los valores fundamentales de la UE y puede dar lugar a la discriminación".

El CEPD y el SEPD también acogen con satisfacción el hecho de que la propuesta designe al SEPD como autoridad competente y autoridad de vigilancia del mercado para la supervisión de las instituciones, agencias y organismos de la Unión. No obstante, el papel y las tareas del SEPD deben aclararse aún más, en particular en lo que respecta a su papel como autoridad de vigilancia del mercado.

El CEPD y el SEPD recuerdan que las autoridades de protección de datos (APD) ya están aplicando el RGPD y el LED en los sistemas de IA que implican datos personales, con el fin de garantizar la protección de los derechos fundamentales y, más concretamente, el derecho a la protección de datos. En consecuencia, la designación de las ADP como autoridades nacionales de supervisión garantizaría un enfoque regulador más armonizado y contribuiría a la interpretación coherente de las disposiciones sobre tratamiento de datos en toda la UE. Por consiguiente, el CEPD y el SEPD consideran que, para garantizar una aplicación fluida de este nuevo Reglamento, las APD deben designarse como autoridades nacionales de supervisión de conformidad con el artículo 59 de la propuesta.

Por último, el CEPD y el SEPD cuestionan la designación de un papel predominante a la Comisión Europea en el «Consejo Europeo de Inteligencia Artificial» (EAIB), ya que esto entraría en conflicto con la necesidad de un organismo europeo de IA independiente de cualquier influencia política. Para garantizar su independencia, la propuesta debe dar más autonomía a la EAIB y garantizar que pueda actuar por iniciativa propia. @mundiario 

 

 

 

 

El Gran Hermano estará a la vuelta de la esquina si no actuamos con decisión y unidos
Comentarios