LEY DE INTELIGENCIA ARTIFICIAL PROHÍBE IDENTIFICACIÓN BIOMÉTRICA REMOTA EN LA UE
Fuente: Red en Defensa de los Derechos Digitales
Tras dos años de discusiones para su elaboración, el Parlamento Europeo presentó la propuesta de la primera Ley de Inteligencia Artificial en el mundo, que busca regular los usos de esta tecnología y prohibir las prácticas que suponen un riesgo para la seguridad, la salud o los derechos humanos de las personas, informó el sitio web español Newtral.
La propuesta, que será discutida por el pleno del Parlamento en junio, clasifica los usos de los sistemas de IA con base en cuatro niveles de riesgo: inaceptable, alto, limitado y mínimo. Las prácticas que se encuentren en el nivel más alto estarían prohibidas en la Unión Europea y se refiere a “aquellos sistemas que desplieguen técnicas manipulativas, que exploten vulnerabilidades de las personas o que sean utilizadas para usos intrusivos y discriminatorios”, destaca el medio.
La lista de prácticas inaceptables incluyen la identificación biométrica a distancia, como el reconocimiento facial, en tiempo real, en espacios de acceso público; la identificación biométrica a distancia de forma retroactiva; la puntuación social, o social scoring, que se basa en el comportamiento social de las personas o en sus preferencias, emociones, salud o inteligencia; la extracción indiscriminada de datos biométricos de redes sociales o grabaciones de CCTV para crear bases de datos de reconocimiento facial; entre otros.
“La prohibición de los sistemas de identificación biométrica remotos en directo es un importante paso adelante. Aunque el texto no ilegaliza la vigilancia masiva retrospectiva, sí limita su uso únicamente a las fuerzas del orden y dentro de unos estrictos límites legales”, señaló Mher Hakobyan, asesor de Amnistía Internacional para el trabajo de incidencia en un comunicado.
Sin embargo, Hakobyan dijo que “resulta preocupante que el proyecto legislativo permita que los proveedores de sistemas de IA utilizados para la aplicación de la ley, la gestión de la migración, la provisión de prestaciones sociales y otras áreas de gran interés eludan la Ley de IA al concederles la facultad de decidir si sus sistemas representan un riesgo elevado para los derechos humanos. Esto podría convertir la Ley en un mero ‘documento orientativo’ para IA de alto riesgo en lugar de ser una normativa efectiva”.
La organización también hizo un llamado a la ciudadanía para exigir a la UE que garantice que el desarrollo y uso de la Inteligencia Artificial sea responsable, transparente y respete los derechos humanos.
Este proceso inició en abril de 2021 con la propuesta de elaborar una legislación en la materia, cuyo texto fue presentado el pasado 11 de mayo y será discutido por el Parlamento Europeo en junio, para después acordar un texto común a finales de este año.