El Supervisor Europeo de Protección de Datos (EDPS) y el Consejo Europeo de Protección de Datos (EDPB) acogen con gran satisfacción el objetivo de abordar el uso de los sistema de IA en la Unión Europea, incluido el uso de los sistemas de IA por parte de instituciones, organismos o agencia de la UE. Además, muestran su preocupación por la exclusión de la cooperación internacional en el ámbito de la propuesta.
Este llamamiento se produce como respuesta a la propuesta de la Comisión Europea para armonizar las normas sobre la IA, incluyendo la imposición de restricciones al reconocimiento facial en público, pero sin llegar a una prohibición total.
En concreto, el EDPS y el EDPB subrayan en el comunicado la necesidad de “aclarar explícitamente” que la legislación vigente de la UE en materia de protección de datos personales se aplica a cualquier tratamiento de datos personales que entre en el ámbito de aplicación del proyecto de reglamento sobre la IA.
Por ello, los dos organismos quieren que la Bruselas vaya más allá, advirtiendo que “los altísimos riesgos que plantea la identificación biométrica a distancia de personas en espacios de acceso público” deberían suponer la prohibición general de cualquier uso de la IA para el reconocimiento automatizado de rasgos humanos en estos espacios.
Bruselas propone nuevas normas y limitaciones para la inteligencia artificial
Leer más
También piden que se prohíba que los sistemas de IA utilicen la biometría para clasificar a las personas en grupos basados en el origen étnico, el género, la orientación política o sexual y otros motivos por los que la discriminación está prohibida en virtud del artículo 21 de la Carta de los Derechos Fundamentales.
Asimismo, consideran que el uso de la IA para inferir las emociones de una persona física es “altamente indeseable” y “debe prohibirse”, salvo en casos como fines sanitarios en los que el reconocimiento de las emociones del paciente es importante. “Debe prohibirse el uso de la IA para cualquier tipo de puntuación social”, advierten.
“Aplicaciones como el reconocimiento facial en vivo interfieren con los derechos y libertades fundamentales hasta tal punto que pueden poner en cuestión la esencia de estos derechos y libertades”
"El despliegue de la identificación biométrica a distancia en espacios de acceso público significa el fin del anonimato en esos lugares. Aplicaciones como el reconocimiento facial en vivo interfieren con los derechos y libertades fundamentales hasta tal punto que pueden poner en cuestión la esencia de estos derechos y libertades. Esto exige una aplicación inmediata del criterio de precaución”, aseguran Andrea Jelinek, presidente de la EDPB, y Wojciech Wiewiórowski, del EDPS. “Una prohibición general del uso del reconocimiento facial en zonas de acceso público es el punto de partida necesario si queremos preservar nuestras libertades y crear un marco jurídico de la IA centrado en el ser humano. El reglamento propuesto también debería prohibir cualquier tipo de uso de la IA para el reconocimiento social, ya que va en contra de los valores fundamentales de la UE y puede llevar a la discriminación”, concluyen.
Por último, los dos organismos reclaman a la Comisión Europea más claridad sobre qué entidad debe vigilar estas actuaciones, cómo debe hacerse y qué poderes tienen para llevar a cabo el control.