El pacto, acordado a pocos minutos de la medianoche del viernes, supone la primera norma real en materia de Inteligencia Artificial, aunque todavía tendrá que votarse en el Parlamento Europeo, algo que se espera para el primer trimestre de 2024 y por los Estados miembros, por lo que no se espera que entre en vigor antes de 2026.
Esta norma busca “garantizar que los sistemas de IA comercializados y usados en la UE sean en la Unión Europea sean seguros y respeten los derechos fundamentales y los valores europeos”.
Según ha avanzado Carme Artigas, Secretaria de Estado de Digitalización e Inteligencia Artificial, y responsable principal de esta norma como representante del Gobierno de España en la Presidencia del Consejo de la UE, la AI Act pone al ciudadano en el centro y serán éstos los que decidan “qué se puede y qué no se puede hacer con la IA, aunque sea técnicamente factible”.
Por tanto, se creará un órgano asesor, formado por políticos, científicos y ciudadanos, que se encargue de vigilar las diferentes normas y cuestiones de la legislación, para adaptar la ley de manera rápida al avance de la inteligencia artificial.
Asimismo, ha defendido que es “una legislación preparada para el futuro, que era uno de los grandes retos porque la tecnología siempre suele ir por delante de la regulación”.
35 horas de negociación en tres días y con una noche en blanco incluida, la presidencia española y la Eurocámara ha llegado a un acuerdo final sobre el reglamento que busca preservar la innovación en el sector para que la UE no se quede descolgada de Estados Unidos y otras potencias mundiales.
La norma establece "un marco jurídico único para el desarrollo de la IA en el que se puede confiar"
“La Ley de IA de la Unión Europea es una primicia mundial. Un marco jurídico único para el desarrollo de la IA en el que se puede confiar y para la seguridad y los derechos fundamentales de las personas y las empresas”, destaca Ursula von der Leyen, presidenta de la Comisión Europea. “Es un compromiso que asumimos en nuestras directrices políticas y que estamos cumpliendo. Acojo con satisfacción el acuerdo político de hoy”, señala von der Leyen.
Claves de la Ley de IA
La nueva normativa establece tres grandes niveles de regulación, en función de los riesgos que presenten. Por un lado, se definirán una serie limitada de aplicaciones de inteligencia artificial que suponen un “riesgo inadmisible” que se prohibirán de manera terminante, como es el caso de modelos que permiten la “puntuación social” de los ciudadanos.
En segundo lugar están las aplicaciones que se considerarán de riesgo alto y que estarán sujetas a una serie de obligaciones estrictas antes de poder comercializarse, como los sistemas de evolución y mitigación de riesgos, garantías de alta calidad de los datos empleados, registros de actividad, información clara y adecuada a los usuarios y las medidas apropiadas de supervisión humana.
Por último, se establece una serie de sistemas de IA de uso general a los que se impondrán obligaciones específicas en materia de transparencia. En este bloque también quedan fuera los lenguajes de código abierto, como Llama 2 de Meta.
El uso biométrico estará permitido en algunos casos
Uno de los aspectos más debatidos se centraba en el aspecto del uso de la inteligencia artificial para cuestiones de biometría. En este sentido, el Parlamento se oponía radicalmente a su uso ya que eran “invasivas y discriminatorias”, pero los Estados miembros defendían su uso y es que precisamente Francia aprobó una norma a principios de este año para permitir el uso de vigilancia biométrica durante los Juegos Olímpicos y Paralímpicos de París 2024.
Finalmente, el Parlamento ha cedido y suscribe una serie de “condiciones estrictas” que permitirán a las autoridades emplear la biometría en tiempo real para, por ejemplo, buscar a víctimas de secuestros, trata y explotación sexual; prevención de amenazas terroristas; y localización de personas sospechosas de haber cometido delitos graves: terrorismo, asesinatos, violaciones y robos a mano armada.
Por otro lado, se prohíbe la categorización biométrica basada en cuestiones sensibles, la puntuación social y el reconocimiento de emociones en el lugar de trabajo y en instituciones educativas.
Si (
No(
