Este martes, las comisiones de Mercado Interior y Libertades Civiles han aprobado el marco legal conocido como AI Act, que busca establecer límites claros para el uso de una tecnología que impregna una amplia gama de industrias y servicios, desde la banca y la automoción hasta productos electrónicos y aerolíneas, así como en ámbitos de seguridad y propósitos policiales.
El AI Act, que se espera que se vote en la asamblea legislativa en abril, pretende proteger a los ciudadanos de la Unión Europea de usos indebidos de la IA, promoviendo al mismo tiempo una visión humanista de esta tecnología. "Hoy es un día histórico", ha destacado el eurodiputado italiano Brando Benifei, ponente del texto, destacando el esfuerzo por salvaguardar los derechos fundamentales y allanar el camino para una regulación equitativa de la IA.
Claves y controversias de la Ley de IA
La legislación, propuesta inicialmente por la Comisión Europea en 2021, ha sido objeto de intensos debates, particularmente sobre la regulación de modelos de lenguaje que extraen datos en línea y el uso de la IA por parte de policías y servicios de inteligencia. Las nuevas reglas también abordarán los modelos fundamentales y de IA generativa, como la desarrollada por OpenAI respaldada por Microsoft.
Una de las principales controversias ha girado en torno a la regulación de sistemas generativos como ChatGPT o Gemini (Google) y la vigilancia biométrica
Una de las principales controversias ha girado en torno a la regulación de sistemas generativos como ChatGPT o Gemini (Google) y la vigilancia biométrica. En el caso de los sistemas generativos, se les obligará a cumplir con criterios de transparencia para evitar violaciones de los derechos de autor. Por otro lado, la ley abre la puerta al uso limitado de sistemas de reconocimiento facial por parte de la policía y el ejército, lo cual ha generado preocupaciones entre las organizaciones de la sociedad civil.
El AI Act categoriza los usos de la IA según sus riesgos, prohibiendo aquellos que podrían manipular a los europeos y estableciendo reglas para otros casos. Las empresas tecnológicas, sin embargo, han mostrado cautela ante la redacción vaga de algunos requisitos y el impacto potencial de la ley en la innovación.
Rumbo a su aprobación
Este hito legislativo servirá para proteger a los ciudadanos europeos y también tiene el objetivo de impulsar la innovación y establecer a Europa como líder en el campo de la IA. "Es un resultado del que podemos estar orgullosos", comentaba Eva Maydell, eurodiputada popular y responsable de Tecnología, Innovación e Industria, destacando que el acto fomenta la confianza social en la IA al tiempo que ofrece a las empresas el espacio para crear e innovar.
Los países de la UE ya han respaldado el acuerdo alcanzado en diciembre, bajo la presidencia española del Consejo de la UE, sobre la AI Act, que busca un mejor control del uso de la IA en la vigilancia biométrica por parte de los gobiernos y cómo regular los sistemas de IA. Francia logró concesiones para aligerar la carga administrativa en sistemas de IA de alto riesgo y ofrecer una mejor protección para los secretos comerciales.
Fechas clave: 10 y 11 de abril
La legislación, que ahora espera la votación final en el Parlamento Europeo programada para el 10 o el 11 de abril, requiere que los modelos fundamentales y los sistemas de IA de propósito general cumplan con obligaciones de transparencia antes de ser puestos en el mercado. Esto incluye la elaboración de documentación técnica, el cumplimiento de la ley de derechos de autor de la UE y la difusión de resúmenes detallados sobre el contenido utilizado para el entrenamiento.
Si (
No(
