Esta legislación busca garantizar la seguridad y los derechos fundamentales de los ciudadanos de la Unión Europea ante los riesgos que plantea esta avanzada tecnología.
La nueva ley europea es la primera en el mundo en abordar de manera integral la regulación de la inteligencia artificial. La IA ha estado presente durante años en servicios digitales de uso cotidiano, tales como redes sociales, plataformas de 'streaming' y motores de búsqueda como Google y Bing. Además, su aplicación se extiende a sectores como las finanzas, la salud, la atención al cliente, la agricultura y la logística.
El objetivo de la legislación es crear un marco jurídico uniforme que facilite la comercialización y circulación de productos y sistemas basados en IA, sin descuidar la ciberseguridad y el desarrollo tecnológico ético. La normativa pretende que la adopción de esta tecnología se realice con un enfoque centrado en el ser humano, asegurando un alto nivel de protección de la salud, la seguridad y los derechos fundamentales establecidos en la Carta de los Derechos Fundamentales de la Unión Europea.
Tres niveles de riesgo
La ley se ha desarrollado bajo un enfoque basado en el nivel de riesgo que presentan los sistemas de IA, categorizándolos en tres grupos: riesgo inaceptable, alto riesgo y riesgo limitado.
Los sistemas que presentan un riesgo inaceptable están prohibidos. Esta categoría incluye tecnologías que utilizan la categorización biométrica para inferir atributos sensibles como raza, opiniones políticas y orientación sexual, así como sistemas de puntuación social y técnicas manipuladoras que distorsionan el comportamiento humano. Sin embargo, existen excepciones estrictamente reguladas, como el uso de identificación biométrica por las fuerzas de seguridad bajo autorización judicial.
La normativa pone especial atención en los sistemas de alto riesgo, que pueden tener efectos perjudiciales significativos en la salud, la seguridad y los derechos fundamentales. Entre estos sistemas se encuentran las tecnologías de identificación biométrica remota, herramientas de evaluación de solvencia, polígrafos y sistemas diseñados para influir en elecciones o comportamientos electorales.
El reglamento también aborda los modelos de IA de uso general, que son aquellos entrenados con grandes volúmenes de datos mediante métodos como el aprendizaje autosupervisado. Aunque estos modelos son componentes esenciales de los sistemas de IA, no constituyen sistemas en sí mismos. La ley reconoce la importancia de estos modelos y subraya la necesidad de proteger los derechos de autor sobre los datos utilizados para su entrenamiento.
Responsabilidades
La responsabilidad de cumplir con la legislación recae en los proveedores de sistemas y modelos de IA, quienes deben realizar evaluaciones de riesgo antes y después de la comercialización de sus productos. Además, deben implementar medidas para mitigar dichos riesgos y adherirse a un código de buenas prácticas supervisado por la Oficina de IA.
El reglamento incluye evaluaciones y revisiones periódicas para adaptarse a los rápidos avances tecnológicos, con un enfoque particular en la IA de alto riesgo y las prácticas prohibidas.
La nueva normativa también aborda aspectos críticos de ciberseguridad, obligando a las empresas a adoptar directrices de desarrollo e implementación seguras, abordar las brechas de seguridad y evitar el uso malintencionado de la IA, como la creación de 'deepfakes' o la automatización de ciberataques. La ley también busca reducir los sesgos y la discriminación garantizando que los sistemas de IA se entrenen con datos diversos y representativos.
Si (
No(
