La nueva ley busca establecer un marco regulatorio mucho más estricto sobre el desarrollo y uso de sistemas de inteligencia artificial en España, especialmente en ámbitos sensibles relacionados con derechos fundamentales, biometría, manipulación algorítmica o generación de contenido sintético.
Deepfakes sexuales, manipulación subliminal y clasificación biométrica
Uno de los puntos más relevantes de la norma es la prohibición explícita de determinados sistemas considerados de “riesgo inaceptable” por la Unión Europea entre los que destacan las herramientas capaces de generar deepfakes sexuales o contenido pornográfico infantil mediante IA, especialmente tras la polémica generada recientemente por imágenes manipuladas creadas con asistentes basados en IA generativa.
"Había herramientas conocidas por todos de IA, alguna de una red social muy importante, que estaba siendo usada en España por algunos niños y niñas, que estaban suplantando personalidad, que estaban utilizando fotografías de compañeras de clase para generar imágenes de contenido sexual. Esto estaba pasando y esto está prohibido", ha explicado el ministro Óscar López.
La ley también veta sistemas que utilicen técnicas subliminales para alterar decisiones de los usuarios sin consentimiento, así como modelos que exploten vulnerabilidades relacionadas con edad, discapacidad o situación económica para influir en comportamientos. El texto pone como ejemplo desde chatbots diseñados para fomentar adicciones hasta juguetes inteligentes que incentiven conductas peligrosas en menores.
Otro de los apartados más estrictos afecta a la biometría, quedando prohibidos sistemas capaces de clasificar personas por orientación política, religiosa o sexual mediante reconocimiento facial o análisis automatizado de imágenes, además de herramientas de “puntuación social” utilizadas para discriminar a ciudadanos en acceso a ayudas, préstamos o servicios.
El régimen sancionador será uno de los pilares de la nueva normativa al clasificar las infracciones en leves, graves y muy graves, con multas que podrán alcanzar hasta los 35 millones de euros o el 7% del volumen global de negocio en los casos más severos. Además, el texto introduce cierta flexibilidad para adaptar las sanciones según la gravedad, reincidencia o intencionalidad, incluyendo reducciones por corrección temprana o colaboración con las autoridades, especialmente en el caso de pymes y startups.
Supervisión humana y control sobre la IA pública
La normativa incorpora además obligaciones específicas de supervisión humana en sistemas que puedan afectar a derechos fundamentales y exige mayores niveles de transparencia algorítmica en el uso de IA dentro del sector público. Entre las novedades destaca la creación de un inventario nacional de sistemas de inteligencia artificial utilizados por la administración pública estatal, además de la futura figura del “delegado de IA”, encargado de coordinar la aplicación normativa y supervisar proyectos tecnológicos vinculados a inteligencia artificial.
De hecho, algo destacado durante la intervención ha tenido que ver con las recientes declaraciones del pontífice León XIV que remarcaba el papel de la IA como algo “peligroso” y que “debe desarmarse”; unas declaraciones que el propio Ministro ha remarcado “que nos sentimos plenamente identificados" con “la visión humanista de la IA, una visión que proteja los derechos, muy especialmente los derechos humanos, y que no sea incompatible con los valores que hemos desarrollado como sociedad”.
La Agencia Española de Supervisión de Inteligencia Artificial (AESIA) tendrá un papel central dentro del nuevo modelo regulatorio y actuará como principal organismo de supervisión en sectores no cubiertos por normativas específicas, como empleo, educación o determinados sistemas biométricos, junto a la participación de la Agencia Española de Protección de Datos y el Consejo General del Poder Judicial dependiendo del ámbito afectado.
Desde el Ejecutivo han defendido que la nueva regulación responde a una creciente preocupación social sobre el impacto de la inteligencia artificial en los derechos digitales y la privacidad. Según explicó Óscar López, la norma representa “la tercera vía europea”, combinando innovación tecnológica con protección de derechos fundamentales, “la que combina innovación, competitividad y derechos. Es una respuesta a una inquietud social clara; el 77% de la población española pide más protección de sus derechos digitales ante la IA", ha apuntado.
El Gobierno también ha aprovechado la presentación para reforzar el posicionamiento estratégico de España posicionado como “líder” dentro del ecosistema europeo de IA, destacando proyectos como ALIA, el “modelo público” de inteligencia artificial en español, las futuras gigafactorías europeas o el desarrollo de infraestructuras nacionales vinculadas al sector.
Si (
No(
