El manifiesto, presentado este jueves en Madrid, recoge las recomendaciones de un grupo internacional de expertos que trabaja desde 2024 por encargo del Gobierno de España. El documento cuestiona que las compañías tecnológicas puedan establecer por sí solas las condiciones de desarrollo y utilización de la IA, especialmente ante la creciente concentración de capacidades, datos e infraestructuras en un número reducido de empresas.
“La autorregulación de esta tecnología no es suficiente”, advierte el Consejo, que considera que las democracias deben participar en su configuración, supervisión y control para garantizar que sus aplicaciones respondan al interés público.
Uno de los principales ejes del manifiesto es la necesidad de reforzar la autonomía tecnológica de las sociedades democráticas. Los expertos sostienen que la dependencia de infraestructuras digitales controladas por un número limitado de operadores puede comprometer la capacidad de las instituciones para aplicar sus propias leyes y prioridades.
En este sentido, el Consejo considera la soberanía digital “una condición necesaria para la democracia” y defiende que debe construirse mediante estándares abiertos, interoperabilidad y cooperación internacional, con capacidad efectiva para controlar los datos, sistemas y servicios esenciales.
El documento reclama además capacidades públicas a lo largo de toda la cadena tecnológica de la inteligencia artificial, desde el acceso a la computación y los modelos hasta la gestión de los datos. También propone impulsar infraestructuras digitales de interés público, favorecer alternativas abiertas y establecer mecanismos que reconozcan y remuneren a quienes aportan información y conocimiento a los sistemas.
Asimismo, plantea que los datos permanezcan bajo el control de sus titulares y que los modelos puedan acceder a ellos para finalidades declaradas, con registros de utilización, en lugar de depender de extracciones masivas.
“Los agentes de IA deben poder ser identificados de manera única y sus acciones deben ser atribuibles”
La expansión de los sistemas agénticos ocupa un lugar destacado entre las recomendaciones. El Consejo propone desarrollar infraestructuras interoperables de identidad digital que permitan conocer qué agente ejecuta una operación, en representación de quién actúa y qué permisos tiene. “Los agentes de IA deben poder ser identificados de manera única y sus acciones deben ser atribuibles”, establece el manifiesto, que insiste en que la responsabilidad jurídica debe permanecer siempre en personas físicas o jurídicas identificables.
Además, los expertos reclaman evaluaciones independientes antes del despliegue de modelos frontera y sistemas agénticos. Para ello, los auditores deberían tener acceso a los modelos, la documentación sobre sus datos de entrenamiento y los registros de incidentes.
El documento también exige que las autoridades públicas puedan suspender o retirar sistemas cuyo comportamiento escape al control humano efectivo. En caso de daños provocados por aplicaciones de alto riesgo, propone trasladar la carga de la prueba a desarrolladores y responsables del despliegue, facilitar reclamaciones colectivas y proteger a quienes denuncien irregularidades.
Más allá de la supervisión técnica, el manifiesto aborda las consecuencias sociales de la IA. Entre sus prioridades figura la protección de los menores, con evaluaciones independientes previas para los sistemas que puedan utilizar niños y adolescentes, incluidos asistentes conversacionales.
También reclama que las mejoras de productividad beneficien a los trabajadores mediante mejores condiciones laborales, formación y mecanismos de participación en las decisiones sobre automatización.
Por otra parte, los expertos consideran necesario medir y publicar el impacto ambiental de las infraestructuras de IA, especialmente el consumo energético, de agua y de materiales asociado a centros de datos y hardware.
El Consejo resume su planteamiento con una advertencia sobre las prioridades del desarrollo tecnológico: “La IA es mucho más que una carrera por construir el mejor modelo; es una carrera por construir la sociedad más capaz de aprovechar la IA y beneficiarse de ella”.