La mayoría de las startups españolas que desarrollan inteligencia artificial todavía están lejos de cumplir los principios básicos de ética tecnológica. Así lo revela un estudio de Roboética Consultoría, que evaluó a 100 startups de 30 sectores diferentes en Barcelona, Madrid y Valencia, concluyendo que solo un 24% aprueba en Ética IA, mientras que el 76% presenta un riesgo medio o alto en materia de gobernanza ética.
El análisis, realizado mediante la herramienta EthicalAITest, examinó más de 600 instrucciones de código fuente y evaluó seis principios fundamentales: Privacidad y Gobernanza, Seguridad y Robustez, Transparencia y Explicabilidad, Justicia e Inclusión, Supervisión Humana, y Sostenibilidad e Impacto Ambiental.
Los resultados muestran una clara desigualdad entre los distintos ámbitos. Transparencia y Explicabilidad encabeza la lista con un 43,9% de cumplimiento, seguida de Privacidad y Gobernanza con un 31,5%. Sin embargo, los valores caen drásticamente en otros apartados clave: Justicia e Inclusión (12%), Sostenibilidad e Impacto Ambiental (5,7%) y, especialmente, Supervisión Humana (3,5%), el principio con peor desempeño.
Esto significa, según los autores del informe, que la mayoría de las startups no previenen sesgos ni garantizan la inclusión de todos los usuarios, tampoco cuentan con controles humanos que permitan mitigar riesgos y muestran una escasa conciencia ambiental en el desarrollo de soluciones basadas en IA.
Por sectores, el estudio destaca que las empresas del ámbito Legal e Industrial son las más avanzadas en materia de Ética IA, mientras que Viajes, RRHH, Inmobiliaria, Servicios, Ciberseguridad y Construcción presentan los resultados más bajos.
“El análisis revela una brecha de Ética IA significativa, ya que ningún principio evaluado alcanza el umbral del 50%”, ha explicado el Dr. Jesús A. Mármol, autor del estudio. “Esto no es una buena noticia para los ciudadanos, que usamos estos productos y servicios a diario, ya que los datos evidencian que nuestros proveedores tecnológicos aún no garantizan un compromiso real con la responsabilidad social y digital que se les exige”.
El informe concluye proponiendo una serie de medidas para reforzar la ética en el ecosistema tecnológico español, como formación especializada en Ética IA, guías sectoriales, auditorías anuales obligatorias y programas de certificación. Mármol subraya además la necesidad de introducir la Ética IA en los programas universitarios de Ingeniería, con el fin de que los futuros profesionales aprendan a traducir los principios éticos en métricas técnicas evaluables y alineen el desarrollo tecnológico con los valores humanos.
“Solo así lograremos una inteligencia artificial verdaderamente responsable, justa y sostenible”, ha concluido Mármol.
Si (
No(
