El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, ha reclamado a gobiernos y empresas tecnológicas una “acción urgente” ante la inteligencia artificial, cuyo desarrollo, sostiene, puede comprometer desde la privacidad y la seguridad hasta las comunicaciones, las infraestructuras críticas y el propio derecho a la vida.
La advertencia parte de una preocupación especialmente vinculada a la evolución de la IA avanzada y los sistemas agénticos, capaces de asumir tareas y tomar decisiones con un grado creciente de autonomía. Para Türk, la cuestión ya no se limita a los problemas asociados al uso cotidiano de algoritmos, sino a las consecuencias que podría tener una pérdida de control sobre tecnologías cada vez más presentes en procesos esenciales.
“Todos los derechos humanos están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad”
“Todos los derechos humanos están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad”, ha advertido el alto comisionado. Además, considera que “la actual carrera hacia una IA cada vez más potente supone un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas”.
Uno de los principales focos de preocupación se encuentra en la capacidad de los nuevos agentes de IA para operar con mayor autonomía. Según Türk, los fallos de estos sistemas “podrían paralizar servicios esenciales, fracturar las comunicaciones, desestabilizar infraestructuras críticas y golpear en el corazón mismo de las instituciones democráticas”. Las consecuencias podrían alcanzar directamente a la población, con interrupciones en el acceso al agua, la calefacción o los servicios financieros.
El riesgo adquiere así una dimensión tecnológica que trasciende a los propios modelos de inteligencia artificial. La incorporación de sistemas autónomos a servicios digitales, redes de comunicaciones y otras infraestructuras amplía el alcance potencial de cualquier fallo o comportamiento no previsto.
Asimismo, la ONU alerta de la aplicación de estas tecnologías en el ámbito militar. Türk sostiene que la IA ya acelera el ritmo de los conflictos y amplía su alcance, además de erosionar algunas de las salvaguardias relacionadas con las armas de destrucción masiva. El alto comisionado también ha reclamado la prohibición del armamento capaz de quitar vidas sin intervención humana.
Una carrera tecnológica controlada por pocas compañías
La concentración del desarrollo de los sistemas de IA más avanzados constituye otro de los puntos centrales de la advertencia, y es que Türk lamenta que la sociedad dependa “casi por completo de un reducido número de empresas poderosas para tomar las decisiones acertadas sobre el desarrollo de la IA en beneficio de toda la humanidad”.
“Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo"
En este sentido, Naciones Unidas reclama una respuesta multilateral que impida que las decisiones sobre los niveles de riesgo aceptables queden exclusivamente en manos de compañías o países concretos. “Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo, y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico”, ha defendido Türk.
La advertencia coincide, además, con un debate que ya ha alcanzado a algunos de los principales responsables de la industria. El consejero delegado de Anthropic, Dario Amodei, se ha pronunciado a favor de desacelerar el desarrollo para evaluar mejor los riesgos derivados de las nuevas capacidades de la IA, una posición que ha recibido el respaldo público del consejero delegado de OpenAI, Sam Altman, y de Elon Musk, creador de xAI y su chatbot Grok.
Si (
No(
