El papa reclama que las decisiones sobre la vida, la libertad y el uso de la fuerza permanezcan bajo control humano. Ante científicos reunidos en el Vaticano, defendió que la fiabilidad de un sistema de inteligencia artificial importa más que su potencia cuando no se pueden prever ni controlar las consecuencias.
León XIV ha pedido a los Estados que se reunirán en Ginebra en noviembre que avancen hacia la prohibición de las armas autónomas letales, en un discurso pronunciado el 30 de octubre ante los participantes en un encuentro de la Pontificia Academia para la Vida, el pontífice situó el límite en la decisión de quitar una vida, por potente o preciso que sea un sistema, esa decisión no debe confiarse a una máquina.
La petición fue la consecuencia más concreta de las cinco consideraciones que planteó ante la comunidad científica, para el papa, el rumbo de la inteligencia artificial depende de quienes la diseñan, la autorizan y deciden utilizarla. Eso les da también la responsabilidad de cambiar una aplicación o rechazarla cuando no se pueden controlar sus efectos.
Al reclamar que la IA sea «desarmada», León XIV retomó la posición que su predecesor Francisco expresó ante el G7 en 2024, su llamamiento a los Estados no anuncia una prohibición ya acordada, les pide que traduzcan ese límite en medidas concretas durante la reunión de noviembre. El control que reclama para las decisiones sobre el uso de la fuerza debe ser efectivo y estar en manos de personas informadas que respondan por lo que deciden.
El argumento se extiende más allá del campo de batalla, León XIV puso dos ejemplos, la inclusión de una persona en una lista de sospechosos y su registro en una base de datos utilizada en controles fronterizos. En ambos casos, lo que para un sistema es una entrada en un registro puede condicionar la libertad de una persona. El problema aparece cuando esa entrada se convierte en criterio suficiente para decidir sobre ella.
Es ahí donde la capacidad de cuestionar una decisión adquiere un significado práctico, si una clasificación es incorrecta, la persona afectada necesita saber quién puede revisarla. Una herramienta que facilita localizar información cumple una función distinta de otra cuyo resultado se acepta como decisión definitiva. Para el pontífice, la responsabilidad de distinguir entre ambas sigue correspondiendo a las instituciones que las utilizan.
León XIV cuestionó que el desarrollo de la inteligencia artificial se mida como una carrera cuyo único criterio sea llegar primero, ese enfoque, advirtió, concentra la atención en el resultado técnico y deja en segundo plano tanto a las personas que quedan fuera de sus beneficios como las consecuencias que nadie está en condiciones de controlar.
Su criterio para comparar sistemas es la utilidad que prestan a las personas en circunstancias reales, una herramienta de capacidades más limitadas puede ser preferible si se conoce cómo responde y es posible intervenir cuando falla. En cambio, exhibir un rendimiento extraordinario no resuelve por sí solo la cuestión de si resulta adecuado emplearla en una decisión irreversible.
El papa vinculó esa elección con el acceso a los beneficios de la innovación y mencionó los cuidados, el conocimiento y las oportunidades como ámbitos en los que importa quién puede aprovechar la tecnología. En su planteamiento, la finalidad de un desarrollo no se agota en que funcione para quienes tienen capacidad para financiarlo o ponerlo en marcha.
Otra de sus objeciones se dirigió a las propuestas de reconocer derechos o personalidad jurídica a los sistemas de IA, el pontífice recordó que una máquina carece de experiencia vivida y no conoce desde dentro aquello sobre lo que puede producir una respuesta. Atribuirle la condición de persona corre el riesgo de ocultar a quienes tomaron las decisiones que hicieron posible un daño.
La cuestión, tal como la formuló, afecta en primer lugar al perjudicado, de poco sirve identificar qué sistema generó un resultado si nadie puede responder por su uso, explicar por qué se aceptó o reparar sus efectos. El riesgo es que la persona quede frente a una entidad a la que no puede pedir cuentas en los mismos términos que a una institución o a un responsable humano.
León XIV cerró su intervención señalando que muchos de los principios éticos necesarios para orientar la IA ya son conocidos, la carencia que considera más urgente es institucional, hacen falta organismos capaces de aplicar esos principios, también cuando el desarrollo de una tecnología y sus consecuencias traspasan fronteras.
Para ello reclamó normas compartidas, supervisión independiente y responsabilidades identificables, su propuesta abarca lo que sucede después de tomar una decisión, que pueda examinarse, que exista una vía para impugnarla y que el daño, si se ha producido, tenga reparación. La petición a los Estados reunidos en Ginebra da a esa exigencia un destinatario y un plazo políticos concretos, noviembre será la ocasión en la que les pide actuar sobre las armas autónomas letales.