El Papa León XIV ha publicado hoy ‘Magnifica Humanitas’, un texto que aborda la inteligencia artificial desde una perspectiva ética, social y tecnológica con advertencias sobre el poder, el impacto en el trabajo y la guerra.
La inteligencia artificial ha dejado de ser un asunto exclusivo de laboratorios, empresas tecnológicas o reguladores. El Vaticano también ha decidido entrar en el debate global sobre la tecnología que comienza a redefinir la economía, el trabajo y las relaciones sociales. En este sentido, el papa León XIV ha publicado ‘Magnifica Humanitas’, su primera encíclica, un documento centrado en “la custodia de la persona humana en la era de la inteligencia artificial” que sitúa la cuestión tecnológica en el centro de la Doctrina Social de la Iglesia.
"La cuestión decisiva no es qué pueden hacer las máquinas, sino qué estamos dejando de hacer nosotros”
El texto, firmado coincidiendo con el 135 aniversario de ‘Rerum Novarum’, la primera encíclica social de la Iglesia que publicó León XIII, no plantea una oposición a la innovación tecnológica ni presenta una visión catastrofista sobre la inteligencia artificial. Sin embargo, sí establece una advertencia clara: el problema no reside en la tecnología en sí misma, sino en quién la controla, bajo qué intereses se desarrolla y qué modelo social termina construyendo.
De hecho, el documento resume esa preocupación con una de sus frases más contundentes: “La cuestión decisiva no es qué pueden hacer las máquinas, sino qué estamos dejando de hacer nosotros”.
La tecnología no es neutral
La tecnología “no es neutra” porque “asume el rostro de quien la concibe, la financia, la regula y la utiliza”
Uno de los ejes centrales de la encíclica pasa por desmontar la idea de neutralidad tecnológica. El papa León XIV sostiene que las herramientas digitales y los sistemas de inteligencia artificial incorporan las prioridades y decisiones de quienes los crean y financian. En este sentido, defiende que la tecnología “no es neutra” porque “asume el rostro de quien la concibe, la financia, la regula y la utiliza”.
Asimismo, el Sumo Pontífice recupera una preocupación recurrente en el ámbito tecnológico: la concentración de capacidades digitales en manos de un reducido número de actores privados. El texto alerta sobre el riesgo de que conocimientos y tecnologías queden monopolizados y amplíen la distancia entre quienes participan en la transformación digital y quienes permanecen fuera de ella.
El documento profundiza además en cómo se construyen estos sistemas y advierte de que los algoritmos no operan desde una posición completamente aséptica. Según la encíclica, “todo artefacto técnico lleva consigo decisiones y prioridades: lo que mide, lo que ignora, lo que optimiza y el modo en que clasifica personas y situaciones”.
Del mismo modo, el texto alerta sobre un riesgo menos visible vinculado a la apariencia de objetividad de los sistemas automatizados. La encíclica sostiene que puede existir “un engaño menos evidente, cuando los sistemas de IA, presentándose como neutrales y objetivos, reflejan y refuerzan estereotipos o posiciones ideológicas de quienes los han diseñado y programado”.
Código ético y supervisión humana
La encíclica dedica uno de sus capítulos completos a la inteligencia artificial y plantea un marco que conecta con algunos de los debates regulatorios que mantienen actualmente gobiernos y organismos internacionales. León XIV considera que la IA puede imitar comportamientos humanos, pero establece una separación clara entre simulación y capacidad humana real. Según la encíclica, estos sistemas “no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad”. Además, añade que “tampoco tienen una conciencia moral”.
“No sirve una IA más moral si esa moral la deciden unos pocos”.
Por ese motivo, el documento reclama una aproximación basada en la vigilancia, la responsabilidad y la supervisión y lanza una advertencia sobre quién define las reglas de esa futura gobernanza tecnológica: “No sirve una IA más moral si esa moral la deciden unos pocos”. Además, pide “políticas y marcos jurídicos adecuados”, supervisión independiente y educación para los usuarios.
En este sentido, la propuesta incorpora la creación de un código ético compartido sometido a principios de justicia social, un planteamiento que coincide con algunas iniciativas regulatorias internacionales orientadas a establecer sistemas de gobernanza para modelos de IA avanzados.
Trabajo, datos y nuevas desigualdades
La encíclica también traslada el debate hacia el impacto socioeconómico de la transformación digital. León XIV advierte sobre una transición tecnológica basada únicamente en parámetros de productividad y beneficio económico. El texto señala que las nuevas formas de trabajar no son necesariamente mejores y alerta sobre escenarios donde la automatización puede relegar trabajadores a funciones marginales o someterlos a sistemas de vigilancia automatizada.
Asimismo, el documento incorpora cuestiones menos habituales dentro del debate religioso, aunque plenamente vinculadas al ecosistema digital. Entre ellas aparecen la explotación asociada a la extracción de tierras raras necesarias para fabricar dispositivos tecnológicos o el “trabajo invisible, a menudo explotado, que alimenta los modelos algorítmicos”, en referencia a las tareas de etiquetado de datos, moderación y otras actividades poco visibles que sostienen el desarrollo de sistemas de inteligencia artificial.
Además, León XIV identifica una nueva forma de concentración de poder vinculada a la economía de los datos. Así, el texto advierte sobre un modelo que transforma información personal en un recurso explotable y convierte el entorno digital en un posible “espacio de depredación”.
La guerra y la petición de “desarmar” la IA
Uno de los mensajes más contundentes de 'Magnifica Humanitas' se refiere al ámbito militar. León XIV advierte que la inteligencia artificial no puede separarse de los riesgos asociados a su uso en escenarios de conflicto y cuestiona la idea de que una tecnología más avanzada pueda convertir la guerra en un proceso más racional o menos destructivo. En este sentido, el documento rechaza que la automatización aporte legitimidad ética al uso de la fuerza y sitúa la responsabilidad humana como un elemento irrenunciable.
“No existe ningún algoritmo que pueda hacer que la guerra sea moralmente aceptable”
La encíclica sostiene que “no existe ningún algoritmo que pueda hacer que la guerra sea moralmente aceptable”. El texto añade que la IA “no libera al conflicto de su intrínseca inhumanidad: sólo puede hacerlo más rápido e impersonal, bajando el umbral del recurso a la violencia y transformando la defensa en previsión operativa, con las víctimas reducidas a datos”.
La advertencia llega además en un momento marcado por el desarrollo de sistemas autónomos, herramientas de vigilancia inteligente y aplicaciones militares basadas en inteligencia artificial que comienzan a incorporarse a estrategias de defensa en distintos países.
"Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano”
Además, el Papa plantea la necesidad de “desarmar” la inteligencia artificial, aunque el concepto trasciende el ámbito estrictamente militar. El documento explica que esta idea implica “romper esta equivalencia entre poder tecnológico y derecho a gobernar” y “sustraerla a los monopolios”. El Papa precisa además que “desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano”.
De este modo, la encíclica plantea que el debate no debe centrarse únicamente en limitar determinadas aplicaciones bélicas, sino también en evitar que el control tecnológico termine concentrado en un reducido número de actores con capacidad para definir el futuro digital.
Más allá del componente religioso, ‘Magnifica Humanitas’ convierte la inteligencia artificial en una cuestión política, económica y social. La encíclica concluye que “si la técnica se convierte en criterio absoluto, la persona corre el riesgo de ser tratada como un dato, un engranaje o una mercancía”.
Si (
No(
