La expansión de la inteligencia artificial no solo está planteando preguntas sobre productividad, empleo o innovación, también está abriendo un debate sobre quién controla los sistemas que deciden qué vemos, qué información recibe visibilidad y qué personas pueden quedar fuera de determinados procesos. En este contexto, León XIV ha lanzado una advertencia especialmente dirigida a los legisladores: la IA puede convertirse en una «forma sutil de dominio» si las decisiones tomadas por algoritmos dejan de estar sometidas a una supervisión suficiente y nadie puede exigir responsabilidades por sus consecuencias.
El mensaje fue pronunciado ante los participantes de la reunión de la International Catholic Legislators Network, celebrada en el Vaticano, según el relato oficial recogido por Vatican News, el Papa relacionó el desarrollo de estas tecnologías con una antigua tentación de ejercer poder sin ponerlo al servicio de las personas. Su preocupación no se limita a los modelos de inteligencia artificial en sí mismos, el foco está también en las plataformas, sus algoritmos y las reglas que determinan cómo se distribuye la información y la atención.
Uno de los puntos centrales de la advertencia es la capacidad de los sistemas algorítmicos para influir en la conversación pública, las plataformas utilizan algoritmos para ordenar publicaciones, recomendar vídeos, seleccionar contenidos y determinar qué información aparece ante cada usuario. Aunque estas decisiones pueden parecer puramente técnicas, terminan teniendo consecuencias sociales cuando determinan qué personas, opiniones o mensajes consiguen alcanzar una audiencia y cuáles permanecen prácticamente invisibles.
Para Leon XIV, el problema aparece cuando este poder no está acompañado de suficiente transparencia o rendición de cuentas, por eso reclama reglas legales claras, vigilancia independiente y usuarios suficientemente informados. La tecnología, desde esta perspectiva, no debería funcionar como una caja negra cuyas decisiones afectan a millones de personas sin que exista una forma efectiva de conocer sus criterios o cuestionar sus resultados, el Papa también pide que los gobiernos mantengan su responsabilidad frente a estos sistemas, la regulación, según su planteamiento, debe proteger a los ciudadanos frente a la explotación, garantizar la privacidad y exigir transparencia a quienes desarrollan y utilizan estas tecnologías.
Otro de los riesgos señalados está relacionado con la enorme cantidad de información que pueden recopilar los sistemas de IA, un asistente capaz de mantener conversaciones prolongadas puede llegar a conocer aspectos muy personales de un usuario: sus preferencias, preocupaciones, hábitos o intereses. Esa información puede permitir que los sistemas adapten sus respuestas de una manera cada vez más personalizada, el problema, según esta perspectiva, no es únicamente que una empresa tenga acceso a determinados datos, sino el poder que puede surgir de conocer y analizar de manera tan precisa a millones de personas.
La preocupación se extiende también a las plataformas que utilizan sistemas de recomendación y personalización, si un algoritmo conoce qué genera una reacción determinada en una persona, puede utilizar esa información para decidir qué contenidos mostrarle y durante cuánto tiempo mantener su atención. Por eso, la privacidad deja de ser únicamente una cuestión relacionada con proteger información personal y pasa a convertirse también en una cuestión de autonomía y capacidad de decisión.
La advertencia de León XIV también tiene una dimensión geopolítica, los países con menos recursos pueden depender cada vez más de las infraestructuras, modelos de IA y servicios tecnológicos desarrollados por las grandes compañías y economías más avanzadas. Esta dependencia puede afectar no solo a la capacidad tecnológica de un país, sino también a qué lenguas, valores y prioridades reciben mayor presencia dentro de los sistemas digitales.
El Papa advierte así del riesgo de que la expansión de la inteligencia artificial termine generando una nueva forma de "colonialismo ideológico o económico", especialmente cuando las sociedades con menos capacidad tecnológica no pueden decidir por sí mismas qué infraestructuras utilizan o cómo se desarrollan determinados sistemas. La cuestión, por tanto, no sería únicamente quién tiene los mejores modelos, sino quién controla la infraestructura y establece las reglas sobre las que funcionan.
León XIV también sitúa a la familia en el centro de su reflexión sobre la IA, el Papa la define como la "primera escuela de humanidad" y advierte del riesgo de que las relaciones humanas terminen reducidas a datos, perfiles o simulaciones, la preocupación adquiere especial relevancia en el caso de los menores, que están cada vez más expuestos a sistemas capaces de conversar, recomendar contenidos o generar respuestas personalizadas.
Desde este planteamiento, no bastaría simplemente con incorporar filtros de seguridad, los padres también necesitan herramientas comprensibles, información y recursos que les permitan acompañar a los menores en el uso de estas tecnologías. La cuestión de fondo es evitar que la interacción con sistemas automáticos sustituya progresivamente experiencias fundamentales como el diálogo, la confianza, la educación y las relaciones personales.
El trabajo es otro de los ámbitos en los que León XIV pide establecer límites, la búsqueda de una mayor eficiencia puede llevar a las empresas a utilizar sistemas automáticos para tomar decisiones relacionadas con empleados, desde la selección de candidatos hasta la organización de turnos o la evaluación del rendimiento, el problema aparece cuando la eficiencia del algoritmo se convierte en el único criterio y la persona queda subordinada a una decisión que no comprende o que no puede cuestionar.
La advertencia conecta así con uno de los grandes debates actuales sobre la IA, qué decisiones deberían poder delegarse completamente en una máquina y cuáles requieren necesariamente intervención y responsabilidad humana. No se trata únicamente de cuántos empleos puede transformar la inteligencia artificial, sino también de cómo se toman las decisiones sobre las personas cuando la IA entra en los procesos empresariales.
El mensaje de León XIV no plantea detener el desarrollo tecnológico, su propuesta va en otra dirección: establecer límites y mecanismos de control para que el progreso tecnológico permanezca subordinado a las personas, la creatividad y la innovación, desde esta perspectiva, necesitan reglas que permitan determinar quién responde cuando un sistema causa un perjuicio, cómo se protegen los datos personales y qué grado de supervisión humana debe existir cuando una decisión automática puede afectar de forma importante a una persona.