El pontífice reconoce la capacidad de la tecnología para derribar barreras, pero advierte del riesgo de entregar a sistemas automatizados decisiones que exigen juicio moral y responsabilidad. Su intervención refuerza la apuesta de la Santa Sede por una gobernanza internacional de la IA centrada en la dignidad de la persona.
El papa León XIV volvió a marcar este miércoles una frontera ética frente al avance de la inteligencia artificial: las máquinas pueden asistir al ser humano, ampliar sus capacidades y facilitar la comunicación, pero no deben sustituir su conciencia ni liberarlo de la responsabilidad sobre sus decisiones.
Durante su audiencia general semanal en la plaza de San Pedro, el pontífice advirtió contra la creciente tendencia a confiar a los algoritmos elecciones que no pueden reducirse a cálculos de eficiencia, probabilidades o análisis de datos.
“El desarrollo tecnológico, la difusión de los medios de comunicación de masas y de las redes sociales, y el recurso cada vez mayor a la inteligencia artificial abren nuevas posibilidades, al derribar barreras y distancias”, reconoció.
Pero esa expansión tecnológica también tiene un reverso. “Las relaciones tienden a volverse cada vez menos personales, cada vez más virtuales, y corremos el riesgo de acostumbrarnos a delegar en los algoritmos decisiones que solo competen a la conciencia humana”, advirtió ante los miles de fieles congregados en el Vaticano.
El problema no es la tecnología, sino la renuncia humana
La reflexión de León XIV no presenta la inteligencia artificial como una fuerza necesariamente contraria al ser humano. Su advertencia se dirige, más bien, contra la posibilidad de que las personas, las empresas y las instituciones terminen utilizando los sistemas automatizados como una forma de eludir su propia responsabilidad.
Un algoritmo puede clasificar información, predecir comportamientos y recomendar una acción, pero no posee conciencia moral ni puede responder por las consecuencias de una decisión. Tampoco experimenta compasión, sufrimiento o responsabilidad, aunque sea capaz de imitar mediante el lenguaje algunas de esas cualidades.
La cuestión resulta especialmente delicada cuando la automatización interviene en decisiones relacionadas con el empleo, el acceso al crédito, la salud, los servicios públicos, la reputación de una persona o incluso el uso de la fuerza.
La aparente neutralidad técnica puede ocultar criterios, prejuicios e intereses incorporados durante el diseño del sistema. Si una decisión perjudicial se atribuye simplemente a “lo que determinó el algoritmo”, también se vuelve más difícil identificar quién debe explicarla, corregirla o responder por ella.
Una doctrina sobre la inteligencia artificial
La intervención se inscribe en una reflexión más amplia desarrollada por León XIV desde el comienzo de su pontificado. En mayo dedicó su primera encíclica, Magnifica Humanitas, a la protección de la persona en la era de la inteligencia artificial.
En ese documento, el papa reclamó “desarmar” la tecnología para impedir que ejerza un dominio sobre lo humano. La expresión no plantea abandonar la innovación, sino someterla a reglas, responsabilidades y objetivos compatibles con el bien común.
La encíclica sostiene que la inteligencia artificial no puede considerarse moralmente neutra, porque todo sistema técnico incorpora decisiones sobre aquello que mide, prioriza, excluye u optimiza.
León XIV también rechaza la idea de equiparar la IA con la inteligencia humana. Los sistemas pueden superar a las personas en velocidad de cálculo y tratamiento de datos, pero no viven experiencias, no maduran mediante relaciones y no comprenden desde dentro realidades como el amor, la amistad, el trabajo, el perdón o la responsabilidad.
Relaciones más virtuales y menos personales
Durante la audiencia general, el pontífice vinculó el debate tecnológico con la calidad de las relaciones humanas.
“Velar para que las relaciones sociales tengan una verdadera consistencia y una profundidad personal es, en este sentido, la contribución que la comunidad cristiana se propone ofrecer”, afirmó.
La preocupación de la Iglesia no se limita, por tanto, a los posibles fallos de los modelos o a los riesgos de seguridad. También abarca la transformación de los vínculos sociales cuando la conversación, la compañía, el cuidado o la orientación personal comienzan a ser sustituidos por interacciones artificiales.
Un sistema puede simular empatía, pero no establecer una relación humana auténtica. El riesgo, según la perspectiva expresada por el Vaticano, no consiste únicamente en confundir una máquina con una persona, sino en perder gradualmente el deseo o la capacidad de construir vínculos reales.
La Santa Sede pide una gobernanza internacional
Las advertencias del pontífice coinciden con la inquietud creciente dentro del propio sector tecnológico. Directivos de empresas como Anthropic, OpenAI y xAI han reclamado mayores salvaguardias ante el desarrollo de modelos más autónomos y potentes.
La Santa Sede ha intensificado durante los últimos meses sus llamamientos a favor de una gobernanza internacional de la inteligencia artificial basada en la dignidad humana, la transparencia y la identificación clara de responsabilidades.
El Vaticano ha prestado especial atención al uso de sistemas automatizados en los ámbitos militar, nuclear, cultural y artístico. En las decisiones irreversibles —especialmente aquellas que afectan a la vida y la muerte—, la posición defendida por León XIV es inequívoca: la responsabilidad debe permanecer siempre en manos humanas.
Su mensaje introduce así una pregunta que trasciende el debate religioso: no solo qué puede hacer la inteligencia artificial, sino qué decisiones está dispuesto el ser humano a entregarle. Para León XIV, el progreso deja de ser verdaderamente humano cuando la eficiencia tecnológica ocupa el lugar de la conciencia.
