Ciudad del Vaticano, Santa Sede. El papa León XIV pidió luchar contra el “dominio” de la inteligencia artificial en su primera encíclica publicada este lunes, un documento que también denuncia la “deshumanización” y el concepto de “guerra justa”.
El texto de 130 páginas, llamado Magnifica Humanitas (“Magnífica humanidad”), aborda multitud de cuestiones, como el retraso de la Iglesia en condenar la esclavitud o el impacto de la inteligencia artificial (IA) en el medio ambiente.
Las encíclicas son documentos dirigidos a todos los fieles que fijan la posición de referencia de la Iglesia sobre cuestiones sociales, morales, políticas o teológicas.
Dada la importancia del documento, el papa lo presentó él mismo junto a expertos en IA, entre ellos el cofundador de la compañía Anthropic, Christopher Olah.
“No podemos considerar a la IA como moralmente neutra”, indica el papa, pidiendo “desarmar” esta tecnología para “impedirle el dominio sobre lo humano”.
El papa denuncia también que el control de las plataformas, las infraestructuras y los datos “no es prerrogativa de los estados, sino de grandes actores económicos y tecnológicos que, de hecho, determinan las condiciones de acceso”.
Citando entre otros a Platón o J.R.R. Tolkien por su lucha contra la deshumanización, el papa estadounidense critica las “nuevas formas de esclavitud” para extraer los recursos necesarios para la IA y pide soluciones tecnológicas más sostenibles “para reducir el impacto sobre el medioambiente y cuidar nuestra Casa común”.
“En algunas regiones del mundo, adolescentes y niños trabajan en condiciones peligrosas en la trituración de los materiales de los que se obtienen las tierras raras”, un grupo de metales esenciales para la tecnología moderna.
“Cuerpos marcados, mutilados, desgastados para que el flujo de cálculos no se interrumpa”, denuncia el papa.
Contra las “guerras justas”
El obispo de Roma también aprovecha la encíclica para pedir “perdón” por el retraso histórico de la Iglesia en condenar la esclavitud.
Más allá de los desafíos tecnológicos, el papa advierte sobre el riesgo de “deshumanización”, alertando contra una visión del ser humano reducido a su rendimiento o a datos explotados por máquinas.
Desde su elección hace un año, el primer papa estadounidense de la historia ha multiplicado las advertencias sobre los peligros de la IA, especialmente su uso en el ámbito militar, y la necesidad de una “alfabetización digital”.
“Ningún algoritmo puede hacer que la guerra sea moralmente aceptable”, escribe León en la encíclica.
Los expertos creen que el impacto de Magnifica Humanitas podría ser comparable al de la encíclica Laudato Si de 2015, en la que el papa Francisco abordaba la cuestión ecológica y que desencadenó una ola de reacciones en todo el mundo.
Sin mencionar nombres, el soberano pontífice reitera la necesidad de “superar la teoría de la ‘guerra justa’”, un concepto defendido, entre otros, por la administración de Donald Trump, y lamenta que la humanidad esté “cayendo en la cultura violenta del poder” que normaliza la guerra como “instrumento de política internacional”.
En abril, la Casa Blanca criticó al papa por afirmar que “Dios no escucha las oraciones de quienes hacen la guerra”, en el contexto del conflicto en Oriente Medio.
En una rueda de prensa este lunes, el papa explicó que este texto surgió de “la escucha”, tras dialogar con científicos, ingenieros, responsables políticos, padres y docentes “preocupados” por las jóvenes generaciones.
“Necesitamos que más actores en el mundo —comunidades religiosas, sociedad civil, investigadores, gobiernos— hagan lo que Su Santidad ha hecho aquí: tomarse esto en serio, examinarlo con atención y orientar los acontecimientos en una dirección mejor”, declaró por su parte Christopher Olah.
Magnifica Humanitas culmina varios años de reflexión dentro la Iglesia sobre las tecnologías relacionadas con la IA.
En 2020, la Santa Sede lanzó, junto a empresas digitales e instituciones académicas, el Llamamiento de Roma para una ética de la IA, en el que abogaba por un desarrollo tecnológico respetuoso con la dignidad humana.