El Papa León XIV presentó este lunes en el Vaticano su nueva encíclica Magnifica Humanitas (“Magnífica Humanidad”), un documento centrado en el impacto de la tecnología y la inteligencia artificial en la sociedad, en el que incluyó una llamativa referencia a "El señor de los anillos" para definir el rol de la humanidad frente a estos avances.
En un gesto poco habitual, el propio pontífice encabezó la presentación del texto, acompañado por altos prelados, teólogos y Christopher Olah, cofundador de la empresa de inteligencia artificial Anthropic. La encíclica, estructurada en cinco capítulos, plantea una mirada crítica pero no condenatoria sobre la tecnología.
Dentro del apartado “Todos podemos hacer nuestra parte”, León XIV citó al autor de El señor de los anillos para enmarcar la responsabilidad humana: “El autor católico del siglo XX J.R.R. Tolkien, en palabras de uno de los protagonistas de sus novelas, describió nuestra responsabilidad de esta manera: ‘No nos corresponde dominar todas las mareas del mundo, sino hacer lo que está en nosotros para el socorro de los años en que vivimos, arrancando el mal de los campos que conocemos, para que quienes vengan después puedan encontrar tierra limpia para labrar’”.
El Papa León XIV citó a "El señor de los Anillos".
El documento sostiene que la tecnología no debe ser vista como una amenaza en sí misma. Según se expresa, no es “una fuerza antagonista a la humanidad” ni “intrínsecamente malvada”. Sin embargo, advierte que “nunca es neutral, porque adopta las características de quienes la conciben, financian, regulan y utilizan”.
Uno de los ejes centrales del texto es la advertencia sobre la concentración del poder tecnológico. “La IA tiende a acrecentar el poder de quienes ya poseen recursos económicos, experiencia y acceso a datos”, señaló el Papa.
En esa línea, agregó: “Grupos pequeños pero muy influyentes pueden moldear la información y los patrones de consumo, influir en los procesos democráticos y orientar las dinámicas económicas en su propio beneficio, socavando la justicia social y la solidaridad entre los pueblos”.
La encíclica profundiza esa preocupación al remarcar que “cuando ese poder se concentra en manos de unos pocos, tiende a volverse opaco y a evadir la supervisión pública, aumentando el riesgo de formas distorsionadas de desarrollo que dan lugar a nuevas dependencias, exclusiones, manipulaciones y desigualdades”.
El Papa León XIV.
León XIV también puso el foco en el impacto social de la inteligencia artificial en la vida cotidiana. Advirtió sobre el riesgo de que las personas pierdan el interés en vincularse con otros seres humanos debido a la interacción con agentes artificiales.
Además, alertó que delegar decisiones en sistemas automatizados puede “fomentar una dependencia excesiva y la búsqueda de respuestas prefabricadas, debilitando la creatividad y el juicio personal”.
Otro de los conceptos destacados del documento es la necesidad de “desarmar” la inteligencia artificial, entendiendo esto como liberarla de una lógica de competencia “armada”, tanto en el ámbito militar como en el económico y cognitivo.
Asimismo, el Papa advirtió sobre la aparición de “nuevas formas de esclavitud”, vinculadas tanto a la explotación laboral y ambiental como a prácticas dentro de la industria tecnológica, incluyendo el uso de material protegido por derechos de autor para entrenar modelos y la extracción de minerales necesarios para el hardware.
En el plano militar, León XIV fue enfático al señalar que la responsabilidad por acciones letales debe permanecer en manos humanas, y llamó a establecer regulaciones internacionales frente al avance de las armas automatizadas.
Finalmente, el pontífice cerró con una advertencia sobre el ritmo de adopción tecnológica: “Llamar a la prudencia, a una evaluación rigurosa e incluso, en ocasiones, a un ritmo más lento en la adopción de la IA no significa oponerse al progreso; es, por el contrario, un ejercicio de cuidado responsable hacia la familia humana”.
