Línea superior
El Papa León XIV utilizó el lunes su primera encíclica para advertir que la humanidad está utilizando la inteligencia artificial, la automatización masiva y el rápido progreso tecnológico para construir una moderna “Torre de Babel”, compartiendo una visión apocalíptica de un mundo definido por la codicia, la inmoralidad y la falta de respeto por la vida humana.
El Papa León XIV estuvo presente en la presentación de su primera Carta Encíclica “Magnifica Humanitas” centrada en el auge de la inteligencia artificial, en el Vaticano.
AFP vía Getty Images
Hechos clave
El Papa publicó el lunes una carta abierta de 83 páginas, titulada “Magnifica Humanitas” (Gran Humanidad), que analiza el capitalismo, la inmigración y las ambiciones tecnológicas en una declaración que ha sido descrita como una de las encíclicas más audaces en décadas.
El líder católico centró gran parte de su discurso en el rápido progreso y la implementación de la inteligencia artificial, teorizando que las empresas de tecnología se están volviendo más poderosas que los gobiernos y advirtiendo que la economía de la IA es similar a la esclavitud y creará “humanos de segunda clase”.
El Papa León emitió la advertencia más espantosa al señalar que la humanidad corre el riesgo de construir una nueva “Torre de Babel”, la historia bíblica en la que Dios interviene para detener la arrogancia y la extralimitación humanas al confundir el lenguaje y destruir la unidad.
Como lo explicó el Papa, la humanidad está construyendo un sistema tecnológico que no podrá controlarse durante mucho tiempo y que, en última instancia, ampliará la brecha entre los pobres y la élite, eliminará la empatía y creará una clase diferente de valores humanos.
El Papa también utilizó su carta para emitir su más fuerte condena papal a la política antiinmigrante en años, criticando duramente el capitalismo moderno y sugiriendo que el daño climático es un crimen moral contra los pobres.
Lo que dice el Papa León sobre cómo Ai podría crear la moderna ‘Torre de Babel’
A medida que la tecnología continúa desarrollándose, el Papa dijo que la humanidad enfrenta la opción de “construir una nueva Torre de Babel o construir una ciudad donde Dios y la humanidad vivan juntos”. La historia bíblica habla de un esfuerzo humano por construir una ciudad que ponga a la humanidad a la par de lo divino. “Cuando una ciudad se construye con orgullo y pretende ser autosuficiente, la comunicación se interrumpe, el lenguaje se confunde y las personas ya no se entienden. El resultado no es la unidad, sino la dispersión. Babel es, por tanto, el límite de todos los esfuerzos que, por grandiosos que sean, nacen de la autoafirmación, sacrifican la dignidad humana en aras de la eficacia y aspiran a alcanzar el cielo sin la bendición de Dios”, afirmó el Papa León. “Debemos, pues, evitar el “síndrome de Babel”, que es la idolatría de beneficios que son débiles sacrificios, una uniformidad que neutraliza las diferencias y la pretensión de que un solo lenguaje – incluso digital – puede traducirlo todo, incluido el misterio de las personas, en datos y en resultados. El riesgo de la deshumanización – de construir un futuro que no incluya a Dios y reduzca al otro y siempre significa – es el presente”.
El Papa advierte que Ai World creará máxima vigilancia y ‘humanos de segunda clase’
La carta advertía que los avances tecnológicos podrían erosionar la libertad humana. “Otro riesgo, menos visible pero no menos grave, es que el control social sea posible mediante la recopilación de datos masivos y el uso de sistemas algorítmicos. Si cada acción -movimiento, compras, relaciones y preferencias- deja un rastro, emerge una nueva forma de poder, que es el poder de perfilar, predecir e influir en el comportamiento, a menudo sin que el individuo sea plenamente consciente de ello”, escribió. “La libertad en la era digital no es sólo una cuestión de interioridad sino también de preocupación pública… En la raíz de este problema se encuentra una mentalidad tecnocrática y posthumanista que tiende a considerar a la persona humana como un objeto que debe ser manipulado o un recurso que puede ser optimizado, eliminando todas las salvaguardias contra la búsqueda desenfrenada de ganancias. Lo que prevalece es cierta libertad y humanidad, en lugar de respeto por el presente. Imaginando a los seres humanos “de segunda clase”, sujetos a los intereses de las elites que se consideran superiores.”
La inteligencia artificial no tendrá moralidad, advierte el Papa
El Papa León advirtió contra el uso de sistemas de armas impulsados por IA en la guerra, argumentando que la tecnología haría que los resultados de los conflictos estuvieran menos sujetos al control humano. “Esto viola el principio de que las armas deben usarse sólo como último recurso en casos de legítima defensa. Por esta razón, el desarrollo y uso de la IA en la guerra debe estar sujeto a las restricciones éticas más rigurosas, para garantizar el respeto a la dignidad humana y la santidad de la vida y no una carrera para desarrollar tales armas”, afirmó. “A veces se habla de ‘agentes morales artificiales’, como si la máquina pudiera distinguir entre el bien y el mal con mayor coherencia que los humanos. Sin embargo, el juicio moral no se puede reducir al cálculo, porque implica conciencia, responsabilidad personal y el reconocimiento de los demás como personas. Por lo tanto, no se permite confiar en la decisión hasta la muerte o de otra manera moralmente inaceptable.
Cita del Papa de Tolkien “El señor de los anillos”
La carta citaba el personaje de Gandalf de la obra “El Señor de los Anillos” del autor JRR Tolkien: “‘No es nuestra parte gobernar todas las mareas del mundo, sino hacer lo que está en nosotros para ayudar durante los años en los que estamos fijados, eliminar el mal en los campos que conocemos, para que los que vivan después tengan una casa limpia’. La civilización del amor no surgirá de un gesto único o espectacular, sino del conjunto de pequeñas y firmes acciones de lealtad que sirven de baluarte contra la deshumanización. Por esta razón, vale la pena detenerse a reflexionar sobre algunos aspectos de cómo nosotros, cada uno a nuestra manera, podemos trabajar juntos en la construcción de una civilización del amor.
Lectura adicional
Funcionarios antrópicos se unirán al Papa León para la nueva declaración de política de la Iglesia de AI (Forbes)
