El Papa León XIV recibió elogios en línea por expresar preocupaciones sobre la IA en su encíclica. (Foto de Jakub Porzycki/NurPhoto vía Getty Images)
NurPhoto a través de Getty Images
La Iglesia católica ahora tiene poco tiempo.
El Papa León XIV (el primer Papa estadounidense, de Chicago) ha sido durante mucho tiempo un crítico destacado de la IA generativa, y ha colocado a la Iglesia Católica como la voz moral que dice la verdad al poder de Silicon Valley.
En su primera encíclica, el Papa León describió sus preocupaciones, no solo sobre la IA generativa, sino también sobre las importantes opciones que enfrenta la humanidad en nuestro acelerado mundo moderno.
“En la era de la inteligencia artificial, cuando la dignidad humana se ve amenazada por nuevas formas de deshumanización, es nuestro deber seguir siendo profundamente humanos”, escribió el Papa.
La encíclica subraya la importancia de la toma de decisiones colectiva y de la dignidad humana, advierte contra la concentración del poder y del beneficio en manos de unos pocos y condena “la idolatría del beneficio que sacrifica a los débiles”.
En las redes sociales, los críticos de la IA estaban encantados de ver que el Papa se había unido a sus filas, viendo la encíclica como un documento poderoso que podría fortalecer la creciente reacción contra la IA.
Después de todo, el Papa es considerado el representante de Dios en la Tierra: los 1.400 millones de católicos en todo el mundo parecen tomarse en serio su cuestión.
La encíclica, titulada “Magnifica Humanitas” (La Humanidad Magnífica), es larga, pero vale la pena leerla: es un argumento reflexivo contra el desarrollo de la IA generativa y otras tecnologías.
Los usuarios de las redes sociales elogiaron al Papa Leo por abordar temas que preocupan a la Generación Z, alimentando temores de un desempleo generalizado, desinformación y la proliferación de “IA-basura”.
Muchos comentaristas publicaron memes sobre el inesperado aumento de aliados.
Otros bromean acerca de regresar a la Iglesia católica después de una vida de agnosticismo y ateísmo.
Muchos publicaron memes sobre la próxima “Yihad Butleriana”, una broma inspirada en la tradición de dunas de arena.
¿Qué significa la ‘jihad butleriana’?
El icónico de Frank Herbert. dunas de arena La novela (que ahora está experimentando un renacimiento, gracias a los éxitos de taquilla liderados por Timothée Chalamet), contiene una parte intrigantemente profética de la construcción del mundo.
Si alguna vez te has preguntado cómo se representa el futuro de la ciencia ficción dunas de arena Parece carecer de software complejo, eso se debe a que el universo de Herbert experimentó una rebelión violenta contra la “máquina pensante”, conocida como la Jihad Butleriana.
Si bien el retrofuturismo es una estética de ciencia ficción bastante común (la más famosa, guerra de las galaxias), cual dunas de arena La película carece de computadoras por una buena razón.
Herbert imagina un universo en el que los humanos sufren un desplazamiento devastador después de tomar la decisión de fabricar máquinas, lo que conduce a un impulso explosivo hacia atrás y una renovación espiritual para la humanidad.
en dunas de arenaLa creación de “máquinas pensantes” está prohibida, razón por la cual las máquinas existentes parecen simples y orgánicas, y dependen de la capacidad mejorada de Spice para realizar cálculos complejos y navegar en naves espaciales.
Sin embargo, la enciclopedia del Papa León no pide la destrucción masiva de los centros de datos, a pesar del entusiasmo de los críticos de la IA.
¿Qué dijo el Papa León XIV en su encíclica ‘anti-IA’?
Los memes en torno a la encíclica del Papa son una interpretación bastante superficial del argumento, presentada por capturas de pantalla y titulares (inesperado, dada la naturaleza de los memes).
La encíclica profundiza en los peligros de la IA, pero también destaca el problema de la desigualdad, la deshumanización y la normalización de la guerra, al tiempo que enfatiza la importancia de la solidaridad, la compasión y la responsabilidad compartida.
No se centra en la IA, sino que refleja el estado actual de la humanidad y el camino a seguir, preguntando qué tipo de tecnología se está construyendo y a quién sirve.
El Papa aclaró que la tecnología no es mala, pero “no es neutral, porque requiere las características de las personas que la diseñan, la financian, la gestionan y la utilizan”.
Algunas encíclicas se leen como una condena de las filosofías de “maximización de la vida” que surgen de Silicon Valley, mencionan el transhumanismo y el peligro de intentar perfeccionar el cuerpo humano, animando a los lectores a aceptar las limitaciones y debilidades.
El Papa se refirió a dos historias bíblicas como una bifurcación metafórica en el camino que enfrenta la humanidad en la era digital, reflejando el auge de la IA generativa y otras tecnologías.
Utiliza la historia de la Torre de Babel como ejemplo de un proyecto arrogante que sacrifica “la dignidad humana por la eficiencia” y, en última instancia, está condenado al fracaso.
La reconstrucción del muro destruido de Jerusalén es el segundo piso, utilizado como ejemplo de esfuerzos constructivos liderados por la comunidad que no se basan en imponer “soluciones desde arriba”.
“Por un lado, está la Torre de Babel, donde el esfuerzo colectivo sigue un plan que domina y finalmente deshumaniza… Por otro lado, están las ruinas de Jerusalén, que bajo la dirección de Nehemías fue reconstruida pieza por pieza como un proyecto de responsabilidad compartida”.
El Papa instó a la gente a dejar de antropomorfizar a los LLM, señalando que los sistemas de IA “pueden imitar el lenguaje, el comportamiento y las habilidades analíticas, o incluso simular empatía y comprensión, pero no entienden lo que producen, porque carecen de la perspectiva afectiva, relacional y espiritual a través de la cual los humanos crecen en sabiduría”.
El Papa continuó aclarando que las herramientas de IA pueden ser útiles y ahorrar tiempo, pero señaló que incluso su utilidad puede ser peligrosa.
Pope sugirió que depender excesivamente de la IA corre el riesgo de dañar los recursos humanos y la creatividad, y que compartir conversaciones íntimas con chatbots puede ser peligroso y aislante.
Leo advierte contra ceder poder decisivo a la IA, eliminando la responsabilidad y la agencia humanas.
La encíclica es también un argumento ambiental, señalando que la IA consume mucha energía y es contaminante, e insta al desarrollo tecnológico sostenible para proteger nuestro planeta.
En general, el Papa sugirió que el desarrollo de la IA debería ralentizarse y guiarse por la retroalimentación pública, diciendo que el desarrollo de la IA por parte de un puñado de corporaciones multimillonarias magnifica la riqueza, el poder y la información disponibles.
El Papa reiteró un punto que los críticos han dirigido a los modelos de IA desde el principio: que los datos de entrenamiento provienen del público, sin permiso.
Este modelo simplemente no existiría sin el acceso a escritura, imágenes y medios creados por humanos: datos obtenidos no sólo de artistas, escritores y cineastas, sino también de usuarios cotidianos de las redes sociales que publican contenido en línea.
El Papa escribió: “Los datos son producto de muchos contribuyentes y no deben considerarse algo vendido o confiado a unos pocos elegidos”.
La encíclica se puede resumir mejor en una frase sucinta que diga:
“El desarrollo es verdaderamente humano cuando pone a las personas en el centro y no a la acumulación de riqueza.”
