Le pape Léon XIV a publié lundi sa première encyclique majeure, un document de 50 000 mots intitulé « Magnifica Humanitas », ou Humanité magnifique, qui appelle à une réglementation internationale de l’intelligence artificielle, à une surveillance humaine obligatoire des décisions importantes et à un cadre strict de gouvernance des données.
Christopher Hale a passé un an à couvrir l’intersection du pape Léon XIV, de la politique américaine et de l’ère numérique dans ses Lettres de Leo Substack. Il a analysé les implications encycliques pour Carlo Versano dans une interview sur Newsweek Le podcast 1600.
“Il reconnaît le caractère inévitable de l’intelligence artificielle. Il veut aider à utiliser l’institution de l’Église pour vraiment guider où elle va”, a déclaré Hale. Et il a prévenu que les dirigeants de la Silicon Valley qui pensent pouvoir survivre au pape et à son message sont naïfs.
Regardez ici : L’épisode complet du podcast 1600
La tour de Babel et le problème de la concentration
Léon XIV a ouvert l’encyclique avec la Tour de Babel, une histoire biblique sur un projet de construction qui s’est effondré sous des intérêts et des conflits concurrents.
“C’est une compréhension claire de ce qu’est le pire LLM”, explique Hale. “Hallucination.”
Mais la métaphore va plus loin. Leo considérait l’intelligence artificielle non pas comme une question technologique étroite, mais comme une question morale fondamentalement liée à la concentration du pouvoir. Lorsque Sam Altman, PDG d’OpenAI, a déclaré le lendemain de la parution de l’encyclique que l’intelligence devait être « mesurée » comme l’utilité, Hale a vu le problème décrit par Leo.
“Cette phrase est exactement ce que le pape Léon XIV a dit et ce pour quoi il se battait”, a déclaré Hale. “L’intelligence n’appartient pas à des entreprises privées. C’est un don de la création. Elle ne devrait pas appartenir. C’est un droit humain.”
Ce que demande réellement l’encyclique
L’encyclique formulait trois revendications concrètes. Leo souhaite un cadre conventionnel international afin qu’« une poignée d’acteurs » ne puissent pas « dicter ce processus à eux seuls ». Il a exigé une supervision humaine obligatoire dans toutes les décisions conséquentes affectant la vie humaine. Et il souhaite protéger la gouvernance des données, avertissant explicitement que “ceux qui gèrent les données de santé de l’ensemble de la société ont une influence structurelle sur l’avenir”.
Ce n’est pas un argument théorique. Ils attaquent directement la manière dont la Silicon Valley a bâti son activité.
“Le pouvoir institutionnel de l’Église catholique dépasse désormais celui des organismes multilatéraux comme les Nations Unies”, a déclaré Hale.
Il existe une entreprise prête à s’impliquer. Dario Amodei, PDG d’Anthropic, est apparu sur l’estrade avec le pape et a admis ce à quoi le laboratoire d’IA à lui seul ne pouvait pas répondre. Il pose trois questions spécifiques : Comment garantir que les pays pauvres bénéficient de l’IA ? À quoi ressemble le développement humain dans le monde de l’AGI ? Et concrètement, que construit-on ?
Hale contraste fortement avec la réponse d’Altman.
“Je ne peux tout simplement pas imaginer d’autres personnes dans la Silicon Valley”, a déclaré Hale.
Le critique De droite
La réponse de l’administration Trump n’a pas tardé. Le secrétaire d’État à l’Intérieur, Doug Burgum, s’est moqué du pape pour son intervention sur la politique technologique. David Sacks, le tsar de l’IA de Trump, a rejeté l’appel à la réglementation de l’encyclique, arguant que le contrôle gouvernemental constitue une plus grande menace que la concentration des entreprises.
“C’est un argument de la Silicon Valley selon lequel nous sommes meilleurs pour nous faire plaisir que le gouvernement”, a déclaré Hale. “Ils vont toujours jusqu’au bout en disant que le gouvernement utilisera son pouvoir pour réduire ce point de vue.”
Mais ce que la Silicon Valley a sous-estimé, affirme Hale, c’est la position institutionnelle unique du pape.
“Sa plus grande force est qu’il n’est vraiment responsable de personne sur cette planète. En tant que catholiques, nous croyons qu’il n’est responsable que devant Dieu. Et le pape ne peut pas être démis de ses fonctions. Vous ne pouvez pas le démettre de ses fonctions. Personne ne peut voter pour lui. Il ne peut pas être destitué”, a déclaré Hale. “Et donc je pense que ce que la Silicon Valley espère, c’est qu’ils puissent lui survivre et survivre à son message. Je pense que c’est naïf.”
L’encyclique s’est également heurtée à la résistance de la droite traditionaliste catholique. Matt Walther, le rédacteur en chef du Lamp, a déclaré que Leo n’était pas allé assez loin. Pour Walther, l’IA ne doit pas être réglementée ou désarmée. C’est mauvais et doit être supprimé.
“Il dit essentiellement que l’IA est légitimement mauvaise et que c’est un mal qui doit être vaincu”, a déclaré Hale à propos de la position de Walther.
Walther a également contesté l’ouverture de la Tour de Babel de Léon, arguant que le problème n’était pas que la tour manquait de participation des parties prenantes, mais quelque chose de plus fondamental concernant ses propres ambitions.
Identité américaine Pape Léon XIV
Hale a déclaré que Léon XIV avait été choisi lors du conclave, au moins en partie parce que les cardinaux voulaient quelqu’un qui comprenne Trump non seulement comme une figure politique mais comme un mouvement. En tant que pontife américain, Léon XIV a utilisé les médias américains – il regardait CNN comme « tous les baby-boomers en arrière-plan », dit Hale – et a compris la dynamique de la Silicon Valley d’une manière que son prédécesseur ne pouvait pas.
“Il est très préoccupé par l’IA et la guerre”, a déclaré Hale. “Et donc, d’après ce que j’ai compris de mon rapport, de ma conversation, il a été très impressionné par le courage d’Anthropic. Lors de cet événement.
Mais au-delà de la politique, Léon XIV témoigne de quelque chose de plus profond dans le scepticisme américain. Lorsqu’il parle de la concentration du pouvoir des entreprises et de la dignité des travailleurs, il ne s’adresse pas seulement aux catholiques.
“Si le pape Léon 14 réussit, les populistes sceptiques, les intermédiaires qui s’opposent aux centres de données, les journalistes sceptiques, j’espère que ce qu’il leur a donné est une grammaire morale à respecter”, a déclaré Hale. “Parce que je pense que nous parlons beaucoup de cela d’une manière politique. Et il en parle simplement avec une pure moralité.”
Ce que dit Lion à propos de la vie humaine
Mais l’argument de l’encyclique s’étend bien au-delà de la politique ou de la réglementation de l’IA. Au paragraphe 220, Leo prône la « perte de temps » – pour les rencontres avec la famille et les inconnus, pour les expériences qui ne sont pas mesurées ou optimisées, pour s’affranchir d’un protocole constant.
“Il veut que les rencontres humaines, les rencontres en face à face, les expériences non mesurées, les expériences hors protocole soient au premier plan de nos vies”, a déclaré Hale.
Cela représente une affirmation sur la signification de l’homme lui-même. La souffrance et les limites, déclare Leo, sont intrinsèques à l’amour et à l’épanouissement. Un monde de confort total, sans lutte, diminue ce que signifie être humain.
“S’il existe un monde avec un loisir total, un confort total et sans souffrance, l’expérience humaine de l’amour nous manque”, a déclaré Hale.
Regardez la conversation complète entre Christopher Hale et Carlo Versano dans le lecteur vidéo ci-dessus ou sur YouTube.
Abonnez-vous à la newsletter The 1600 pour plus d’interviews et recevez la chronique quotidienne populaire de Carlo. Appuyez ici pour le recevoir directement dans votre boîte de réception.
