Bonjour et bienvenue sur Eye on AI. Dans cette édition…Le pape prend l’IA…Microsoft étant la dernière entreprise à « péer » certains de ses systèmes… OpenAI résout (vraiment) le problème d’Erdös… et le son que vous entendez est une dissonance cognitive dans la tête de JD Vance.
Lorsque le cardinal d’origine américaine Robert Prévost a été élu pape l’année dernière, il a choisi Léon comme nom papal, en partie pour honorer l’héritage du pape Léon XIII. Le pape Léon présidait auparavant le trône de Saint-Pierre à la fin du XIXe siècle, à une époque de changements technologiques rapides et de bouleversements économiques dus à la deuxième révolution industrielle. Il est surtout connu pour son encyclopédie de 1891 « Rerum Novarum » (latin pour « Choses nouvelles ») qui traitait du sort de la classe ouvrière et des obligations morales que les propriétaires de capitaux et les entreprises avaient envers les travailleurs et les pauvres. Il est considéré comme un document fondamental de la doctrine sociale catholique. Eh bien, le pape Léon XIV a publié la première encyclique de sa papauté, qui vise explicitement à faire écho à la préoccupation de son prédécesseur pour la condition des travailleurs, mise à jour pour l’ère de l’IA.
Appelée « Magnifica Humanitas » (ou « Magnifique Humanité », en anglais), l’« Encyclique sur l’IA » de Leo, publiée lundi, compte 42 300 mots dans sa version anglaise (soit environ la moitié de la longueur de nombreux livres). À la base, l’encyclique plaide pour que l’IA soit utilisée comme un outil d’autonomisation et de dignité humaine – plutôt que comme quelque chose de plus fondamental dans le monde. davantage de processus sont gérés par l’IA.
Tour de Babel contre reconstruction de Jérusalem
Compte tenu de sa longueur, l’encyclique en dit long. Le pape utilise la tour de Babel comme métaphore de l’orgueil technologique et oppose cela à l’histoire de Néhémie, qui a reconstruit les murs de Jérusalem après l’exil babylonien. Néhémie n’a pas reconstruit le mur uniquement selon sa propre vision, mais a plutôt jeûné, prié et médité en silence avant de convoquer toutes les familles de la ville, leur assignant chaque partie du mur à réparer et jugeant tous les conflits entre elles. Le Pape utilise cela comme une métaphore pour une construction technologique plus inclusive et collaborative.
Certaines des dispositions clés de l’encyclique sont les suivantes : elle appelle à une réglementation accrue de la gouvernance des entreprises privées qui encouragent le développement de l’IA ; appelle à la responsabilisation des entreprises qui construisent des modèles d’IA et de celles qui déploient cette technologie ; et a appelé à la transparence sur les outils algorithmiques, en particulier ceux utilisés dans la prise de décision gouvernementale, et a déclaré que ces outils devraient être vérifiés, ce que de nombreux systèmes d’IA modernes basés sur LLM ne le sont pas.
Considérant le travail comme fondamental pour la dignité humaine, l’encyclique appelle à des mesures pour protéger les emplois et reconvertir les travailleurs déplacés par l’IA. Il appelle à des mesures pour protéger les enfants contre les contenus nuisibles générés par l’IA et soutient les gouvernements imposant des limites d’âge pour l’utilisation de la technologie numérique. Cela considère l’éducation comme jouant un rôle essentiel pour enseigner à la prochaine génération comment penser de manière critique et utiliser les outils numériques de manière à améliorer leur capacité d’action humaine, et non à la nuire. En affirmant que les communautés du monde entier devraient avoir le droit d’élaborer des lignes directrices éthiques et morales qui régissent l’action des modèles d’IA, ce pouvoir n’est donc pas laissé entre les mains d’une petite poignée d’entreprises et de certains pays. Comme l’écrivait le Pape :
“Une IA plus morale ne suffit pas si cette moralité est déterminée par quelques-uns. Ce qu’il faut, c’est une implication politique plus active, capable de ralentir les choses quand tout s’accélère, et de protéger la possibilité pour la communauté de pouvoir toujours participer et poser des questions.”
publicité
publicité
Il a également déclaré que l’IA ne devrait pas être utilisée pour développer des armes autonomes mortelles. Comme l’a écrit le Pape, “le jugement moral ne peut être réduit au calcul, car il implique la conscience, la responsabilité personnelle et la reconnaissance des autres en tant que personnes. Il n’est donc pas permis de confier la décision à la mort ou de revenir à un système artificiel”.
Autant que le pape Léon l’a dit dans le thème central des échos encycliques de mon propre livre, Maîtriser l’IA : un guide de survie pour notre avenir surpuissant, Il n’y a pas grand-chose dans l’encyclopédie avec lequel je vais chipoter. Cela dit, une grande partie de ce que le Pape appelle est facile à dire mais difficile à mettre en pratique et, comme toujours, le diable (ou Dieu dans ce cas) se cache dans les détails.
Il est peu probable que l’encyclique ait un réel impact sur la manière dont les entreprises développent l’IA ou sur la manière dont les pays la réglementent. Noreen Herzfeld, directrice de programme en technologie et éthique à la St. John’s School of Theology and Seminary à Collegeville, Minnesota. New York Times: “Je ne pense pas que les ‘tech bros’ de la Silicon Valley écouteront beaucoup. Mais je pense qu’à l’intérieur de l’église, ce sera là comme référence pour les prêtres et les évêques et surtout pour ceux d’entre nous qui forment des séminaristes ou des jeunes.
Le Vatican est-il trop cosy et anthropique ?
Même si je ne trouve pas grand-chose à redire à l’encyclique du Pape, d’autres se situent à gauche et à droite de la politique en matière d’IA. Timnit Gebru, chercheur bien connu sur l’éthique de l’IA et l’IA responsable, a attaqué le Vatican pour sa décision d’inviter des représentants d’Anthropic à s’asseoir avec le pape Léon lors de la présentation encyclique de lundi. Ce représentant est Chris Olah, co-fondateur d’Anthropic et pionnier de « l’interprétation mécaniste », une technique de pointe pour sonder le fonctionnement interne des grands réseaux de neurones afin de tenter de découvrir comment ils obtiennent leurs résultats. Selon un article publié sur un site Web sur le « sentimentisme », ou la croyance selon laquelle tous les êtres vivants devraient avoir des droits moraux, Olah est décrit comme un « athée et végétalien ». Et bien sûr, Anthropic a adopté une position très préoccupée par la sécurité de l’IA, y compris le risque existentiel de l’IA (une position que des critiques comme Gebru considèrent comme du simple marketing, sans réelle différence entre Anthropic, OpenAI, Google DeepMind et autres).
publicité
publicité
Écrivant sur LinkedIn, Gebru a attaqué le Vatican pour avoir « sauté dans le train des mecs qui veulent gagner des milliards avec leurs introductions en bourse ». Il a également déclaré que c’était la preuve que “les dirigeants d’entreprises, de fondations, de gouvernements, d’institutions religieuses établies… Ils sont tous dans la même chambre d’écho”. Elle a reproché au Vatican de ne pas avoir critiqué Anthropic pour « avoir volé des données, exploité le travail, détruit l’environnement, nous avoir trompé avec des conceptions anthropomorphiques et avoir menti sur les « capacités des produits ». Il a comparé le travail du Vatican avec Anthropic pour discuter des risques éthiques et moraux potentiels de l’IA pour « les partenaires et la famille Sackler ». Il a déclaré que le Vatican pourrait choisir de coopérer avec les travailleurs des données exploités ou ceux qui luttent contre les centres de données, au lieu de créer de puissantes entreprises technologiques.
Ne pas comprendre le défi de l’IA pour l’excellence humaine
Pendant ce temps, Dean Ball, un penseur libertaire en matière de politique en matière d’IA qui a brièvement servi comme conseiller politique en matière d’IA pour l’administration Trump, a déploré que nombre de ses collègues conservateurs semblaient enthousiastes face à tous les appels à l’intervention du gouvernement dans l’encyclique et a attaqué le Vatican pour son approche trop étroite d’esprit en matière d’IA. Il a déclaré que cette fonction ressemble beaucoup à un technocrate européen typique, appelant à telle ou telle réglementation, tout en niant que l’IA présente un défi fondamental à la supériorité de l’intelligence humaine.
Dans un article sur X, Dean souligne qu’Olah, dans son discours lors de la présentation de l’encyclique, contredit directement une partie du document papal. Olah a déclaré que ses propres recherches sur les modèles d’IA sont toujours « à la recherche de choses mystérieuses, voire troublantes. Nous trouvons des structures qui reflètent les résultats de la neuroscience humaine. Nous trouvons des preuves d’introspection. Nous trouvons des conditions internes qui reflètent (fonctionnellement) le bonheur, la satisfaction, la peur, le chagrin et le malaise. Parallèlement, l’encyclopédie dit clairement que nous devrions éviter l’IA et l’intelligence humaine – que les systèmes « ne font qu’imiter les fonctions de l’intelligence humaine » mais ne peuvent pas avoir d’expériences ou de sentiments subjectifs.
Laissant de côté le sentiment et la conscience, Ball a également écrit dans X :
Les humains construisent des machines qui seront plus intelligentes que nous dans les choses qui nous tiennent à cœur, les choses qui suscitent une fierté individuelle et collective, les domaines de pensée qui ont été inventés et découverts à l’origine. Cela permettra des choses étonnantes, mais aucune personne honnête ne peut nier que ce sera une sorte d’insulte à l’humanité. Aucune personne honnête ne peut nier qu’il y a au moins une certaine mélancolie à contempler tout cela, un certain changement dans la place centrale que nous avons attribuée à nos propres pensées dans l’ordre mondial.
publicité
publicité
Ma principale déception dans l’encyclique est qu’elle nie fondamentalement cette grande humiliation. Ces contournements sont tout à fait humiliants, affirmant que l’IA ne peut pas « corriger » ceci et cela. Au lieu de cela, cela place l’Église dans le rôle délicat de prôner une réglementation technocratique européenne qui, qu’elle aime ou qu’elle déteste ses réglementations, n’est probablement pas ce dont le monde a vraiment besoin de la part de l’Église catholique en ce moment.
Parfois, lorsque les gens sont critiqués de gauche à droite, c’est le signe qu’ils attaquent réellement la bonne position. Dans ce cas, cependant, ce n’est peut-être pas le cas. Peut-être qu’avec tous ces mots, le pape Léon a quand même réussi à dire que ce n’était pas suffisant.
Sur ce, voici plus d’actualités sur l’IA.
Jérémy Kahn
jeremy.kahn@fortune.com
@jeremyakahn
publicité
publicité
Ok, avant de passer aux nouvelles : rejoignez-nous sur jeudi 28 maipour Fortune 500 Europe : In Conversation with Technology Leaders, un échange virtuel franc avec des dirigeants technologiques de haut niveau des sociétés européennes Fortune 500, notamment Mars Pet Nutrition, Orange, Reckitt et Saint Gobain. La discussion explorera l’une des questions les plus urgentes auxquelles sont confrontées les organisations aujourd’hui : comment transformer les investissements en IA en valeur commerciale durable. Enregistrez votre intérêt pour assister et recevoir les éditoriaux de Fortune.
Cette histoire a été initialement présentée sur Fortune.com
