La tentative du président Donald Trump d’interdire aux pays étrangers d’utiliser la dernière édition du modèle d’intelligence artificielle de la société américaine Anthropic a suscité de vives réactions dans tout le monde technologique, beaucoup considérant l’interdiction irréalisable et d’autres avertissant que la mesure entraverait les efforts du pays pour rivaliser avec la Chine dans la course à l’IA.
Vendredi, la société californienne a révélé que des “directives de contrôle des exportations” ont été émises pour les modèles Claude Fable 5 et Mythos 5, empêchant leur utilisation “par des ressortissants étrangers, que ce soit à l’intérieur ou à l’extérieur des États-Unis, y compris les employés étrangers d’Anthropic”.
Bien que peu de détails aient été fournis par le gouvernement, Anthropic a déclaré qu’elle pensait que la directive était due à des vulnérabilités potentielles, en particulier la méthode de « jailbreak » de Fable 5. Le jailbreak fait référence au contournement des restrictions logicielles, telles que les garde-fous de sécurité de l’IA, conçues pour protéger les systèmes ou les réseaux.
La société a déclaré avoir enquêté sur le problème et découvert qu’il ne s’agissait que de quelques vulnérabilités déjà connues que les modèles accessibles au public peuvent également détecter, tout en reconnaissant qu’une protection étanche contre le jailbreak n’est probablement “actuellement possible pour aucun fournisseur de modèles”.
À la suite de cette ordonnance, la société a déclaré qu’elle avait dû suspendre tout accès aux deux modèles pour se conformer, a présenté ses excuses à ses clients pour la « perturbation » et a déclaré qu’elle pensait que cela provenait d’un « malentendu » de la part du gouvernement.
Semaine d’actualités a contacté Anthropic et le Département du Commerce par e-mail pour commentaires.
Réaction du secteur technologique
“Nous ne sommes pas d’accord sur le fait que la découverte d’un potentiel limité de jailbreak devrait être une raison pour rappeler un modèle commercial distribué à des centaines de millions de personnes”, a déclaré Anthropic dans un communiqué publié vendredi. “Si cette norme est appliquée dans l’ensemble du secteur, nous pensons qu’elle arrêtera essentiellement tout nouveau déploiement de modèles pour tous les fournisseurs de modèles frontières.”
Aux États-Unis et à l’étranger, de nombreuses critiques de la part de personnalités du secteur technologique ont également été adressées au gouvernement américain, tout en soulignant les difficultés et les conséquences de l’imposition de contrôles à l’exportation de technologies telles que l’IA.
Dean Ball, ancien conseiller en IA de la Maison Blanche
Dans une série d’articles sur X, Ball, l’un des auteurs du « Plan d’action pour l’IA » de l’administration Trump, a qualifié de « déroutant » le fait que les États-Unis tentent de limiter l’accès des étrangers au modèle anthropique.
“Une administration dont l’attitude est que nous *devons* exporter des puces d’IA avancées vers la Chine, qui veut également interdire… la Grande-Bretagne (et tous les autres non-Américains sur Terre)…”, a-t-il écrit samedi.
“Je ne peux pas dire s’il s’agit d’une guerre civile contre Anthropic en particulier ou d’un colportage extrême en faveur de la sécurité nationale. Quoi qu’il en soit, ce n’est qu’un dessin animé”, a-t-il déclaré dans un autre article.
Chris McGuire, ancien conseiller au Département d’État
McGuire, chercheur principal pour la Chine et les technologies émergentes au Council on Foreign Relations, a déclaré que les contrôles ciblés des exportations dans le cadre du modèle de l’IA pourraient être considérés comme « raisonnables », mais a critiqué les efforts visant à une interdiction universelle comme étant « hautement discutables ».
“La mise en place de contrôles à l’exportation tout aussi étendus, qui limitent également l’accès aux ressortissants étrangers, est tout simplement absurde – et conduirait évidemment au retrait du modèle de la distribution, comme cela s’est produit.”
McGuire, conseiller du Département d’État et du Conseil de sécurité nationale pendant le mandat de Joe Biden, s’est également demandé si les États-Unis exporteraient des puces d’IA vers la Chine tout en imposant des contrôles sur « les modèles fabriqués et gérés par la même puce ».
Peter Girnus, chercheur sur les menaces logicielles
Girnus a déclaré que l’interdiction était en partie la responsabilité d’Anthropic, car la société avait commercialisé à plusieurs reprises le modèle Claude Mythos comme étant trop puissant pour être commercialisé.
“Si vous décrivez votre produit comme une munition dans chaque communiqué de presse, le gouvernement finira par vous croire sur parole”, a-t-il écrit dans X. “Ils écrivent leur propre fondement juridique et l’appellent une marque.”
Cependant, il a ajouté que ce type de contrôle des exportations aura finalement du mal à réussir en raison de l’essence des “munitions” en question, et parce que “les mathématiques ne s’arrêtent pas aux douanes”.
“Les travailleurs étrangers d’Anthropic sont désormais exclus du modèle qu’ils ont construit”, a-t-il ajouté. “Les munitions se trouvent dans le bâtiment et les personnes qui les ont fabriquées ne sont pas autorisées à les voir.”
Gary Marcus, scientifique
Marcus, connu pour son travail et ses commentaires fréquents sur l’IA, a qualifié la directive de « choquante » et a déclaré qu’elle s’avérerait « contre-productive pour l’industrie américaine de l’IA ».
“Peut-être que ça touche la Chine”, a-t-il posté sur X.
“Il est certain que tous les Chinois travaillant dans des sociétés américaines d’IA (et ils sont nombreux) envisageront de revenir dès que possible à la compétition en Chine. Et les investisseurs commenceront à se demander si les sociétés américaines d’IA peuvent prospérer dans cette atmosphère.
Vassant Shetty, homme d’affaires indien
La réaction est également venue de l’étranger, Shetty suggérant que des contrôles universels des exportations pour les alliés comme pour les ennemis créeraient des frictions entre les puissances mondiales.
“L’Inde est le deuxième plus grand marché au monde pour ChatGPT et Anthropic. S’ils peuvent fermer l’accès en appuyant simplement sur un bouton comme celui-ci, nous sommes complètement à la merci des gouvernements étrangers. La géopolitique s’aggrave. La mondialisation dans sa forme actuelle est morte. C’est un grand signal d’alarme pour l’Inde”, a-t-il posté sur X.
Ciaran Martin, responsable britannique de la cybersécurité
“C’est sorti de nulle part”, a déclaré Martin, l’ancien chef du Centre national de cybersécurité du gouvernement britannique, lors d’un entretien avec Channel 4.
“Cela s’avérera probablement insoutenable”, a-t-il poursuivi. “Parce que (…) bien qu’il ait été conçu comme un ordre visant à empêcher les étrangers d’accéder à ce nouveau modèle d’IA puissant pour des raisons de sécurité, la seule façon pratique de le faire est de retirer complètement le modèle, car Anthropic a des milliers d’étrangers qui travaillent pour eux et des millions d’utilisateurs qui ne peuvent pas détecter s’ils sont américains ou non.
“Les États-Unis sont obsédés par l’idée de remporter la course à l’IA avec la Chine”, a-t-il ajouté. “Cela ralentit.”
Que s’est-il passé ensuite
Anthropic a été impliqué à plusieurs reprises dans des affrontements avec le gouvernement américain, notamment en ce qui concerne l’application militaire de la technologie et son potentiel d’utilisation pour une surveillance nationale de masse.
Au-delà des efforts actuels visant à imposer des contrôles à l’exportation de Fable, Anthropic est engagé dans une bataille juridique avec le ministère de la Défense, après avoir été placé sur une liste noire de la chaîne d’approvisionnement plus tôt cette année après avoir refusé d’autoriser l’armée à accéder sans restriction à ses modèles Claude.
De nombreux acteurs du secteur technologique pensent que le gouvernement reculera ou annulera son appel visant à bloquer les étrangers en utilisant le modèle de l’entreprise, et Anthropic a indiqué qu’il était en train de faire appel de la directive.
“Comme nous l’avons déclaré publiquement, nous pensons que le gouvernement devrait avoir la capacité de bloquer les déploiements dangereux, dans le cadre d’un processus statutaire transparent, équitable, clair et basé sur des faits techniques”, indique le communiqué. “Cette action ne respecte pas ces principes.
“Nous nous excusons pour cet inconvénient auprès de nos clients. Nous pensons qu’il s’agit d’un malentendu et nous nous efforçons de rétablir l’accès dès que possible.”
