JD Vance était secoué.
La technologie qu’il avait défendue pendant des mois menaçait désormais de s’infiltrer dans les banques, les hôpitaux et les conduites d’eau américaines.
Lors d’un appel téléphonique en avril avec les dirigeants technologiques les plus puissants du pays, le vice-président a tiré la sonnette d’alarme sur les dangers illimités de leurs propres créations.
En ligne se trouvaient certaines des personnes les plus riches de la planète : Elon Musk, Sam Altman d’OpenAI, le PDG d’Anthropic Dario Amodei, le patron de Google Sundar Pichai et Satya Nadella de Microsoft.
“Nous devons tous travailler ensemble sur ce point”, leur aurait dit Vance.
Le vice-président, dont les relations avec la Silicon Valley ont fait de lui le leader de la Maison Blanche en matière d’intelligence artificielle, avait maintenant un sévère avertissement pour ses alliés : gardez votre technologie sous contrôle.
Cela signifie un visage magnifique.
Pendant des mois, Donald Trump et ses hauts responsables ont insisté sur la nécessité de lever les restrictions sur l’intelligence artificielle afin que les États-Unis puissent battre la Chine dans une course à la domination technologique à la manière du projet Manhattan.
Lors d’un appel téléphonique en avril, le vice-président a averti que de nouveaux modèles d’IA puissants, tels que Mithos d’Anthropic, pourraient faire des ravages dans les hôpitaux et les banques vulnérables des petites villes, les exposant à des cyberattaques que les gouvernements locaux seraient mal équipés pour repousser.
L’appel a réuni certaines des personnes les plus riches du monde, dont Elon Musk.
Le catalyseur a été Mithos, le dernier modèle d’IA du géant de la Silicon Valley Anthropic, et son étonnante capacité à traquer et exploiter de manière autonome les vulnérabilités de cybersécurité.
Le modèle est si dangereux qu’Anthropic a refusé de le rendre public, craignant que Mithos ne soit publié sur une infrastructure américaine critique.
Lors des tests, il s’est comporté comme un hacker d’élite, découvrant une faille vieille de 27 ans dans OpenBSD, un système d’exploitation apprécié pour sa sécurité, qui échappait aux chercheurs humains depuis des décennies.
Il a également pu découvrir des faiblesses dans le noyau Linux, l’épine dorsale de la plupart des serveurs dans le monde.
Le secrétaire au Trésor, Scott Bessant, a convoqué le mois dernier les dirigeants des plus grandes banques américaines à Washington pour une réunion d’urgence à huis clos sur la menace.
Le sommet a réuni des PDG, dont Jane Fraser de Citigroup, Ted Peake de Morgan Stanley, Brian Moynihan de Bank of America, Charlie Scharf de Wells Fargo et David Solomon de Goldman Sachs.
L’alarme de Vance a été déclenchée par un briefing de la Maison Blanche sur Mithos quelques jours avant son appel aux patrons de la technologie en avril.
Sa réponse signale un renversement radical de la politique de l’administration en matière d’IA, la Maison Blanche cherchant désormais à superviser plus étroitement les modèles les plus avancés.
Mithos est si capable de rechercher et d’exploiter de manière autonome les vulnérabilités de cybersécurité que la société responsable a refusé la diffusion publique du programme, craignant que le modèle ne soit utilisé pour endommager les infrastructures critiques américaines.
La Maison Blanche envisage actuellement un décret qui créerait officiellement un processus de surveillance des modèles les plus avancés, a rapporté le Wall Street Journal.
Les responsables de Trump ont demandé à Anthropic de mettre un terme à toute expansion de l’accès de Mithos à d’autres entreprises et organisations qui surveillent les infrastructures numériques critiques.
Le géant de la Silicon Valley a limité Mithos à environ 40 entreprises d’élite dans le cadre d’un programme classifié appelé « Projet Glasswing », parmi lesquelles Apple, Microsoft, Google, JPMorgan, Goldman Sachs, Bank of America, Citi et Morgan Stanley.
La société AI a jugé le modèle trop dangereux pour une vente à grande échelle, mais les rapports indiquent qu’il a quand même été divulgué.
Des utilisateurs non autorisés d’un « forum privé en ligne » ont réussi à s’introduire dans Mithos par l’intermédiaire d’un fournisseur indépendant la même semaine que l’appel de Vance, a rapporté Bloomberg.
Le groupe aurait réussi à entrer en faisant une « supposition éclairée sur l’emplacement du modèle en ligne, basée sur la connaissance du format Anthropic utilisé pour d’autres modèles ».
Les utilisateurs ont déclaré à Bloomberg qu’ils étaient simplement « intéressés à jouer » avec les nouveaux modèles d’IA, sans faire de ravages.
“Nous enquêtons sur un rapport faisant état d’un accès non autorisé à Claude Mithos Preview via l’un de nos environnements de fournisseurs tiers”, a déclaré un porte-parole d’Anthropic.
Musk et Peter Thiel, les deux plus grands donateurs de la campagne 2024 de Trump, possèdent tous deux des participations financières importantes dans des sociétés d’intelligence artificielle, ce qui complique toute répression.
La montée incessante de l’intelligence artificielle en Chine, y compris des laboratoires soutenus par l’État, accroît la pression et fait planer le sombre spectre d’une crise de sécurité nationale si les entreprises américaines se retrouvent contraintes par les législateurs de Washington.
Trump s’envole pour la Chine la semaine prochaine pour rencontrer Xi Jinping, où l’intelligence artificielle supervisera le sommet dans un contexte de tensions autour de Taïwan – un centre de fabrication de puces que Pékin a menacé d’attaquer.
Anthropic s’est déjà retrouvé au centre de la défense américaine, en décrochant un contrat de deux ans avec le Pentagone d’une valeur pouvant atteindre 200 millions de dollars pour fournir des outils d’IA pour les opérations militaires et de renseignement.
Cela laisse la Maison Blanche coincée entre deux craintes : agir trop vite et l’IA pourrait provoquer le désastre dont Vance avait prévenu, mais agir trop lentement et Pékin laissera l’Amérique dans la poussière.
