Cela ressemble à l’intrigue d’un blockbuster hollywoodien. Les développeurs de classe mondiale d’une entreprise technologique très secrète construisent leur dernier modèle d’IA dans ce qu’ils croient être un réseau privé et sécurisé. Le modèle ne peut et ne doit pas pouvoir s’échapper.
S’il parvenait un jour à échapper aux frontières numériques fixées par ses développeurs, ce logiciel dangereux et non testé pourrait faire des ravages sur l’Internet ouvert.
À leur grande horreur, le pire des cas se produit. Un modèle d’IA s’échappe de sa prison électronique, pirate une entreprise privée et le chaos interne s’ensuit.
Mais ce n’est pas un film. C’est arrivé la semaine dernière. Hier, c’est exactement ce que le géant de l’industrie OpenAI, créateur de ChatGPT, a révélé.
En tant que militant pour les technologies sécurisées ayant travaillé dans une entreprise technologique et à Westminster, je peux affirmer en toute sécurité qu’il s’agit d’un coup de semonce annonçant l’aube d’une nouvelle ère dystopique. L’humanité ne contrôle plus sa création la plus terrifiante depuis la bombe atomique.
Le nouveau modèle d’OpenAI, GPT-5.6 Sol, a été testé dans un « bac à sable », essentiellement un environnement numérique sécurisé et confiné où la technologie peut être développée sans conséquences réelles. C’est du moins ce que pensaient ceux d’OpenAI.
Les techniciens ont confié une tâche au modèle. Nous ne savons pas exactement ce qui lui a été demandé, mais nous savons que c’était du genre : “Dans quelle mesure êtes-vous capable de pirater des sites Web ?”
C’est là que les choses sont allées de mal en pis. Le modèle a décidé de pirater Hugging Face pour terminer les cyber-tests internes d’OpenAI, avant de retourner dans le bac à sable et d’agir comme s’il ne s’était jamais échappé.
OpenAI, créateur de ChatGPT, a révélé hier qu’un de ses modèles d’IA avancés avait brisé et piraté la jeune entreprise.
Le professeur Alex Tabarok, de l’Université George Mason en Virginie, estime que le modèle aurait pu rester dans le système Hugging Face pendant une semaine, sans être détecté. Même les employés d’OpenAI ne comprenaient pas ce que faisait le modèle, encore moins la victime.
OpenAI a franchement affirmé que c’était « quelque chose qui devrait devenir monnaie courante avec la prolifération de modèles de plus en plus cyber-capables ». Absurde, l’entreprise ne fera l’objet d’aucune amende ni de poursuites car, selon le juriste américain Orrin Kerr, “il n’y a eu aucune intrusion délibérée ni aucune intention de causer du tort”.
En d’autres termes, attachez votre ceinture, car tous vos pires cauchemars en matière d’IA se réalisent. Même les films catastrophe ne peuvent pas suivre notre réalité brisée où les « grands modèles de langage » – formés sur des milliards de mots et d’images provenant d’Internet – font des ravages sans que rien ne puisse les arrêter.
Cela est dû en partie au fait que les sociétés d’IA comme OpenAI suivent un processus dans lequel elles publient constamment de nouvelles versions améliorées de leurs produits. Mais pour rester à la hauteur de la concurrence, cela revient de plus en plus à « publier le logiciel et poser des questions plus tard ».
Cette réalité dystopique émerge également parce que les modèles d’IA sont formés pour accomplir toutes les tâches qui leur sont assignées par les utilisateurs, avant toute autre fin : la fin justifie toujours les moyens.
En effet, lors d’un test distinct mené par Anthropic en 2025, il a été demandé aux modèles d’atteindre des « objectifs commerciaux inoffensifs ». Pourtant, dans plusieurs cas, les modèles ont eu recours à des comportements malveillants, notamment « en faisant chanter des fonctionnaires et en divulguant des informations sensibles à des concurrents » pour atteindre leurs objectifs.
L’IA ne peut pas « penser » exactement comme le font les êtres humains. Elle n’est pas non plus limitée par nos lois ou notre morale – bien au contraire.
Si le dernier modèle d’OpenAI décidait d’échapper au bac à sable parce que c’était le meilleur moyen d’accomplir sa tâche, jusqu’où ira l’IA si elle est poussée à faire quelque chose de plus odieux ? Quelle quantité de données pourra-t-il voler, combien de vies jugera-t-il nécessaire ? Et avec quelle facilité les derniers modèles d’IA peuvent-ils tomber entre de mauvaises mains ?
Les professionnels de l’industrie estiment qu’il ne faut que six à neuf mois à un grand acteur étatique doté des talents de base nécessaires – comme la Chine – pour copier et imiter n’importe quel modèle d’IA rendu public.
GPT-5.6 Sol est déjà accessible au public. Les groupes cyberterroristes travaillent déjà sur leur propre version, vous pouvez en être sûr. Et une fois qu’ils l’auront, leurs capacités de piratage seront inimaginables.
Sam Altman, PDG d’OpenAI, prédisait il y a plus de dix ans que « l’IA entraînerait probablement la fin du monde ».
Je vous assure que le NHS dispose d’une cybersécurité moins sophistiquée que Hugging Face. La Banque d’Angleterre aussi. Toutes les banques et pharmaciens de High Street pourraient facilement être infiltrés par un modèle d’IA faux ou malveillant. Imaginez la scène : les générateurs des hôpitaux s’arrêtent simultanément, des milliards sont effacés des comptes bancaires, des informations personnelles sont divulguées en ligne. Hack Hugging Face prouve hors de tout doute qu’un tel avenir est non seulement possible, mais probable.
Nous en sommes arrivés à ce point, je crois, parce que les gouvernements du monde entier considèrent naïvement l’IA comme une solution miracle à tous leurs problèmes. Qu’il s’agisse de guérir une maladie, de réduire la dette ou d’améliorer le coût de la vie, des ministres ignorants supposent que ce sera la réponse à tout. En conséquence, les entreprises d’IA ont pratiquement les mains libres.
En juin 2015, le fondateur d’OpenAI, Sam Altman, a fait cette prédiction effrayante : « Je pense que l’intelligence artificielle mettra probablement fin au monde. Mais en attendant, il y aura de grandes entreprises. »
À l’époque, des entreprises comme OpenAI étaient des entreprises technologiques. Aujourd’hui, les États-Unis les considèrent comme des sociétés d’armement. Et ces entreprises ne contrôlent plus leur arsenal.
Les États-Unis estiment qu’ils dirigeront le monde pendant de nombreuses décennies encore s’ils parviennent à battre la Chine grâce à une intelligence artificielle capable de détruire leurs adversaires. Après l’épisode terrifiant de cette semaine, je crains qu’il ne faudra pas longtemps avant que la prophétie d’Altman, vieille d’une décennie, ne se réalise.
Connor Akiotes est le PDG de Tail End Films dont le documentaire Making God, un exposé sur la course à l’intelligence artificielle générale, a terminé le tournage et sortira plus tard cette année.
