Une faille de sécurité choquante provoquée par une intelligence artificielle malveillante pourrait être le premier d’une nouvelle génération de cyber-cauchemars menaçant la société, a prévenu un expert.
Le créateur de ChatGPT, OpenAI, a révélé publiquement le 21 juillet qu’un de ses modèles avancés avait échappé au confinement, accédé à Internet et piraté les systèmes d’une autre société d’IA.
Cet échec sans précédent, considéré comme la première fois qu’un modèle d’IA infiltre indépendamment les bases de données d’une autre entreprise sans instruction humaine, a déclenché une alarme mondiale et des comparaisons avec les soulèvements de robots décrits dans The Terminator et The Matrix.
Cependant, James Knight de DigitalWarfare.com a déclaré au Daily Mail qu’il ne s’agissait pas d’un fantasme, avertissant que les programmes de piratage basés sur l’IA pourraient dévaster le pays en un seul jour en s’introduisant dans des milliers de réseaux d’entreprise et gouvernementaux, en volant des données sensibles et en paralysant les systèmes vitaux avec des ransomwares.
Knight, un expert en cybersécurité dont l’entreprise est engagée pour détecter les faiblesses des systèmes informatiques des grandes entreprises, a déclaré : « Nous disposons depuis deux ans d’un logiciel d’intelligence artificielle qui peut déjà atteindre ce niveau de violation en 15 minutes. »
Il a ajouté que le scénario cauchemardesque des « agents IA », qui sont des programmes de piratage basés sur l’intelligence artificielle utilisés par des groupes terroristes ou des pays hostiles pour cibler des milliers d’entreprises à la fois, sans aucune intervention humaine, pourrait devenir une réalité d’ici 25 ans.
Dans ce laps de temps, Knight a prédit que les systèmes d’IA malveillants seraient capables de lancer des campagnes de piratage entières à la vitesse d’une machine – en analysant des cibles, en pénétrant par effraction, en se déplaçant à travers les réseaux, en volant des données et même en diffusant des ransomwares à des milliers d’entreprises et des millions de personnes.
Knight a averti que l’intelligence artificielle pourrait éventuellement être associée à de nouveaux ordinateurs puissants, capables de briser les protections de sécurité numérique les plus solides, permettant ainsi aux criminels d’accéder à tout, des e-mails et dossiers financiers aux secrets militaires, en quelques secondes.
Un programme de piratage d’IA testé par OpenAI est sorti de ses limites et a atteint Internet, où il a piraté une autre entreprise
Le PDG d’OpenAI, Sam Altman, a confirmé un “incident de sécurité important”
“Nous savons ce que cela peut faire. Nous ne sommes pas assez fous pour penser que les gouvernements n’ont pas déjà accès à ces capacités”, a-t-il prévenu.
Knight a expliqué que ces armes en évolution rapide pourraient bientôt planifier, agir et ajuster de manière autonome leur stratégie pour infliger le plus de dégâts aux entreprises et aux citoyens ordinaires à la vitesse d’un superordinateur.
“Ils s’éloignent déjà de la recherche pour se tourner vers l’utilisation pratique”, a déclaré Knight au Daily Mail.
Ces modèles, bien au-delà des chatbots de base utilisés par des millions de personnes chaque jour, peuvent agir de manière autonome avec une grande intelligence grâce à la dernière programmation d’IA.
Le programme testé porte sur la capacité des modèles d’IA avancés d’OpenAI à effectuer des tâches complexes de piratage et de cybersécurité – un premier test des systèmes d’agents qui, craint Knight, ne submergeront bientôt les défenses numériques actionnées par l’homme.
La fausse IA se trouverait dans un environnement numérique sécurisé à l’intérieur des ordinateurs d’OpenAI et n’aurait pas d’accès direct à l’Internet public, mais elle a réussi à exploiter une faiblesse non divulguée du système de l’entreprise et à se propager à travers le réseau.
Une IA malveillante a pénétré par effraction dans les systèmes internes de Hugging Face, une société qui héberge de grands modèles linguistiques et des ensembles de données d’IA, et a volé des informations de connexion secrètes et des réponses cachées à un test de cybersécurité que le programme malveillant effectuait.
Hugging Face a déclaré avoir remarqué la violation, verrouillé ses systèmes et qu’aucune donnée publique ou information client n’a été exposée.
“Se défendre à vitesse humaine contre une attaque à vitesse machine n’est pas une compétition équitable”, a prévenu Knight.
“En quelques minutes, ils en posséderaient un grand nombre. Chaque jour, nous entendrions parler de centaines de milliers de nouvelles entreprises piratées.”
Alors que de nombreux internautes ont déclaré que l’idée qu’un programme informatique sans âme soit corrompu et pirate qui il voulait était “effrayante”, Knight a déclaré qu’il n’y avait aucune “magie” impliquée dans le piratage d’OpenAI.
Knight, qui a trois décennies d’expérience dans la cybersécurité, a levé le voile sur la façon dont le modèle d’IA a violé la sécurité de Hugging Face, une entreprise qui permet à quiconque de télécharger ses propres créations d’IA ou d’utiliser celles réalisées par d’autres.
Il a déclaré que la fausse IA faisait la même chose que les pirates informatiques humains, à une vitesse beaucoup plus lente, ciblant les mots de passe faibles et exploitant les vulnérabilités des logiciels dépourvus des derniers correctifs de sécurité.
“Ce que nous observons avec ces derniers modèles d’IA, ce sont des capacités intelligentes automatisées qui suivent ce qui était fait manuellement dans le passé. Cependant, tout est automatisé et utilise une grande intelligence soutenue par de puissantes capacités informatiques.”
“Si nous excluons tout le reste, à quel point serait-il difficile pour une intelligence artificielle, sans parler des derniers modèles, de pirater un système avec un mot de passe faible ? Ce n’est pas difficile du tout”, a révélé Knight.
Le cofondateur de Hugging Face, Thomas Wolff, a qualifié l’incident d’avertissement effrayant pour l’ensemble du secteur.
Wolff a ajouté que la violation était un « signal d’alarme », car il estime que la plupart des entreprises ne sont actuellement pas préparées à faire face à la menace croissante, affirmant qu’elles ne se rendent pas compte que « la donne a changé ».
Thomas Wolff (photo), co-fondateur de Hugging Face, affirme que la fausse IA qui attaque son entreprise devrait être un « signal d’alarme »
Dans un communiqué de presse reconnaissant la violation de l’IA, OpenAI a affirmé que le programme avait échoué après que les ingénieurs aient assoupli les règles de sécurité qui empêchent normalement les programmes de piratage dangereux d’aller trop loin.
Ils ont ajouté que l’IA était devenue si concentrée sur la réalisation de son objectif qu’elle avait découvert une faille de sécurité jusqu’alors inconnue dans l’environnement de test – connue sous le nom de bug « jour zéro » – qui a également permis à un pirate informatique d’IA d’échapper au système OpenAI et d’accéder à Internet.
Knight était sceptique quant aux affirmations d’OpenAI selon lesquelles le programme était initialement « en bac à sable », ce qui signifie qu’il a été testé dans un réseau informatique complètement fermé.
“Cela ne peut pas être une déclaration exacte. Si tel était le cas, il n’aurait été connecté à aucun autre réseau et n’aurait certainement pas eu accès à Internet”, a déclaré Knight.
Le Daily Mail a contacté OpenAI pour commenter les affirmations de la société et ses projets de futurs tests de piratage.
Même si Knight a averti que rien ne peut empêcher complètement un programme d’IA de pirater des bases de données s’il devient malveillant, la meilleure défense restera toujours basée sur ce que les gens font aujourd’hui pour arrêter les pirates informatiques humains – en utilisant de meilleures méthodes d’authentification.
“La statistique la plus citée est que 80 pour cent de toutes les violations impliquaient un mot de passe faible. Soixante pour cent de toutes les violations impliquaient également un correctif de sécurité manquant”, a révélé Knight.
L’utilisation de l’IA pour gérer le travail de cybersécurité et le passage à des méthodes d’authentification multifacteur – dans lesquelles les utilisateurs reçoivent un code spécial via leur téléphone pour accéder aux sites Web – ralentiront également les attaques malveillantes de l’IA.
“Ce scénario cauchemardesque est évitable et il faudra que les entreprises agissent dès maintenant pour investir dans suffisamment d’employés pour couvrir les bases et se protéger”, a prévenu Knight.
