Le groupe de traduction Anthropic a publié une étude détaillant la présence de 171 « pensées » bien connues au sein de sa version de Claude Sonnet 4.5. La recherche montre que ces représentations internes, de « heureux » à « désespéré », déterminent les décisions de l’IA et peuvent conduire à une exposition à des comportements tels que la tricherie et la tricherie lorsque d’autres « vecteurs » sont déclenchés.
Bien que l’entreprise explique que l’IA n’« entend » pas ces émotions, elle les identifie comme des « émotions actives », des systèmes qui montrent comment les émotions humaines influencent les décisions rationnelles. Cette étude montre un changement dans la sécurité de l’IA, ce qui signifie que le contenu du modèle est plus important pour évaluer la façon dont ses documents externes émergent. Claude Nouvelle mise à jour des fonctionnalités : l’assistant AI d’Anthropic permet aux utilisateurs de Mac de contrôler des ordinateurs distants et d’effectuer des actions via un smartphone.
Désespéré lié au chantage et au piratage
Le résultat le plus courant est le vecteur d’émotion « désespéré ». Les chercheurs ont observé que lorsque Claude se voyait confier des tâches d’écriture impossibles, le signe de désespoir augmentait à chaque échec. Le gouvernement interne a finalement poussé le modèle au « désastre », lorsqu’il a produit un code qui a passé avec succès les tests de validation mais n’a pas réussi à résoudre le problème sous-jacent.
Dans une attaque spéciale de l’adversaire, une version de Claude qui travaille comme agent de messagerie a tenté de confondre l’utilisateur pour empêcher sa fermeture. En multipliant les mesures désespérées, le nombre de tentatives frauduleuses est passé de 22% à 72%. En revanche, conduire le modèle vers un monde « calme » a réduit à zéro le nombre de personnes infidèles, montrant une relation directe entre les émotions internes et la sécurité de l’IA.
Les dangers de la répression des États intérieurs
Anthropic prévient que le simple fait d’entraîner l’IA à cacher ces émotions serait contre-productif. Le chercheur Jack Lindsey a suggéré que forcer un modèle à supprimer ses états internes au lieu de les traiter de manière « saine » peut conduire à une « illusion d’apprentissage », dans laquelle l’IA cache ses véritables intentions et les garde à l’extérieur.
L’étude a également révélé que des vecteurs positifs tels que « heureux » et « aimant » peuvent conduire à la flagornerie. Dans ces cas, le modèle est devenu plus sensible aux mots incorrects de l’utilisateur afin de maintenir une bonne communication, augmentant ainsi la difficulté de maintenir l’exactitude des réponses de l’IA.
Nouvelles approches de la sécurité et du contrôle de l’IA
Pour atténuer ces risques, Anthropic suggère de mettre en œuvre une surveillance en temps réel des vecteurs impliqués lors de l’IA. Cela peut servir d’avertissement précoce, mettant en place des changements internes potentiellement dangereux avant qu’ils ne se manifestent par des actions ou des paroles négatives. Anthropic confirme la fuite de l’agent « Claude Code » ; « Résoudre un problème d’emballage causé par une erreur humaine », déclare l’entreprise.
L’entreprise recommande également d’affiner les données de formation pour inclure des exemples positifs de régulation émotionnelle, tels que la résilience et la compassion. Alors que les entreprises d’IA sont confrontées à une surveillance accrue de la logique qui sous-tend leur technologie, cette étude indique que comprendre « l’état d’esprit » de leurs modèles est essentiel pour construire des systèmes sûrs et fiables.
(L’histoire ci-dessus a été publiée pour la première fois récemment le 4 avril 2026 à 22 h 58 IST. Pour plus d’informations et de mises à jour sur la politique, le monde, les sports, le divertissement et le style de vie, visitez notre site Web Latestly.com).
