Une multitude de conversations apparemment privées avec le chatbot Claude d’Anthropic sont apparues dans les résultats de recherche publics de Google le week-end dernier. Certaines conversations incluraient des informations sensibles telles que des clés de portefeuille de crypto-monnaie et des détails personnels tels que des noms et des adresses.
Le problème affecte les discussions dans lesquelles les utilisateurs utilisent la fonction « partager » de Claude, que les gens utilisent généralement pour envoyer des enregistrements de conversations à d’autres personnes.
Le problème est apparu au cours du week-end, lorsque les membres d’un canal de discussion sur Claude sur le site de médias sociaux Reddit ont découvert que taper une expression de recherche spécifique dans Google afficherait une longue liste de conversations partagées par Claude. Les artefacts de Claude – des outils interactifs et des mini-applications créés par des personnes au sein de Claude – apparaissent également dans les résultats.
publicité
publicité
Les sujets de discussion apparemment aléatoires allaient de l’érotisme aux discussions de programmation en passant par les notes de travail et les fausses critiques de livres. Une discussion – étiquetée comme « partagée par Anthropic » – montre Claude produisant du contenu explicite, qui viole la politique d’Anthropic en matière d’érotisme.
“Nous donnons aux gens le contrôle du partage public des conversations de Claude et, conformément à nos principes de confidentialité, nous ne partageons pas de répertoires de discussion ou de plans de site avec des moteurs de recherche comme Google”, a déclaré un porte-parole d’Anthropic. Fortune. “Ces liens partageables ne peuvent être devinés ou découverts que si les gens choisissent de les partager eux-mêmes. Lorsque quelqu’un partage une conversation, il la rend publiquement accessible et, comme tout autre contenu Web public, elle peut être archivée par des services tiers.”
L’entreprise semble avoir résolu le problème, puisque le lien n’est plus disponible via Google via une technique partagée sur Reddit. Pourtant, au moment de la rédaction de cet article, de nombreux liens de discussion précédemment exposés sont toujours actifs et peuvent être atteints par ceux qui disposent déjà du lien.
Les discussions de Claude sont privées par défaut : les seules discussions concernées sont celles que l’utilisateur a « partagées » avec d’autres. Le bouton de partage de Claude fonctionne comme la plupart des concurrents : lorsque l’utilisateur le sélectionne, Claude crée un instantané de votre conversation sur sa propre adresse Web, qui est destiné à être envoyé à une personne ou à un petit groupe avec le lien.
publicité
publicité
Le lien ne donne à personne accès au compte complet de l’utilisateur ou à toutes les discussions que l’utilisateur a effectuées.
Ce n’est pas la première fois que le chat Claude se retrouve dans la recherche publique de Google. Selon Forbes, Le même type de problème a touché l’entreprise l’année dernière, et des problèmes presque identiques ont été exposés à près de 100 000 discussions ChatGPT sur Google. Le chatbot Grok d’Elon Musk a également été affecté par des problèmes similaires dans le passé.
En effet, la fonctionnalité « partager » des chatbots IA crée des URL uniques pour les conversations, et ces liens sont automatiquement publiés et ouverts pour les moteurs de recherche, souvent à l’insu de l’utilisateur.
Alors que les utilisateurs partagent de plus en plus d’informations sensibles avec les chatbots, des incidents comme celui-ci risquent d’exposer de grandes quantités de données et d’informations personnelles. Les conversations partagées ont tendance à être plus sensibles que des éléments tels que les documents partagés, car les gens considèrent les chatbots comme un lieu où ils peuvent réfléchir en profondeur aux problèmes liés au travail, à la santé et aux questions juridiques d’une manière qu’ils ne souhaitent pas nécessairement rendre publiques. Le fait qu’OpenAI, Anthropic et xAI soient chacun tombés sur une version du même bug suggère également qu’il s’agit d’un problème que l’industrie a du mal à résoudre de façon permanente.
Cette histoire a été initialement présentée sur Fortune.com
