La version de l’outil d’IA “trop ​​puissante pour le public” rendue publique

Une version de son outil d’intelligence artificielle (IA) que l’entreprise juge trop puissante pour être rendue publique vient d’être rendue publique.

Claude Fable 5 est une version de Claude Mythos d’Anthropic, un programme d’IA qui a suscité de vives inquiétudes parmi les dirigeants technologiques, financiers et gouvernementaux lorsqu’il a été publié en privé en avril pour un aperçu et des tests.

Certains craignent que l’appareil soit si puissant qu’il pourrait poser un risque pour la sécurité financière, tandis que d’autres se demandent dans quelle mesure le battage médiatique est une retombée marketing.

Anthropic a déclaré mardi que le Fable serait publié avec des garanties et des limitations d’utilisation, bien qu’il ait déclaré que “la sortie d’un modèle aussi capable comporte des risques”.

“Les capacités de Fable sont supérieures à celles de n’importe quel modèle sur lequel nous avons travaillé en général”, a-t-il ajouté.

Lorsque Mythos a été diffusé pour la première fois à un petit groupe d’organisations pour un aperçu de l’outil, Anthropic a déclaré l’avoir fait parce que l’outil était si intelligent qu’il pouvait être dangereux en raison de sa capacité à exploiter ou à pirater des systèmes informatiques.

Le ministre canadien des Finances, François-Philippe Champagne, a déclaré à la BBC en avril que l’attention portée au Mythe était nécessaire, en partie parce que « c’est l’inconnu, l’inconnu ».

Pendant ce temps, malgré le procès en cours d’Anthropic contre le ministère américain de la Défense pour son refus d’autoriser le gouvernement à utiliser ses outils d’IA, les agences gouvernementales américaines testent également Mythos.

Anthropic devrait bientôt devenir une entreprise publique, sa valorisation privée approchant les 1 000 milliards de dollars (747 milliards de livres sterling). La démonstration constante de capacités d’IA meilleures et plus larges souligne sa valeur pour les investisseurs.

La société a également annoncé mardi qu’environ 150 groupes ayant eu accès à l’aperçu de Mythos auront désormais accès à Claude Mythos 5, qui n’a aucune limitation en matière de cybersécurité ou de biologie, selon l’utilisation spécifique de l’organisation.

À ce jour, les groupes et entreprises utilisant Mythos ont signalé à Anthropic avoir trouvé plus de 10 000 failles de sécurité critiques dans leurs systèmes.

Anthropic a déclaré que l’accès mis à jour est limité à « un petit groupe de cyberdéfenseurs et de fournisseurs d’infrastructures », mais qu’il devrait prendre plus de temps.

“Nous avons l’intention d’étendre l’accès à Mythos 5 grâce à un programme d’accès de confiance plus large”, a indiqué la société.

Fable et Mythos, qui sont fondamentalement le même modèle mais avec des niveaux de surveillance et d’accès différents, peuvent être utilisés « sans surveillance » sous commandement humain, l’équipement étant fourni pour une durée plus longue « que le modèle précédent de Claude ». Anthropique ajouté.

Le fondateur d’Anthropic, Jack Clark, a déclaré la semaine dernière à BBC Newsnight que les capacités des outils d’IA se développent si rapidement que l’entreprise pense qu’il doit y avoir un moyen pour que les gens ralentissent les progrès de la technologie.

“Vous voulez avoir la possibilité de retirer votre pied de l’accélérateur et de mettre votre pied sur le frein”, explique Clark. “À l’heure actuelle, c’est comme si l’industrie de l’IA avait une pédale d’accélérateur, mais pas de pédale de frein.”