Ce que disent les gens intelligents sur les 2 parties les plus controversées du nouveau modèle d’Anthropic

• Anthropic a annoncé Claude Fable 5 et Mythos 5, les modèles d’IA de « classe Mythos » tant attendus.

• La société a déclaré que le modèle inclut des garanties qui limitent certaines tâches de recherche sur l’IA.

• Les critiques affirment que l’interdiction brouille la frontière entre les mesures de sécurité de l’IA et la stratégie concurrentielle.

La dernière version d’Anthropic en matière d’IA a suscité une controverse sur ce que le nouveau modèle fera et ne fera pas.

Mardi, Anthropic a annoncé les Claude Fable 5 et Mythos 5, les modèles tant attendus de la « classe Mythos ».

Tout au long du lancement, la société a révélé deux oublis inhabituels : le modèle peut fournir silencieusement une assistance dégradée lorsqu’ils soupçonnent que les utilisateurs travaillent sur des recherches limites en matière d’IA, et certaines demandes sont automatiquement transférées vers un modèle moins performant.

Sur la carte système, Anthropic a déclaré que les mesures visent à réduire le risque que le puissant système d’IA aide les utilisateurs à développer des modèles frontières concurrents ou à accélérer des capacités dangereuses.

Les critiques ont cependant déclaré que les garanties d’Anthropic pourraient nuire aux chercheurs, concentrer le pouvoir entre les principaux laboratoires d’IA et dégrader les réponses à l’insu des utilisateurs.

Voici ce que les voix intelligentes de l’IA, de la cybersécurité et de la politique ont à dire sur la dernière initiative d’Anthropic :

David Kasten, responsable des politiques chez Palisade Research

David Kasten a déclaré qu’il pensait qu’Anthropic essayait véritablement d’atténuer les risques associés à Mythos.

“Je prends vraiment Anthropic au mot selon lequel ils s’efforcent de réduire les risques de ce qu’ils considèrent comme deux caractéristiques risquées de Mythos”, a déclaré Kasten à Business Insider.

Pourtant, Kasten a déclaré que la publication du modèle comporte des risques car “c’est toujours un jeu du chat et de la souris entre l’attaquant et le défenseur”.

Kasten a ajouté qu’Anthropic se voit probablement dans une course avec des laboratoires d’IA rivaux qui pourraient bientôt avoir des modèles similaires.

“Pour eux, je pense qu’il y a un petit problème : quelle part de leur avance dans la course pensent-ils pouvoir se permettre de brûler ?” dit-il.

Davi Ottenheimer, vice-président de la confiance et de l’éthique numérique chez Inrupt

Davi Ottenheimer, un expert renommé en sécurité numérique, s’est demandé si Mythos était un jour aussi dangereux que le suggérait Anthropic.

“Anthropic Marketing a déclaré en avril que Mythos était trop dangereux pour être entre les mains du public”, a déclaré Ottenheimer à Business Insider. “Et maintenant, ils le vendent, tel quel, au public.”

Mythos n’a pas été rendu public en avril après qu’Anthropic ait averti que le modèle était capable de détecter les failles de cybersécurité qui posaient des risques pour la sécurité.

“Ils utilisent la sécurité comme une astuce marketing”, a ajouté Ottenheimer.

Roman Stanek, fondateur de GoodData

Roman Stanek a déclaré que les capacités de l’IA ne constituent pas un réel problème en matière de cybersécurité.

“Le problème avec l’IA et la cybersécurité, c’est que les vulnérabilités qui nous inquiètent quant à l’exploitation de l’IA, et bien, nous les connaissons pour la plupart depuis 20 ans”, a déclaré Stanek dans une note envoyée à Business Insider. “Nous ne les réparons jamais.”

“Personne ne veut payer un ingénieur humain pour le réparer”, a-t-il ajouté. “Il ne faudra pas non plus payer l’IA pour réparer ce problème.”

Elie Bakouch, ingénieur de recherche chez Prime Intellect

Elie Bakouch a critiqué la décision d’Anthropic de limiter délibérément les performances de Mythos dans certaines tâches de développement de l’IA.

“Le mythe sera mauvais BUT sur la tâche de ‘recherche LLM de pointe’ sur l’IA”, a écrit Bakouch sur X mardi. “C’est très triste pour la communauté des chercheurs.”

Bakouch a également qualifié de “fou” que l’intervention ne soit pas visible pour les utilisateurs.

Jeremy Howard, cofondateur d’AnswerDotAI

Jeremy Howard a déclaré que la protection anthropique pourrait accroître la concentration dans l’industrie de l’IA.

« Anthropic a choisi sinon d’un chemin sûr”, a écrit Howard dans l’article de X mercredi. “Cela lui permet, en tant que meilleur laboratoire d’aujourd’hui, d’utiliser son modèle phare pour la recherche de pointe sur l’IA.”

Howard a déclaré que le résultat est que “le front de l’IA progresse et le déséquilibre des pouvoirs s’accentue”.

Patrick Moorhead, fondateur et PDG de Moor Insights & Strategy

Patrick Moorhead a déclaré que sa première expérience avec Fable 5 l’avait laissé déçu.

Dans un article sur X mercredi, Moorhead a déclaré que le modèle avait refusé d’aider avec les points de discussion, à savoir l’analyse des revenus et les présentations au conseil d’administration, parce que Fable 5 considérait la tâche “trop ​​dangereuse”.

“Est-ce le modèle que nous craignons tous et qui fait qu’Anthropic vaut 1 000 milliards de dollars ?” il a écrit. “Okedokee.”

Gergely Orosz, auteur de la newsletter « The Pragmatic Engineer »

Gergely Orosz note que la surveillance d’Anthropic pourrait affecter les personnes qui ne construisent pas réellement de modèles d’IA concurrents.

“Anthropic pense que SemiAnalysis développe un LLM rival et simplifie son modèle pour eux”, a écrit Orosz dans X mercredi.

“Anthropic essaie de limiter la concurrence en limite beaucoup d’autres”, a-t-il ajouté.

Deedy Das, associé chez Menlo Ventures

Deedy Das se concentre sur les capacités du modèle plutôt que sur sa protection.

“Claude Fable 5 est le modèle le plus ridicule qui me fait craindre pour l’avenir du génie logiciel”, a écrit Das dans un article X mercredi.

Das cite des exemples, notamment la migration d’une base de code de 50 millions de lignes, la production de graphiques 3D avancés et la surperformance des modèles concurrents dans les tâches d’optimisation.

Il a également déclaré que Fabel 5 coûte le même prix qu’OpenAI GPT-5.5 et six fois moins cher que GPT-5.5 Pro.

Si vous avez apprécié cette histoire, assurez-vous de suivre Business Insider sur Yahoo.