A peine lancé, le puissant modèle Claude Fable 5 d’Anthropic est déjà retiré par son développeur. Dans un communiqué publié sur son site, l’entreprise explique qu’elle a reçu une directive du gouvernement américain qui interdit l’accès à Claude Fable 5 et à Claude Mythos 5 à “tout ressortissant étranger”. Et, afin de se conformer à cette directive, Anthropic a décidé de désactiver ces deux modèles chez tous ses clients. La directive reçue par Anthropic évoque la sécurité nationale pour justifier cette mesure, sans fournir plus de détails.
Mais, selon Anthropic, il est possible que le gouvernement pense que des gens ont déjà trouvé un moyen de contourner les mesures de sécurités d’Anthropic pour empêcher les utilisateurs de Claude Fable 5 de s’en servir à des fins malveillantes. Or, selon l’entreprise, la technique dont il est question ne permettrait que de trouver “un petit nombre de vulnérabilités mineures déjà connues”. “Ces vulnérabilités semblent toutes relativement simples, et nous avons constaté que d’autres modèles disponibles publiquement sont également capables de les découvrir sans nécessiter de contournement”, ajoute le laboratoire d’IA.
En d’autres termes, Anthropic pense que personne ne sait contourner ses mesures de sécurité pour exploiter le plein potentiel de Claude Fable 5 en matière de cyber.
Une IA qui a dû être bridée à sa sortie
Claude Fable 5 a le même niveau de puissance que Claude Mythos 5. Mais, pour que cette version grand public ne soit pas utilisée pour lancer des cyberattaques ou pour créer des virus, l’entreprise a bridé ses performances en cyber et les utilisateurs sont automatiquement redirigés vers une IA moins puissante pour la plupart des questions liées à la biologie et à la chimie.
Et l’entreprise insiste sur le fait que la technique de débridage qui circule ne permet pas d’exploiter tout le potentiel que Claude Fable 5 aurait sans ses mesures de sécurité. “Nous avons examiné un rapport qui, selon nous, sert de base à la directive du gouvernement, et avons constaté que le niveau de performance qui y est présenté est largement disponible sur d’autres modèles (notamment le GPT-5.5 d’OpenAI) et est utilisé quotidiennement par les experts en sécurité qui assurent la protection des systèmes”, écrit Anthropic, qui promet de partager plus de détails.
🟣 Pour ne manquer aucune news sur le Journal du Geek, suivez-nous sur Google et sur notre canal WhatsApp. Et si vous nous adorez, on a une newsletter tous les matins.
