À peine lancé, le modèle Claude Fable 5 d’Anthropic a été retiré par son développeur. Celui-ci a également annoncé le retrait de Claude Mythos 5, qui est réservé à quelques entreprises, pour des usages défensifs (contre les failles de sécurité). Anthropic a été obligé de suspendre ces deux modèles, considérés comme les plus puissants du marché, pour se conformer à une directive du gouvernement américain, qui demande le blocage de ces technologies pour les ressortissants étrangers.
Et, aujourd’hui, on sait peut-être enfin pourquoi les États-Unis ont pris cette décision. En effet, selon les informations non officielles qui circulent dans la presse, l’administration Trump aurait reçu un signalement de la part d’une société qui est pourtant actionnaire d’Anthropic.
Le gouvernement américain aurait été alerté par Amazon
Pour rappel, Claude Mythos 5 est un modèle à la fois puissant et dangereux, car il trouve facilement des failles de sécurité et peut être utilisé pour lancer des cyberattaques. C’est la raison pour laquelle ce modèle n’est pas proposé au grand public, mais uniquement à des organisations qui s’en servent pour sécuriser des logiciels. En revanche, Claude Fable 5 est un modèle grand public. Celui-ci est aussi performant que Claude Mythos 5, mais ses compétences en cyber, en biologie et en chimie ont été bridées, pour que cette IA ne soit pas utilisée à des fins malveillantes.
Et si le gouvernement américain a décidé de prendre des mesures contre Claude Fable 5, c’est parce que celui-ci pense qu’il est déjà possible de contourner les mesures de sécurité de ce modèle. Par ailleurs, d’après les rumeurs, c’est Amazon (qui est un actionnaire d’Anthropic) qui aurait découvert une méthode de débridage de Claude Fable 5. Après cette découverte, Andy Jassy, le patron d’Amazon, aurait informé l’administration américaine.
Cité par un article de Wired, Amazon a déclaré : “En tant que fournisseur de services cloud de premier plan desservant un grand nombre de clients des secteurs public et privé, il n’est pas rare que les gouvernements sollicitent nos conseils sur les risques potentiels en matière de sécurité. Lorsque de telles discussions ont lieu, nous ne les partageons pas.”
Anthropic assure que ses mesures de sécurité n’ont pas lâché
Le problème est qu’alors que le gouvernement pense qu’il est déjà possible de contourner les mesures de sécurité de Claude Fable 5, Anthropic, de son côté, estime qu’il ne s’agit pas d’un vrai “jailbreak”.
“Nous avons examiné un rapport qui, selon nous, sert de base à la directive du gouvernement, et avons vérifié que le niveau de capacité qui y est présenté est largement disponible sur d’autres modèles (notamment le GPT-5.5 d’OpenAI) et est utilisé quotidiennement par les experts en sécurité qui assurent la protection des systèmes”, a expliqué Anthropic, vendredi. En d’autres termes, cette méthode ne permettrait pas de débloquer toute la puissance de Claude Fable 5 en matière de cyber.
Notons qu’actuellement, des discussions sont en cours entre Anthropic et le gouvernement américain, pour rétablir l’accès à Claude Fable 5 et à Claude Mythos 5. “Les deux parties s’efforcent de trouver rapidement une solution”, assure un responsable d’Anthropic, cité par Wired. Cependant, ces négociations seraient tendues. D’après le magazine, qui cite ses sources, chaque camps aurait encore des points de vue très différents : le gouvernement resterait convaincu qu’il existe déjà un moyen de débrider Claude Fable 5, tandis qu’Anthropic estimerait que les inquiétudes du gouvernement sont exagérées.
🟣 Pour ne manquer aucune news sur le Journal du Geek, suivez-nous sur Google et sur notre canal WhatsApp. Et si vous nous adorez, on a une newsletter tous les matins.
