Anthropic vient de publier un nouveau rapport sur les usages malveillants ou préoccupants de ses modèles Claude qu’il a détectés, puis bloqués. Il ne s’agit pas d’une liste exhaustive de tous les usages interdits, mais plutôt d’exemples des menaces les plus notables ou nouvelles qui ont été découvertes par l’entreprise, sur une période allant de décembre 2025 à août 2026. En ce qui concerne les tentatives de cyberattaques, les auteurs incluent des groupes financés par des États, des criminels dont les motivations étaient financières, mais aussi des pirates motivés par leur opinion politique. Ces opérations ont été détectées sur les modèles Claude Haiku, Sonnet, et Opus. Et Anthropic assure qu’aucune activité malicieuse n’a été détectée sur Claude Fable ou Mythos, ses modèles les plus avancés qui incluent aussi des mesures de sécurité plus strictes.
Le rapport cite aussi des exemples d’opérations de surveillances menées avec l’assistance de Claude, des campagnes d’influence de l’opinion publique ou même d’élections, ainsi que l’utilisation de Claude pour lancer des arnaques. Mais le plus inquiétant, dans tout cela, est que des personnes tentent aussi d’utiliser Claude pour développer des armes. Dans l’un des exemples cités, un groupe de personnes basées au Yémen aurait utilisé Claude dans le cadre de trois programmes d’armement, dont “une fusée guidée utilisant un ordinateur de vol standard de type téléphone portable avec guidage de phase finale”. “Les acteurs ont utilisé Claude Code à la place d’ingénieurs logiciels humains pour développer le logiciel de guidage, de navigation et de contrôle (GNC) qui dirige et stabilise un véhicule volant”, indique aussi Anthropic.
Les usages en biologie : parmi les plus préoccupants
Le rapport d’Anthropic évoque aussi la détection d’utilisations préoccupantes des compétences de Claude en biologie. “On s’inquiète depuis longtemps de la possibilité que les modèles d’IA atteignent un jour un niveau de capacité leur permettant de rendre les agents pathogènes existants plus dangereux, voire d’en créer de tout nouveaux. En l’absence de mesures de sécurité adéquates, de telles capacités pourraient avoir des conséquences catastrophiques”, explique le développeur de Claude.
Dans le document, l’entreprise cite cinq cas dans lesquels l’usage de Claude par des chercheurs “pourrait” servir à développer des armes biologiques. Plus précisément, l’entreprise a identifié des utilisations de son IA pour des recherches suspectes qui sont liées à des virus et de venins.
We're publishing our most detailed threat intelligence report to date.
It covers how people tried to misuse Claude—for cyberattacks, influence operations, surveillance, biology, and building weapons—and how we found and stopped them.
We disrupted every operation in the report,…
— Anthropic (@AnthropicAI) September 10, 2026
Anthropic accuse également des rivaux chinois d’exploiter ses modèles
Anthropic dédie également tout un chapitre de son rapport aux tentatives de “distillation” de Claude. Pour rappel, cette technique consiste à développer une IA en entraînant celle-ci sur les résultats d’un modèle plus puissant. Et, dans son rapport, Anthropic cite de nombreux exemples d’opérations de distillation de modèles Claude par des laboratoires d’intelligence artificielle chinois.
Par exemple, Anthropic accuse l’entreprise chinoise Moonshot d’avoir utilisé un réseau de proxy pour rediriger des requêtes d’utilisateurs vers des modèles Claude, au lieu d’utiliser ses propres modèles Kimi. Dans certains cas, les utilisateurs de cette IA chinoise recevaient donc des réponses de Claude, sans le savoir.
Ensuite, ces échanges auraient été utilisés pour entraîner les modèles de la startup chinoise. “En plus de transmettre les réponses de Claude à ses clients, Moonshot a également capturé et enregistré au moins une partie de ces échanges. Moonshot a mis en place un pipeline d’extraction CoT (ndlr, chaîne de pensée) afin d’extraire les transcriptions CoT de Claude à partir de ces échanges enregistrés et relayés, dans le but d’entraîner ses modèles. Moonshot a également extrait des transcriptions CoT obtenues par d’autres moyens”, affirme Anthropic.