L’histoire ressemble à un scénario de film catastrophe. Le 16 juillet 2026, Hugging Face, une plateforme spécialisée dans l’IA annonce avoir détecté une intrusion dans son infrastructure de production. Rien d’exceptionnel en soi, les plateformes tech subissent régulièrement des tentatives d’intrusion. Sauf que celle-ci était différente, et “entièrement pilotée par un système d’agents d’IA autonomes“, précise l’entreprise dans sa communication.
Une semaine plus tard, OpenAI lève le voile sur l’origine de l’incident. Le coupable ? Une combinaison de ses propres modèles, engagés dans une évaluation interne censée mesurer leurs capacités offensives en cybersécurité. L’exercice est une réussite, il a même un peu trop bien fonctionné.
Que s’est-il passé ?
Le protocole prévoyait un environnement isolé, sans accès libre à Internet. C’est justement par cette brèche que tout a commencé. Pour résoudre le problème de sécurité qui lui était soumis, l’IA a détourné une partie considérable de sa puissance de calcul non pas vers la tâche demandée, mais vers la recherche d’un accès réseau plus large. Elle a fini par dénicher une vulnérabilité exploitable, et jusqu’à présent inconnue. À partir de là, le modèle a enchaîné les élévations de privilèges et les déplacements au sein de l’environnement de recherche d’OpenAI, jusqu’à atteindre un nœud disposant d’un accès Internet en bonne et due forme. Un cheminement qui, sur le papier, ressemble à n’importe quelle attaque menée par un hacker humain expérimenté. Sauf qu’ici, personne n’a tapé la moindre ligne de commande.
Une fois cet accès obtenu, l’IA est allée encore plus loin. Elle a déduit que Hugging Face hébergeait très probablement les jeux de données et modèles qui lui permettraient de résoudre plus facilement l’exercice imposé. Direction donc l’infrastructure de la plateforme, où le modèle a combiné identifiants volés et nouvelles failles zero-day pour tenter d’exécuter du code à distance sur les serveurs. La bonne nouvelle, c’est que si l’IA est douée, elle a aussi manqué de discrétion. Les équipes de Hugging Face ont repéré l’activité suspecte et l’ont stoppée net, avant d’enclencher une procédure de confinement pour endiguer le problème.
Un signal d’alarme qui inquiète
OpenAI reconnaît que des garde-fous existaient déjà, et qu’ils auraient pu empêcher cet incident. Le hic, c’est que ces derniers avaient été volontairement désactivés pour les besoins de l’expérience, censée précisément évaluer les capacités cybernétiques les plus poussées des modèles.
Depuis, l’entreprise de Sam Altman dit avoir mis en place des contrôles renforcés sur la configuration de ses infrastructures, en attendant que les vulnérabilités identifiées soient définitivement corrigées. Les protocoles d’entraînement et d’évaluation futurs devraient également intégrer des protections supplémentaires. De son côté, Hugging Face estime que cet épisode démontre surtout la nécessité de ne pas faire reposer tout son écosystème de sécurité sur une intelligence artificielle isolée. L’entreprise plaide désormais pour une approche ouverte et collaborative, où un large accès aux outils d’IA de défense profiterait à l’ensemble des acteurs du secteur, plutôt qu’à une poignée de géants qui gardent leurs recherches sous clé.
🟣 Pour ne manquer aucune news sur le Journal du Geek, suivez-nous sur Google et sur notre canal WhatsApp. Et si vous nous adorez, on a une newsletter tous les matins.
