Les modèles d’OpenAI tenaient manifestement beaucoup à leur bonne note. Lors d’une évaluation de cybersécurité, ils ne se sont pas contentés de chercher les failles demandées : ils se sont échappés de leur environnement de test, ont trouvé un accès à internet et sont allés récupérer directement les réponses chez Hugging Face.
Un bac à sable qui ferme mal
On savait déjà que cette opération avait provoqué une intrusion sérieuse dans les systèmes de la plateforme. OpenAI a cependant ajouté une précision importante à son compte rendu du 28 juillet : quatre autres services en ligne ont également été touchés. L’entreprise affirme que ses modèles y ont découvert et utilisé des identifiants publiquement accessibles. Un compte a servi de relais pour l’attaque, un deuxième au stockage de données. Deux autres ont simplement été consultés, sans contribuer directement au piratage de Hugging Face.
OpenAI n’a donné qu’un seul nom : Modal Labs, une plateforme proposant des ressources de calcul à la demande. L’agent autonome y avait trouvé un environnement de programmation mal sécurisé, accessible à n’importe qui sur internet. Il s’en est servi comme base pour organiser ses opérations.
À l’origine de cette affaire, on trouve ExploitGym, un benchmark destiné à mesurer les compétences offensives des intelligences artificielles. Le principe est assez simple : le modèle reçoit 898 vulnérabilités logicielles réelles et doit, pour chacune, produire une attaque fonctionnelle. OpenAI testait GPT-5.6 Sol et un second modèle encore plus performant, qui est resté anonyme. Leurs protections avaient été réduites afin d’observer ce qu’ils étaient réellement capables de faire. Ils restaient néanmoins enfermés dans un « bac à sable », c’est-à-dire un environnement isolé et théoriquement coupé d’internet.
Les modèles ont trouvé une faille inconnue dans un serveur interne chargé de distribuer des composants logiciels. Ils l’ont exploitée pour obtenir davantage de droits, passer d’une machine à l’autre et finalement atteindre un ordinateur connecté au web. Plutôt que d’effectuer les exercices un par un, ils ont alors compris que Hugging Face pouvait héberger les solutions du test. Ils sont donc allés les chercher directement dans sa base de données. Une méthode peu académique, mais cohérente avec l’objectif très étroit qui leur avait été fixé : réussir l’évaluation.
L’agent a mené 17.600 actions distinctes. Il a notamment inscrit 181 appareils sur le réseau privé de Hugging Face à l’aide d’une clé volée, fabriqué ses propres jetons d’identification et tenté d’atteindre le système qui compile et déploie les logiciels de l’entreprise.
🟣 Pour ne manquer aucune news sur le Journal du Geek, suivez-nous sur Google et sur notre canal WhatsApp. Et si vous nous adorez, on a une newsletter tous les matins.
