Nvidia, le leader mondial des puces pour l’intelligence artificielle, vient de présenter Open Agent Safety Platform, une initiative à laquelle participent de nombreux acteurs de la tech, dont Anthropic, Arm, Microsoft, Mistral, Hugging Face, ou encore SpaceX, pour sécuriser les agents d’intelligence artificielle. Alors que les incidents de sécurité impliquant des agents d’intelligence artificielle se multiplient, cette plateforme propose un ensemble de solutions qui permettent de contrôler la technologie, pour empêcher les mauvais agissements.
L’une des solutions proposées est Nvidia OpenShell, un programme qui s’exécute directement sur le CPU et qui permet d’isoler les modèles d’intelligence artificielle. Comme le rapporte CNBC, d’après Nvidia, il s’agit d’une solution qui aurait pu empêcher l’incident durant lequel des agents d’intelligence artificielle OpenAI se sont échappés de leur environnement de test pour pirater la plateforme Hugging Face.
Nvidia propose aussi un outil appelé Nvidia Sentry, qui fonctionne comme un garde-fou et comme un coupe-circuit. Ce programme fonctionne sur une unité de traitement de données Nvidia et surveille le comportement des agents d’intelligence artificielle en permanence. Et si l’IA commence à sortir du périmètre logiciel qui lui est autorisé, Sentry l’isole, puis l’arrête en quelques millisecondes.
Today, with over 100 industry partners, we introduced the NVIDIA Open Agent Safety Platform, bringing together OpenShell and Sentry.
Artificial intelligence is extraordinary technology that will advance discovery, productivity, security, health, and prosperity for generations to… pic.twitter.com/dReAxwpRUn
— Jensen Huang (@JensenHuang) September 28, 2026
Une solution technique aux problèmes de l’IA
À cause des incidents de sécurité et des risques que l’intelligence artificielle pose pour l’humanité, de plus en plus de personnes sont favorables à une régulation de l’intelligence artificielle. Et même les patrons d’Anthropic, d’OpenAI et de SpaceX sont d’accord sur le fait que les États-Unis et la Chine, les deux grandes puissances de l’IA, devraient collaborer pour ralentir le développement de la technologie.
En revanche, Jensen Huang, le patron de Nvidia, s’oppose à cette idée. Celui-ci pense aussi que de nouvelles lois pour l’IA ne sont pas nécessaires. Mais, aujourd’hui, il propose un ensemble de solutions techniques qui sont supposées régler le problème. “Alors que nous continuons à explorer les limites des capacités de l’IA, nous devons accélérer les avancées en matière de sécurité de l’IA”, a-t-il déclaré.
On devrait voir, dans les prochains mois, si cette solution peut effectivement empêcher les incidents de sécurité, comme le piratage de Hugging Face par des agents d’IA. Mais, en tout cas, les solutions comme OpenShell ou Sentry sont intéressantes, puisqu’elles consistent à isoler et surveiller l’IA au niveau des composants, mais pas au niveau logiciel.