Microsoft a trouvé une comparaison efficace pour parler de régulation de l’intelligence artificielle. Dans un entretien à ITV News, Brad Smith a résumé la situation ainsi : « Aujourd’hui, votre machine à laver est soumise à davantage de règles de sécurité que l’IA. » Il a aussi rappelé que les cartons de lait vendus en supermarché sont soumis à des règles et à des inspections.
Le carton de lait, nouveau modèle de sécurité
La formule peut faire sourire, mais le sujet est très sérieux. Pour Microsoft, les systèmes d’IA les plus avancés progressent vite, très vite, alors que les règles suivent avec retard. Brad Smith estime qu’il faut agir maintenant, notamment lorsque ces modèles deviennent assez puissants pour poser des risques en cybersécurité.
Satya Nadella, le patron de Microsoft, a appuyé ce message dans un long post publié sur X. Selon lui, il faut considérer dès le départ qu’un modèle peut être compromis. « Nous devons partir du principe qu’un modèle est compromis et le contenir dès le départ », a-t-il écrit. Mieux vaut construire les barrières avant l’incident, pas après.
Le CEO défend aussi l’idée d’un bouton d’arrêt, une sorte de frein d’urgence pour les modèles qui partiraient dans une mauvaise direction. Toute personne autorisée devrait pouvoir mettre un système en pause ou l’arrêter en plein fonctionnement. Plus les modèles seront puissants, plus ces mécanismes devront être solides et standardisés.
Le débat arrive dans un moment politique chargé. Plusieurs grands noms de l’IA, dont Anthropic, OpenAI et DeepMind (Google), ont déjà plaidé pour ralentir le développement des modèles les plus avancés. Donald Trump, lui, voit les choses autrement : pour rester devant la Chine, l’industrie américaine devrait plutôt accélérer.
Le président américain préfère donc laisser les entreprises se réguler elles-mêmes. Lors du sommet consacré à la « super intelligence », plusieurs dirigeants du secteur, parmi lesquels Sundar Pichai, Dario Amodei, Mark Zuckerberg, Greg Brockman, Elon Musk et Jensen Huang, ont signé un accord autour de l’autorégulation, de garde-fous et d’audits indépendants.
Tout le monde n’est pas convaincu. Ce type d’accord laisse les entreprises décider elles-mêmes de ce qui est sûr ou non : c’est comme si les élèves corrigeraient leur propre copie… Microsoft envoie donc un signal beaucoup plus prudent : l’IA ne peut pas rester moins surveillée qu’un lave-linge ou une bouteille de lait. Ce n’est pas très glamour, mais c’est peut-être précisément le problème.
