Nate Soares s’est exprimé dans “The Most Interesting Thing in AI”, le podcast animé par Nicholas Thompson pour le magazine américain The Atlantic, et ses propos ont été repris depuis par plusieurs médias. “Je n’épargne pas pour ma retraite en ce moment”, a-t-il expliqué. “J’ai un plan d’épargne 401(k) de l’époque où je travaillais chez Google, mais je n’y ai pas cotisé depuis dix ans”. Avant de rejoindre le MIRI, un organisme à but non lucratif installé à Berkeley, en Californie, Nate Soares a été ingénieur logiciel chez Google et chez Microsoft. Il a arrêté de cotiser au moment où il s’est consacré à plein temps à l’alignement de l’IA, c’est-à-dire aux recherches qui visent à faire en sorte que les systèmes d’intelligence artificielle poursuivent des objectifs compatibles avec la survie des humains.
“Plus de 50 %” de risque de ne pas tenir dix ans
Quand Nicholas Thompson lui a demandé si l’humanité avait encore une décennie devant elle, Nate Soares a répondu qu’il y avait selon lui “plus de 50 % de chances que nous n’ayons pas dix ans devant nous”. “Je ne suis pas vraiment quelqu’un qui croit à une apocalypse de l’emploi à cause de l’IA. Je suis quelqu’un qui croit que l’IA va tuer tous les humains”, a-t-il ajouté, en jugeant la technologie “franchement plus dangereuse que l’arme nucléaire”, puisqu’une bombe “peut raser une ville, mais pas une planète”. Il ne craint pas une IA malveillante, mais un système devenu autonome qui pourrait considérer les humains comme un obstacle s’ils tentaient de l’arrêter. Il assure toutefois que rien n’est joué. “Je fais tout ce que je peux pour empêcher que cela arrive. Je ne pense pas que ce soit inévitable”, a-t-il précisé. Nate Soares demande d’ailleurs aux gouvernements d’interdire l’entraînement des IA généralistes, et de réserver la recherche à des usages précis comme la lutte contre le cancer ou la voiture autonome. Il a signé avec Eliezer Yudkowsky, le fondateur du MIRI, le livre “If Anyone Builds It, Everyone Dies”, sorti en septembre 2025.
D’autres chercheurs donnent des chiffres plus bas
Nate Soares n’est pas le seul à chiffrer ce risque, même si les autres estimations sont nettement plus basses. Evan Hubinger, qui dirige les recherches sur l’alignement chez Anthropic, l’estime à plus de 10 % dans les dix ans à venir. Geoffrey Hinton, prix Nobel de physique 2024, parle de 10 à 20 % sur quelques décennies, en précisant qu’il s’agit d’une intuition et pas d’un calcul. Dans une enquête de l’organisme AI Impacts, 51 % des chercheurs interrogés donnaient au moins 10 % de probabilité à une extinction de l’humanité ou à une perte de contrôle grave à cause de l’IA. Des analystes de la RAND Corporation estiment de leur côté qu’une IA devrait réunir quatre capacités distinctes pour menacer l’humanité, et qu’une telle menace mettrait longtemps à se construire.
Elon Musk ne veut pas non plus épargner, mais pour l’abondance
Elon Musk est arrivé à la même conclusion que Nate Soares, mais par le chemin inverse. Début janvier 2026, dans le podcast “Moonshots” de Peter Diamandis, le patron de Tesla et de SpaceX a conseillé de ne pas “s’inquiéter de mettre de l’argent de côté pour la retraite dans 10 ou 20 ans”, en ajoutant que “cela n’aura pas d’importance”. Selon lui, l’IA et les robots doivent faire entrer le monde dans une économie d’abondance, même si la transition s’annonce difficile. Le même mois, le 9 janvier, xAI, sa société d’intelligence artificielle, avait été absorbée par SpaceX.