Après les récentes déclarations d’un chercheur d’Anthropic affirmant que l’IA pourrait, à terme, tuer l’humanité, c’est au tour de Bill Gates de relancer le débat. Le cofondateur de Microsoft estime désormais que les risques liés à l’intelligence artificielle sont suffisamment sérieux pour nécessiter des garde-fous imposés par les pouvoirs publics. Et il va beaucoup plus loin qu’une simple mise en garde. Selon lui, une IA suffisamment puissante pourrait permettre à des individus mal intentionnés de provoquer des catastrophes faisant jusqu’à un milliard de morts.
La déclaration intervient quelques semaines seulement après une séquence qui avait fait énormément parler dans le monde de la tech. Début septembre, Jacob Coxon, ancien chercheur chez OpenAI puis Anthropic, avait quitté cette dernière entreprise en expliquant que les grands patrons développant les modèles les plus avancés “jouaient avec nos vies“.
Il affirmait que certains chercheurs travaillant dans le secteur pensaient sérieusement que l’IA pourrait tuer tous les humains avant la fin de la décennie. Evan Hubinger, chercheur spécialisé dans l’alignement chez Anthropic, avait même estimé à plus de 10 % la probabilité d’un tel scénario au cours des dix prochaines années.
L’autorégulation ne suffit plus
Le propos de Bill Gates est légèrement différent. Dans l’émission Meet the Press de NBC, il n’a pas prédit que les IA allaient nécessairement devenir conscientes, se retourner contre leurs créateurs ou prendre le contrôle de la planète. Il a plutôt insisté sur l’utilisation de l’IA par des humains mal intentionnés. Selon lui, la technologie est désormais suffisamment puissante pour donner à ces individus des capacités inédites, notamment dans des domaines comme la cybercriminalité ou d’autres formes d’attaques à grande échelle. Il déclare : “L’IA est certainement assez puissante pour provoquer des événements qui pourraient causer un milliard de morts.”
Cette position est représentative d’une évolution assez nette du discours de Bill Gates sur l’IA. Longtemps enthousiaste à propos de son potentiel, il alerte désormais régulièrement sur les conséquences de son développement rapide. Dans un texte publié en août, il expliquait notamment que l’IA pourrait transformer la société plus profondément que toutes les technologies précédentes et appelait à construire un véritable cadre national et international pour accompagner cette transition.
Cette fois, il estime surtout que les entreprises technologiques ne peuvent pas être les seules à décider des règles. Il appelle ainsi les responsables politiques, dont Donald Trump, et les forces de l’ordre à participer à la définition des systèmes de surveillance et de sécurité. Pour lui, certaines de ces mesures doivent devenir obligatoires.
Une nouvelle étape dans le débat sur les dangers de l’IA
Ces déclarations interviennent dans un contexte particulièrement tendu. En quelques semaines, les avertissements de chercheurs, de dirigeants de laboratoires et désormais de figures historiques de la tech ont contribué à remettre les risques de l’IA au centre des discussions. Pour autant, les scénarios catastrophiques évoqués ne constituent pas des événements établis ou inévitables. Plusieurs chercheurs contestent notamment les prédictions les plus apocalyptiques concernant une extinction prochaine de l’humanité. D’autres se concentrent davantage sur le désastre écologique plus que sur un manque de sécurité.
Comment s’assurer qu’une technologie dont les capacités progressent extrêmement vite ne soit pas déployée sans règles adaptées ? La question risque de devenir de plus en plus difficile à éviter à mesure que les IA gagnent en autonomie et en puissance.