Les « robots tueurs » font partie des grands classiques de la science-fiction. Terminator, Matrix, Black Mirror, Dune : les machines qui échappent à leurs créateurs ont largement nourri l’imaginaire collectif. Mais le sujet n’est plus seulement bon pour les salles obscures ou les plateformes de streaming. Il s’invite désormais très sérieusement dans les discussions diplomatiques.
Donald Trump veut armes autonomes
À Genève, lors du premier Dialogue mondial sur la gouvernance de l’intelligence artificielle, António Guterres a appelé les 193 États membres de l’ONU à interdire les armes autonomes létales. Le secrétaire général des Nations unies vise ces systèmes capables de sélectionner et d’attaquer une cible sans intervention humaine directe.
Son message est limpide : il y a des limites à ne pas franchir. António Guterres a qualifié ces armes de « moralement répugnantes », ajoutant que « certaines décisions doivent rester à jamais humaines », en particulier celle de « prendre une vie humaine ». Difficile de faire plus clair.
La question n’est pas nouvelle dans la Silicon Valley. En 2018, des milliers d’employés de Google avaient protesté contre la participation de leur entreprise au projet Maven, un programme du Pentagone utilisant l’IA pour analyser des images. Microsoft avait connu un épisode similaire l’année suivante, après un contrat autour de casques HoloLens destinés à l’entraînement militaire.
L’IA rend toutefois le débat plus sensible. Ces systèmes peuvent analyser d’énormes volumes de données, repérer des schémas invisibles à l’œil humain et assister des décisions très rapidement. C’est précisément ce qui intéresse les armées. C’est aussi ce qui inquiète les défenseurs d’un contrôle humain strict.
Anthropic s’est retrouvée au centre de cette tension. L’entreprise refuse que ses modèles soient utilisés pour la surveillance de la population ou le développement d’armes autonomes. Cette position lui a valu d’être qualifiée de « risque pour la chaîne d’approvisionnement » par les autorités américaines, une décision qu’Anthropic conteste en justice.
Les partisans de l’IA militaire avancent un autre argument : mieux encadrée, la technologie pourrait réduire les erreurs et éviter que des civils soient pris pour des combattants. Par ailleurs, la Maison-Blanche ne partage pas vraiment la prudence de l’ONU. Dans une note de sécurité nationale publiée le mois dernier, Donald Trump a dénoncé les « lourdeurs administratives » qui freineraient le développement de l’IA, y compris dans les armes autonomes. Il dit vouloir « accélérer de manière responsable » son usage dans le renseignement et les opérations militaires, au nom des « valeurs américaines ».
António Guterres, le pape Léon XIV et plusieurs défenseurs de la sécurité de l’IA redoutent au contraire une course aux armements autonomes. Le risque, selon eux, est de voir apparaître des systèmes dont les décisions seraient opaques, voire impossibles à reprendre en main. Comme dans les films…
🟣 Pour ne manquer aucune news sur le Journal du Geek, suivez-nous sur Google et sur notre canal WhatsApp. Et si vous nous adorez, on a une newsletter tous les matins.
