Depuis de nombreuses semaines, des voix s’élèvent autour de l’IA sur les risques qu’elle pourrait engendrer pour l’humanité. Les rapports sont tellement préoccupants que l’ONU a évoqué le problème il y a peu à Genève et s’est montrée relativement inquiète. Mais quels pourraient être ces risques pour l’espèce humaine ? Seraient-ils liés à la diplomatie et à une possible guerre ?
Selon CNN, un chatbot militaire américain aurait récemment fusionné des données classifiées avec des informations trouvées sur Internet pour en tirer une conclusion totalement fausse.
L’incident a failli se produire ce printemps alors que les Etats-Unis s’empêtraient dans la guerre au Moyen-Orient. Selon le rapport reçu par l’armée américaine, un navire chinois stationné au large du détroit d’Ormuz transportait des composants destinés à un programme d’armes nucléaires. L’information était bien sûr fausse, mais l’Etat-Major américain a bien failli tomber dans le piège. C’est un analyste du renseignement, rattaché au Commandement des opérations spéciales du Pacifique à Hawaï, qui a questionné un chatbot.
Une opération massive évitée de justesse
Selon des sources proches du dossier, l’armée américaine s’est immédiatement mise en mouvement dans le but d’intercepter le navire. Des avions étaient déjà en vol et des soldats armés s’apprêtaient à embarquer sur le navire avant que l’ordre ne soit donné de rebrousser chemin après que des responsables aient creusé l’origine du document et découvert la supercherie algorithmique.
Il n’aura fallu que quelques prompts et d’une intelligence artificielle défectueuse pour que l’on assiste aux débuts d’une nouvelle guerre de grande ampleur entre les deux premières puissances mondiales. L’outil avait en réalité combiné des données classifiées avec des éléments trouvés librement sur internet et jamais authentifiés. Elle en a alors tiré une fausse conclusion que l’analyste à l’origine de la demande a intégré dans un rapport de renseignement. C’est ce rapport qui a ensuite été transmis dans les canaux officiels de l’armée.
Les outils internes ne sont pour la plupart que des copies des produits commerciaux, simplement maquillées différemment. – Un ancien haut responsable américain.
Ce type d’erreur est régulièrement commis par les modèles de langage. Il s’agit d’une hallucination, ou quand il invente une information de toutes pièces pour satisfaire la demande de l’utilisateur.
Pete Hegseth veut accélérer sur l’IA
Le problème, c’est que l’armée américaine veut accélérer le déploiement de l’intelligence artificielle au sein de son ministère, une volonté politique poussée par le secrétaire à la Guerre Pete Hegseth. En janvier dernier, il présentait une stratégie IA ambitieuse destinée à l’inclure à tous les niveaux d’habilitation confondus du ministère. L’objectif est clair : Washington craindrait en effet qu’un retard technologique face à la Chine ne devienne une source de vulnérabilité.
Qu’à cela ne tienne. L’IA n’aura finalement pas permis de révéler ce que ledit navire chinois transportait ni de confirmer qu’il s’agissait de matériel destiné à fabriquer des armes nucléaires.