Les Nations Unies décideront du sort des robots tueurs l’année prochaine

drone

Par Gaël Weiss le

Si l’on peut rendre une voiture complètement autonome dans les 5 prochaines années, qu’est-ce qui empêcherait un État malintentionné d’en faire de même avec des robots armés ? Les Nations-Unies vont lancer dès l’année prochaine un groupe d’étude sur le sujet avec pour objectif leur interdiction.

TALON, un robot de déminage (non autonome) utilisé par les forces américaines en Irak.
TALON, un robot de déminage (non autonome) utilisé par les forces américaines en Irak.

La semaine dernière, à l’occasion de la Convention on Conventional Weapons (Convention sur armes conventionnelles) qui se tenait à Genève, les Nations-Unies ont décidé de créer un groupe d’experts gouvernementaux dédié à la question des « systèmes d’armes léthales autonomes » dès l’année prochaine. Le but de ce groupe d’étude est simple : donner son avis sur les robots tueurs et potentiellement les interdire et les bannir des arsenaux nationaux.

Un débat qui n’est pas nouveau

Les robots tueurs ne sont pas un simple fantasme d’auteur de science-fiction. S’ils n’existent pas encore officiellement (la Chine travaillerait toutefois déjà à l’intégration d’IA au sein de certains de ses missiles), les progrès réalisés dans le domaine de l’IA ces derniers mois inquiètent les experts. Si des sociétés privées sont capables de créer des voitures autonomes capables de prendre des décisions complexes (qui tuer en cas d’accident inévitable ?), alors rien n’empêcherait potentiellement des États de créer des armes dirigées par une IA capable de choisir des cibles sans être pilotée par des humains.

Le débat n’est pas nouveau. Depuis des années, des entrepreneurs et des scientifiques alarment la communauté internationale sur les risques des robots tueurs. Pour Stephen Hawkin, il ne fait aucun doute que cela pourrait être une des causes de la fin de l’humanité. Elon Musk considère également que l’IA est « potentiellement plus dangereuse que les bombes nucléaires ».

La création de ce groupe d’expert est une avancée encourageante. Elle devrait permettre à court terme de mettre en place des règles internationales précises concernant les robots tueurs et formaliser leur interdiction.

Source: Source