La semaine dernière, à l’occasion de la Convention on Conventional Weapons (Convention sur armes conventionnelles) qui se tenait à Genève, les Nations-Unies ont décidé de créer un groupe d’experts gouvernementaux dédié à la question des « systèmes d’armes léthales autonomes » dès l’année prochaine. Le but de ce groupe d’étude est simple : donner son avis sur les robots tueurs et potentiellement les interdire et les bannir des arsenaux nationaux.
Un débat qui n’est pas nouveau
Les robots tueurs ne sont pas un simple fantasme d’auteur de science-fiction. S’ils n’existent pas encore officiellement (la Chine travaillerait toutefois déjà à l’intégration d’IA au sein de certains de ses missiles), les progrès réalisés dans le domaine de l’IA ces derniers mois inquiètent les experts. Si des sociétés privées sont capables de créer des voitures autonomes capables de prendre des décisions complexes (qui tuer en cas d’accident inévitable ?), alors rien n’empêcherait potentiellement des États de créer des armes dirigées par une IA capable de choisir des cibles sans être pilotée par des humains.
Le débat n’est pas nouveau. Depuis des années, des entrepreneurs et des scientifiques alarment la communauté internationale sur les risques des robots tueurs. Pour Stephen Hawkin, il ne fait aucun doute que cela pourrait être une des causes de la fin de l’humanité. Elon Musk considère également que l’IA est « potentiellement plus dangereuse que les bombes nucléaires ».
La création de ce groupe d’expert est une avancée encourageante. Elle devrait permettre à court terme de mettre en place des règles internationales précises concernant les robots tueurs et formaliser leur interdiction.