Passer au contenu

Les Nations Unies décideront du sort des robots tueurs l’année prochaine

Si l’on peut rendre une voiture complètement autonome dans les 5 prochaines années, qu’est-ce qui empêcherait un État malintentionné d’en faire de même avec des robots armés ? Les Nations-Unies vont lancer dès l’année prochaine un groupe d’étude sur le sujet avec pour objectif leur interdiction.

TALON, un robot de déminage (non autonome) utilisé par les forces américaines en Irak.
TALON, un robot de déminage (non autonome) utilisé par les forces américaines en Irak.

La semaine dernière, à l’occasion de la Convention on Conventional Weapons (Convention sur armes conventionnelles) qui se tenait à Genève, les Nations-Unies ont décidé de créer un groupe d’experts gouvernementaux dédié à la question des « systèmes d’armes léthales autonomes » dès l’année prochaine. Le but de ce groupe d’étude est simple : donner son avis sur les robots tueurs et potentiellement les interdire et les bannir des arsenaux nationaux.

Un débat qui n’est pas nouveau

Les robots tueurs ne sont pas un simple fantasme d’auteur de science-fiction. S’ils n’existent pas encore officiellement (la Chine travaillerait toutefois déjà à l’intégration d’IA au sein de certains de ses missiles), les progrès réalisés dans le domaine de l’IA ces derniers mois inquiètent les experts. Si des sociétés privées sont capables de créer des voitures autonomes capables de prendre des décisions complexes (qui tuer en cas d’accident inévitable ?), alors rien n’empêcherait potentiellement des États de créer des armes dirigées par une IA capable de choisir des cibles sans être pilotée par des humains.

Le débat n’est pas nouveau. Depuis des années, des entrepreneurs et des scientifiques alarment la communauté internationale sur les risques des robots tueurs. Pour Stephen Hawkin, il ne fait aucun doute que cela pourrait être une des causes de la fin de l’humanité. Elon Musk considère également que l’IA est « potentiellement plus dangereuse que les bombes nucléaires ».

La création de ce groupe d’expert est une avancée encourageante. Elle devrait permettre à court terme de mettre en place des règles internationales précises concernant les robots tueurs et formaliser leur interdiction.

🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.

Source : Source

6 commentaires
  1. Ca dépend, si ces robots n’ont le droit de tuer que d’autres robots.
    Ca sera des combats de robots et les humains ne seront pas touchés.

    A moins, que ces robots se retournent vers leur créateur et colonise l’espece humaine !?

  2. Bon mettons de côté les fantasme de matrix ou terminator: on peut voir aujourd’hui avec Alep que l’Homme est suffisamment meurtrier ok? Maintenant si nous garantissons que ces IA primitives seront capable d’identifier un individu armé d’un civil, capable, par exemple pour un missile, de sonder en 1 fraction de seconde le bâtiment visé (via des capteurs thermiques et j’en passe) alors j’aurais plus confiance en cette IA, qu’en ce général qui donne l’ordre de bombarder un hôpital.

  3. On m’a parlé d’une petite société prometteuse nommée Skynet… franchement les robots soldats c’est le fantasme des grosses puissances : à terme moins coûteux qu’un soldat, sacrifiable, totalement obéissant, résistant, ça va vraiment être intéressant de voir le lobbying derrière : le marché des drones autonomes terrestre/aériens/maritimes est monstrueux

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Mode