Google, une des entreprises en pointe dans le domaine de la recherche sur l’intelligence artificielle, a bien conscience des problèmes potentiels qui pourraient surgir si les choses devaient aller trop loin.
Les chercheurs de DeepMind, l’IA qui a battu le champion du monde de Go il y a quelques semaines, ont révélé l’existence d’un bouton d’alerte capable d’arrêter purement et simplement l’intelligence artificielle. Elle devient alors incapable de faire du mal à elle-même et aux humains.
Ce “gros bouton rouge”, comme l’appelle DeepMind, est “nécessaire” afin de stopper une séquence d’actions qui pourraient être préjudiciables à un tiers. L’idée est bonne et il y a des chances pour que ce type de mécanisme fasse partie des systèmes IA à l’avenir.