Un bouton d’arrêt d’urgence pour l’intelligence artificielle de Google

Science

Par Olivier le

L’intelligence artificielle, c’est bien pratique, mais il faudra mettre des garde-fous afin d’éviter que les machines prennent le pouvoir. C’est d’ailleurs une des craintes d’Elon Musk et de Stephen Hawking…

Google, une des entreprises en pointe dans le domaine de la recherche sur l’intelligence artificielle, a bien conscience des problèmes potentiels qui pourraient surgir si les choses devaient aller trop loin.

Les chercheurs de DeepMind, l’IA qui a battu le champion du monde de Go il y a quelques semaines, ont révélé l’existence d’un bouton d’alerte capable d’arrêter purement et simplement l’intelligence artificielle. Elle devient alors incapable de faire du mal à elle-même et aux humains.

Ce “gros bouton rouge”, comme l’appelle DeepMind, est “nécessaire” afin de stopper une séquence d’actions qui pourraient être préjudiciables à un tiers. L’idée est bonne et il y a des chances pour que ce type de mécanisme fasse partie des systèmes IA à l’avenir.

Source: Source