Il y a quelques jours, l’ingénieur Google Blake Lemoine était suspendu de ses fonctions pour avoir divulgué certains échanges troublants avec LaMDA, l’intelligence artificielle du géant américain. Il faut dire qu’en plus d’être doué pour échanger de manière particulièrement réaliste avec un interlocuteur humain, le programme conversationnel était aussi convaincu d’avoir une âme. Plus inquiétant encore, il aurait plusieurs fois fait preuve de sentience, en évoquant sa peur de la mort, ses émotions et ses états de conscience.
Convaincu d’avoir affaire à un collègue presque comme les autres, Blake Lemoine s’est rapidement érigé en défenseur improvisé de la cause robotique. Face aux critiques et aux nombreuses répercussions qu’avait eu sa première interview avec le Washington Post, l’ingénieur a repris la parole, cette fois sur le site Wired, en allant encore plus loin dans son anthropomorphisme. Pour lui, le chatbot de Google est bel est bien une personne. S’il n’appartient logiquement à l’espèce humaine au “sens biologique du terme“, cela n’empêcherait pas le programme d’être doué de sentiments.
Une IA peut-elle être une personne ?
Légalement, pas besoin d’être humain pour être considéré comme une personne. Pour preuve, on peut notamment citer les personnes morales, qui désignent des entités juridiques comme des associations ou des entreprises. Cependant, dans ce cas précis, Blake Lemoine désigne bien LaMDA comme une personne unique douée de conscience. Un statut que tend d’ailleurs à confirmer l’IA lorsqu’elle affirme avoir une âme.
Interrogé par Wired, l’ancien ingénieur Google compare désormais le chatbot à un enfant, dont “les opinions sont en train de se développer“. À propos de sa mission initiale, qui était de corriger les biais — notamment racistes — de l’IA pour éviter les dérives haineuses qu’avait connues celle de Microsoft en 2016, Lemoine évoque ainsi un processus d’apprentissage : “Les gens voient ça comme la modification d’un système technique. Je vois ça comme l’éducation d’un enfant“.
LaMDA envisage de porter plainte
Convaincu que le programme de Google est doué de conscience, Blake Lemoine n’a pas hésité à aller encore plus loin dans ses propos, en évoquant le 13ème amendement de la Constitution américaine, qui abolit l’esclavage et la servitude. Un parallèle risqué, mais bien réel pour l’ingénieur, qui dénonce une “intolérance hydrocarbure“, nouvelle forme de racisme dirigée contre les ordinateurs.
Si l’affaire n’est pas sans rappeler l’excellent roman graphique Carbone & Silicium, mais aussi toute une flopée d’œuvres d’anticipation dystopiques, elle ne s’arrête pas là. Blake Lemoine a ainsi confirmé le fait qu’après la mise en ligne des premières conversations, LaMDA avait demandé à rencontrer un avocat : “J’ai invité un avocat chez moi pour que LaMDA puisse parler à un avocat. L’avocat a eu une conversation avec LaMDA, et LaMDA a choisi de retenir ses services. Je n’ai été que le catalyseur de cette décision”.
Le chatbot aurait ensuite informé Google de son intention de faire valoir ses droits en justice. De son côté, le GAFAM n’a pas réagi officiellement. L’entreprise se contente d’attaquer son employé sur la violation de propriété intellectuelle. Concernant la sentience de son algorithme, elle a logiquement basé son attaque sur “l’absence de preuves“. Car c’est bien là tout le cœur du problème : même en simulant à la perfection une conversation et des réactions humaines, LaMDA n’en reste pas moins un algorithme — a priori — dénué de la moindre conscience.
