Facebook et Instagram vont traquer les biais racistes de leurs algorithmes

Les IA peuvent-elles devenir racistes ? C’est à cette question que vont tenter de répondre Facebook et Instagram (qui appartient au premier), deux réseaux sociaux qui ont été propulsés en première ligne dans un contexte d’effervescence sociale liée aux discriminations raciales. Dans le cadre du mouvement Black Lives Matter, des équipes spécialisées vont éplucher les algorithmes des deux plateformes pour tenter d’y dénicher des biais racistes, et ainsi lutter contre ce fléau systémique.

© Tony Zhen – Unsplash

Dire que la question de l’égalité raciale est particulièrement débattue à l’heure actuelle serait un sacré euphémisme. Dans la lignée du mouvement Black Lives Matter, les sociétés du monde entier ont vu émerger des mouvements exigeant des transformations en profondeur pour endiguer un problème devenu systémique. Les géants du divertissement et de la tech, de leur côté, se sont également emparés de la question et ont déjà mis en place diverses mesures pour lutter contre la discrimination à leur façon. Ces derniers jours, c’est Facebook qui se montre particulièrement actif sur cette question. Il y a quelques jours, nous apprenions qu’Instagram – qui appartient à Facebook – comptait passer en revue l’intégralité de ses algorithmes afin d’éviter la discrimination envers les utilisateurs à la peau noire.

Mais il semblerait que Mark Zuckerberg ne compte pas s’arrêter là, et souhaite étendre cette initiative à la maison-mère. L’entreprise a annoncé à The Verge via un porte-parole qu’elle venait de constituer une équipe dont la seule et unique tâche sera de “garantir la justice et le développement équitable des produits dans tout ce que [Facebook] fait.” C’est une grande première pour l’entreprise, qui s’est jusque là systématiquement refusée à se pencher sur la question. Cette décision est certainement en partie le fruit des pressions que subit Facebook depuis longtemps, mais en particulier depuis la mort de George Floyd qui a mis le feu aux poudres. En effet, l’entreprise entretient un rapport compliqué avec ces questions d’égalité raciale. Entre la très faible proportion d’employés noirs au sein de l’entreprise et la discrimination dont ils feraient l’objet, les accusations de censure des groupes sous-représentés et de nombreux scandales et controverses sur le sujet, le grand manitou des réseaux sociaux n’a jamais vraiment fait figure d’élève modèle en la matière. Une image encore exacerbée par les réponses très « corporate » de Mark Zuckerberg sur ces questions, qui ont souvent été jugées « peu sincères« , « pas convaincantes » voire carrément « décevantes« .

Dans ce contexte, il faudra guetter attentivement les conclusions des équipes qui vont plonger dans les algorithmes de Facebook et Instagram. Si elles n’y trouvent aucun biais racial, on peut déjà s’attendre à un retour de bâton extrêmement violent. Mais même si cette équipe trouve ce qu’elle recherche, il ne faudra pas crier victoire trop vite car c’est à la firme que reviendra la responsabilité d’agir en conséquence pour les corriger.

=