En toute discrétion, Facebook et Google automatisent leur censure face à Daesh

Sur le web

Par Elodie le

Pour renforcer leur lutte contre les vidéos de propagande qui transitent sur leur plateforme, Facebook et YouTube ont commencé à automatiser la détection et la suppression du contenu terroriste. Sans tambours, ni trompette.

facebook_google_censure_automatique_daesh

Rompus à la modération a posteriori, les géants du web semblent prêts à changer leur fusil d’épaule face à la prolifération des vidéos de propagande terroriste sur leur plateforme.

Pressés d’agir par les gouvernements qui légifèrent de leur côté pour tenter de juguler le phénomène, les géants du web semblent désormais prêts à se lancer dans la bataille… en toute discrétion, comme le rapporte Reuters.

Facebook et Google, via YouTube, ont mis en place une méthode qui analyse et supprime automatiquement le contenu incriminé. Une technologie déjà utilisée pour les contenus protégés par le droit d’auteur. Grâce à une empreinte numérique unique, les contenus signalés comme violant le copyright sont détectés et supprimés.

Chez YouTube par exemple, cela se traduit par une importante base de données qui recense l’ensemble des vidéos protégées ou signalées. À chaque nouvelle mise en ligne, Facebook et Google pourront interroger leur base de données pour détecter et supprimer a priori les vidéos « extrémistes ».

Discrétion oblige, aucune de ces firmes n’a souhaité s’exprimer pour confirmer ou infirmer l’information, « en partie par peur, entre autres, que les terroristes parviennent à manipuler ce système ou que des régimes répressifs l’utilisent pour censurer leurs opposants ». Aussi parce qu’ils n’ont aucune envie de vanter les mérites de la censure.

Une initiative qui se couple avec le code de bonne conduite signé avec la Commission européenne pour contrer les discours de haine illégaux qui pullulent sur leur plateforme, notamment en promouvant un « contre discours indépendant ».
Une prise en main plus qu’attendue tant les accusations de laxisme proliféraient de toute part. Récemment encore, trois associations (SOS Racisme, SOS Homophobie et l’Union des étudiants juifs de France – UEJF) ainsi que le père d’une victime des attentats parisiens du 13 novembre assignaient Facebook, Twitter et Google en justice pour leur rôle dans la prolifération des discours haineux sur la toile.

Toutefois, lorsque le choix de la censure est laissé aux géants du web, la polémique n’est pas loin.

Facebook s’est récemment fait épingler concernant ses trends topics (disponibles uniquement sur sa plateforme US) qui favoriseraient un peu trop les contenus démocrates au détriment de Donald Trump et plus généralement du camp républicain. Google s’est également fait tancer pour son application toute personnelle du droit à l’oubli.

Comme aucune information n’a filtré sur le nombre de personnes travaillant à identifier et supprimer les contenus signalés, ni comment elles sont initialement jugées comme « extrémistes », les rumeurs vont bon train.
Autant de non-dits qui laisseront cours à toutes les spéculations.

D’autres initiatives ont également vu le jour, comme celle de l’association américaine Counter Extremist Project. Une association à but non lucratif, mais très politique : elle a été fondée par d’anciens collaborateurs de George W. Bush – Frances Townsend, son ancienne conseillère sur la sécurité intérieure et Mark Wallace son ex-directeur de campagne. Une main mise politique qui rebute les entreprises du secteur, réticentes à laisser « à un groupe extérieur », le choix de définir ce qu’est un contenu inacceptable, souligne Reuters.

En mai dernier, Microsoft apportait son soutien financier et technique à Hany Farid, un informaticien de l’université de Dartmouth qui travaille avec le Counter Extremist Project, pour développer le PhotoDNA, une technologie utilisée et élaborée conjointement par Redmond et Google pour détecter les images à caractère pornographique. C’est le même type d’algorithme que celui utilisé pour détecter le contenu signalé qui est à la manœuvre.
Mountain View a depuis dénoncé plusieurs pédophiles grâce à cet outil.

Facebook a déjà exprimé ses réticences à travailler avec le Counter Extremist Project et tente d’explorer « d’autres moyens avec l’industrie » pour lutter contre ce type de contenus terroristes. Twitter pour sa part « n’a pas encore pris position ».

Source: Source