Facebook traque le revenge porn grâce à l’intelligence artificielle

Sur le web

Par Julie Hay le

Facebook a lancé un système de machine learning pour détecter et supprimer le revenge porn. L’outil fait une sélection d’images qu’il juge problématiques, mais c’est un modérateur qui supprime les définitivement.

Pour lutter contre le revenge porn sur sa plateforme, Facebook a mis en place un outil capable de détecter les images intimes publiées sans consentement, grâce au machine learning. La nudité ne sera pas le seul terrain d’action de l’outil, les images proches de la nudité seront aussi détectées et soumises à validation. L’intelligence artificielle fait une sélection de photos qu’elle juge controversées mais c’est la main humaine qui intervient pour supprimer celles qui relève du revenge porn. “Un membre de notre équipe, spécialement entraîné, observera les contenus. Si les photos ou vidéos violent nos conditions générales nous les supprimerons, et dans la plupart des cas désactiverons le compte” explique le chef de la sécurité de Facebook dans une déclaration

Intervenir le plus tôt possible

L’avantage de cet outil est qu’il permet d’intervenir plus tôt qu’avec le processus actuel. « Nous pouvons les trouver avant qu’elles aient été signalées, c’est important pour deux raisons : souvent, les victimes ont peur des représailles et hésitent à signaler elle-même le contenu ou ignorent tout simplement que le contenu à été partagé”

Un programme pilote controversé

Avec une association d’aide aux victimes de revenge porn, le média social a lancé, l’année dernière,  un programme pilote visant à empêcher le partage de vidéos compromettante avant qu’il n’ait lieu. Not Without my Consent propose de créer une empreinte digitale pour les images qui sont susceptibles d’être diffusées sans votre consentement pour empêcher quiconque de les partager. En Australie, au Canada, au Royaume-Uni et aux États-Unis, Facebook s’est allié avec des associations pour mettre en place l’outil. Les victimes ou plutôt potentielles victimes sont directement mises en relation avec les organisations partenaires. Celles-ci vont les informer sur les règlements de Facebook, en matières d’images partagées, et travailler avec elles pour établir des accords de confidentialité. Une fois ces démarches faites, un lien est envoyé aux victimes via une adresse mail sécurisée pour qu’elles puissent importer les fichiers. Les photos seront, assure la firme, uniquement accessible à un petit groupe de personnes formées pour ces situations au sein de leurs équipes. Une fois que les images sont déclarées compromettantes, une signature digitale unique leur sont donnée. Quiconque tentera de partager la photo verra immédiatement un message s’afficher et sera empêcher de publier la dite photo. Pas sûr que les utilisateurs fassent confiance à Facebook au point de leur dévoiler des images intimes en prévention…

Une initiative controversée

Si pour l’instant la manière dont les photos dénudées sont détectées est assez claire, la firme n’apporte pas de précision sur la prise en compte du consentement. Rappelons que sur Facebook comme sur Instagram, les tétons féminins sont automatiquement supprimés par l’algorithme et qu’un tel renforcement pour le revenge porn pourrait aussi entraîner un durcissement de la politique de nudité. Secouée par plusieurs scandales, la firme tenterait-elle de redorer son image ?