Bumble utilisera bientôt une IA pour filtrer les nudes non consentis

apps

Par Amandine Jonniaux le

L’application de rencontres devrait bientôt proposer à ses utilisateurs et ses utilisatrices un filtre anti-nudes, afin de limiter l’envoi indésirable de photos à caractère sexuel.

Crédits Bumble

Lancé en 2014 à Londres, et fraîchement débarquée sur nos mobiles français, Bumble est une application de rencontre nouvelle génération. Décrite comme une plateforme de “découverte sociale” par sa créatrice Whitney Wolfe, le service propose de trouver l’amour (y compris entre personnes bisexuelles et homosexuelles), mais aussi de rencontrer des amis, ou même de nouer des relations professionnelles avec Bumble Bizz. Si l’application est ouvertement pensée par et pour les femmes, qui ont pour mission de faire le premier pas dans le processus de rencontre, elle projette bientôt de sécuriser les échanges entre utilisateurs et utilisatrices.

Le NSFW à la carte

Crédits Bumble

D’ici quelques semaines, l’application de rencontres projette en effet de déployer un nouvel outil destiné à sa messagerie instantanée, le “private detector”. Concrètement, chaque photo envoyée depuis l’application sera automatiquement scannée par une IA, qui détectera son niveau de sensibilité. En cas de photo suggestive ou explicite, l’outil se chargera automatiquement de flouter la photo, évitant ainsi de se retrouver face à un nude non consenti. Évidemment, pas question de censure, puisqu’il sera possible de “déflouter” la photo d’une simple pression, et de profiter de la vue en toute connaissance de cause. Un outil qui promet de rendre plus sûr les échanges entre célibataires via l’application, mais qui pourra aussi se révéler bien utile pour ne pas ouvrir par mégarde une photo NSFW de son crush en plein open-space.

“Le partage non consenti d’images obscènes est un réel problème à résonance mondiale. Il nous incombe à tous, dans les médias et sur les réseaux sociaux, de montrer l’exemple et de refuser de tolérer ce genre de comportements inapproprié sur nos plateformes” – Andrey Andreev, fondateur de Badoo

Si Bumble semble faire office de précurseur sur l’épineux sujet des nudes non consentis, l’application n’est heureusement pas la seule à travailler à rendre ses espaces d’échanges plus sûrs. Selon une étude publiée il y a quelques mois par This Magazine, 57% des femmes auraient déjà été confrontées à des nudes non désirés sur un site de rencontres.

Démocratiser ce type d’outils sur l’ensemble des plateformes de messageries en ligne serait un premier pas vers une réelle reconnaissance pénale du problème. Whitney Wolfe a d’ailleurs dévoilé qu’elle travaillait actuellement avec des législateurs texans pour rendre l’envoi de photo explicites et non consenties illégal et qu’elle travaille sur un outil similaire pour détecter les messages haineux ou sexuellement explicites.

Source: Bumble