Facebook développe une intelligence artificielle de « désidentification »

Anonymiser les visages pour mieux les protéger des détournements de la reconnaissance faciale, comme le deepfake, c’est aujourd’hui le pari des chercheurs de Facebook.

Crédits : Oran Gafni / Facebook.

Dans sa lutte contre les « deepfakes » et d’autres détournements de ses technologies, Facebook veut aujourd’hui combattre le mal par le mal. Une équipe de ses propres chercheurs est parvenue à développer un système de « désidentification » faciale. Sur la base du « machine-learning », ce dernier reconnaît la structure complexe du visage d’une personne et modifie légèrement ses traits sans la défigurer totalement (voir l’exemple de George Clooney, ci-dessus). L’objectif est que ces modifications soient suffisamment légères pour que des humains puissent reconnaître la personne mais assez significatives pour qu’une intelligence artificielle ne puisse identifier le sujet ciblé et exploiter son visage (pour s’en servir de base pour générer un deepfake, pour glaner des informations sur la personne etc.). Autrement dit, l’IA de « désidentification » de Facebook anonymise des personnes cibles aux yeux des autres intelligences artificielles mais pas des êtres humains. Elle réussit même à changer un visage cible au cours d’une vidéo. L’un des chercheurs, Oran Gafni, en donne la preuve, justement en images.

« La reconnaissance faciale peut mener à une perte d’intimité et les technologies associées peuvent être détournées afin de créer des vidéos trompeuses, souligne les chercheurs dans leur publication. De récents événements internationaux montrant les abus des technologies de reconnaissance faciale requièrent de développer des méthodes fonctionnelles de désidentification. » En effet, comme le rappelle le site Ars Technica, le réseau social de Mark Zuckerberg est encore en cours de procès dans l’état américain de l’Illinois depuis 2015. Celui-ci met en cause des cas de violation de vie privée induits par le système de reconnaissance faciale automatique de Facebook et demande une réparation à la hauteur de 35 milliards de dollars.