Facebook et MSU s’allient contre les deepfakes

Les deux entités collaborent sur un système capable de disséquer les deepfakes pour les identifier.

© Facebook / MSU

Nul n’ignore aujourd’hui le danger que peuvent représenter les deepfakes. Cette technique de synthèse basée sur l’intelligence artificielle est au centre de nombreuses polémiques car elle permet de faire faire ou dire n’importe quoi à n’importe qui; très amusant dans le cadre du divertissement, un peu moins dans un contexte où la désinformation fait des ravages.

Facebook, régulièrement pointé du doigt comme vecteur majeur de cette désinformation, a décidé de prendre les choses en main. Après avoir mis en place des mesures pour endiguer le flot de fake news sur la plateforme, la firme de Menlo Park s’est associée à la Michigan State University (MSU) pour s’attaquer aux deepfakes. Elle annonce dans un communiqué (disponible ici) que ses équipes sont en train de développer une technique de rétro-ingénierie pour différencier le contenu authentiques des médias truqués. Une méthode censée fournir “des outils pour mieux enquêter sur les incidents de désinformation coordonnée qui ont recours à des deepfakes”, d’après les auteurs. On imagine aisément l’intérêt d’un tel système en période d’élection présidentielle, par exemple.

Comment fonctionne ce système ?

Leur système présente une force considérable : il permet d’utiliser d’une seule image truquée comme point de départ. “Notre méthode va faciliter la détection et le traçage des deepfakes dans en conditions réelles, où l’image en question est souvent la seule information dont nous disposons”, expliquent les Tal Hassner et Xi Yin (MSU).

Cette image va être soumise à un algorithme qui va la comparer à des milliers de deepfakes générés avec une centaine de modèles différents. L’objectif : essayer de retrouver le modèle utilisé pour générer l’image. C’est un peu sa recette de cuisine.

© Facebook / MSU

Mais évidemment, tous les deepfakes ne sont pas construits à partir de modèles déjà connus. C’est là qu’intervient la nouveauté imaginée par Facebook et MSU. Leur technologie est capable d’analyser et de recombiner les propriétés des modèles. Cela offre un spectre de possibilités bien plus large, qui permet d’outrepasser la limite des modèles connus.

© Facebook / MSU

Facebook et MSU ne fournissent pas de données chiffrées quant à la fiabilité de leur approche. Dans leur communiqué, ils affirment cependant que cette méthode serait plus efficace que les anciens systèmes.

Pour ceux qui voudraient essayer eux-mêmes et qui disposent des compétences techniques, MSU a pensé à vous. L’institution met à disposition un GitHub (disponible ici) contenant tout le nécessaire, dont des modèles pré-entraînés.