Les détecteurs de deepfakes pourraient être dupés très facilement

Sur le web

Par Remi Lou le

Des chercheurs viennent de démontrer que les détecteurs de vidéos deepfakes peuvent être dupés assez facilement, en modifiant légèrement la vidéo d’origine.

Crédits : EZRyderX47 via YouTube

Ces dernières années, les deepfakes ont commencé à s’immiscer assez largement dans le paysage numérique, avec tous les risques qu’ils comportent s’ils venaient à être utilisés à mauvais escient. On pouvait alors compter sur les différentes technologies de détection de ces deepfakes, qu’on pensait fiables. Finalement, ces détecteurs pourraient être dupés relativement facilement, comme viennent de le révéler des chercheurs de l’UC San Diego. Durant la conférence WACV 2021, l’équipe a démontré que ces logiciels auraient des limites dès lors que le deepfake comporte des images parasites appelés « exemples contradictoires ».

Pour prouver leurs dires, les chercheurs ont justement utilisé ces « exemples contradictoires » et les ont placé dans une vidéo deepfake, puis l’ont soumise à plusieurs détecteurs de pointe. Ces images parasites semblent avoir entraîné une erreur des algorithmes sur lesquels reposent ces détecteurs, puisque cette simple manipulation a permis à la vidéo deepfake modifiée de passer entre les mailles du filet, même face à « des détecteurs de deepfakes à la pointe de la technologie ». Cette technique fonctionnerait même avec des vidéos compressées, affirment les chercheurs.

L’équipe de l’UC San Diego a alors prodigué ses conseils pour permettre aux créateurs de ces détecteurs à deepfakes de corriger cette faille. « Pour utiliser ces détecteurs deepfake dans la pratique, nous soutenons qu’il est essentiel de les évaluer par rapport à un adversaire adaptatif qui est conscient de ces défenses et tente intentionnellement de déjouer ces défenses. Nous montrons que les méthodes actuelles de détection de deepfake peuvent être facilement contournées si l’adversaire a une connaissance complète ou même partielle du détecteur. » Dans tous les cas, on n’a pas fini d’entendre parler de cette technologie, qui se glisse dorénavant dans des applications populaires sur l’App Store et le Play Store.

DeepFake Technology: Complete Guide to Deepfakes, Politics and Social Media

Patientez... Nous cherchons le prix de ce produit sur d'autres sites
Source: Engadget