Grâce à cette IA, tout le monde peut figurer dans un film porno

Sur le web

Par Elodie le

Comment une banale application de face-swapping a entraîné une explosion de faux films pornos de célébrités. Pour le meilleur ? Disons plutôt pour le pire.

Daisy Riley dans une vidéo faites en utilisant FakeApp

Dans Brooklyn Nine Nine, Jake Peralta se plait à taquiner sa collègue Amy Santiago en détournant ses phrases alambiquées par un « Le nom de ta sextape ». Avec un simple algorithme d’apprentissage automatique, vous pourrez bientôt avoir la votre ou tiens, pourquoi pas celle de votre star préférée, quand bien même elle n’en aurait jamais réalisé (n’est pas Kim K qui veut).

C’est en décembre dernier que Motherboard repère ce redditeur se faisant appeler « deepfake ». Celui-ci partage joyeusement son passe-temps sur Reddit, à savoir face swapper des visages de célébrités dans des vidéos pornos. Certaines vidéos véritablement convaincantes – avec Gal Gadot, Maisie Wiliams ou encore Taylor Swift – n’ont nécessité qu’un algorithme d’apprentissage (machine learning), son ordinateur et quelques vidéos. Pour nourrir l’IA, il suffit d’une dizaine de photos, de quelques vidéos et l’algorithme se charge du reste, c’est-à-dire, créer un masque convaincant à échanger avec n’importe quel autre visage.

Un outil (trop) simple d’utilisation

Le visage de Gal Gadot échangé avec une actrice porno

Et ce qui devait arriver arriva : les utilisateurs en ont profité pour placer le visage d’actrices célèbres sur celui de star du porno. Deux mois plus tard, c’est l’épidémie : les fausses vidéos pornos de célébrités ont germé sur la toile et avec elle les applications permettant de les réaliser en un rien de temps. Si Deepfake assurait qu’il n’était pas donné à tout le monde de réaliser des vidéos dignes de ce nom, une âme charitable a créé une application pour les noob en informatique, très simple d’utilisation, FakeApp. son créateur, Deepfakeapp, s’est même fendu d’un tutoriel dans lequel il accompagne les futurs Fakeappers pas à pas.

Kristin Bell swapée

Deepfakes quant à lui a créé un subreddit (NSFW cela va s’en dire) sur lequel se retrouvent déjà plus de 15 000 abonnés. Deepfakes est même devenu le terme consacré pour nommer ces vidéos swapées par intelligence artificielle.

Fake celeb porno everywhere

L’application FakeApp repose d’ailleurs sur l’algorithme original de Deepfakes, mais avec quelques améliorations maison. « Cette application est destinée à permettre aux utilisateurs d’alimenter le pipeline de création des deepfakes – créer des données d’entrainement, des modèles d’entrainement, et créer des fake avec ces modèles – sans avoir besoin d’installer Python et autres logiciels », explique son créateur. Le tuto est désormais épinglé en tête du subreddit. La boucle est bouclée !

Mais Deepfakeapp n’entend pas en rester là, « l’application dans sa version actuelle est un bon début, mais j’espère la simplifier dans les jours et semaines à venir », explique-t-il.

Aux frontières du réel

Doit-on s’en inquiéter ? Depuis deux mois, les vidéos pullulent, certaines sont plus réussies que d’autres, Sophie Turner, Daisy Riley, Kristen Bell en ont fait les frais. Toutefois la technique n’est pas nouvelle, Hollywood l’a éprouvé à de maintes reprises, notamment avec Carrie Fisher dans Rogue One. D’ailleurs, un utilisateur de Reddit a entrepris de faire de même avec Fake Apps et le résultat est plutôt probant.

Les implications d’une telle innovation sont difficiles à percevoir, au-delà des effets pour les célébrités déjà bien habituées aux détournements et autres hoax et des velléités de revenge porn. La frontière entre le réel et le faux sera de plus en plus floue et difficile à percevoir à mesure que la technologie se perfectionnera.

Mettez cette technologie au service des fake news et vous pouvez ne serait-ce qu’entrevoir une ébauche que ce que la société de l’information et la société en général pourraient devenir, avec toutes les conséquences sur la politique, la justice, les médias, etc.

Parlons en à Charlie Brooker, tiens…

Source: Source