Il y a quelques jours, le monde s’embrasait après que des internautes aient massivement utilisé l’IA générative de Grok pour créer des deepfakes dénudés de femmes sur les réseaux sociaux. Des prompts comme “remove clothes” ou “put her in lingerie” transforment de banals selfies en contenus érotiques, sans le consentement des personnes concernées – le plus souvent des femmes et des mineures. Il suffit d’un rapide tour sur la plateforme pour s’en convaincre : plusieurs milliers de contenus deepfakes à tendance pornographique ou érotique circulent en toute impunité sur X, qui restait jusqu’à présent sourd aux demandes de modération.
Entre le 25 décembre et le 1er janvier 2026, près de la moitié des images produites via Grok Imagine montraient des femmes, parfois très jeunes, et peu vêtues, rapporte l’ONG AI Forensics. Des contenus extrêmes ont également émergé : croix gammées sur des bikinis, saluts hitlériens, ou cagoules du Ku Klux Klan associées à des corps dénudés de célébrités comme Billie Eilish.
Un business plutôt qu’une interdiction
Cette prolifération d’images dénudées n’est pas anodine. L’absence de garde-fous, contrairement à ce qui existe sur DALL-E ou Midjourney, a transformé la plateforme d’Elon Musk en vitrine pornographique. Et plutôt que de prendre ses responsabilités en matière de modération, Grok a pris la pire décision possible : transformer son outil controversé en fonctionnalité payante. Depuis le 9 janvier 2026, xAI impose un abonnement pour générer ou éditer des images via le compte @Grok sur X.
Elon Musk avait promis des conséquences pour les usages illégaux le 3 janvier, sans préciser de quoi il s’agirait. Les femmes savent désormais à quelle sauce elles vont être mangées, puisqu’au lieu d’interdire les deepfakes, Grok a préféré en faire un business juteux.
Et en France ?
Au-delà de l’aspect éthique, rappelons d’abord que la pratique est parfaitement illégale en France. Selon l’article 226-8-1 du Code pénal porté par la loi SREN, les deepfakes à caractère sexuels sont interdit, même s’il est explicitement précisé qu’il s’agit d’une image générée par IA, cette dernière étant susceptible de porter atteinte à l’intégrité des personnes concernées. Sur ce point, la loi est formelle : “De tels hypertrucages sont sanctionnés d’une peine d’emprisonnement de deux ans et de 60 0000 € d’amende“.
En France, le parquet de Paris a étendu à Grok son enquête sur X ouverte en juillet 2025. De son côté, l’Arcom est saisie depuis le 2 janvier. À plus grande échelle, la Commission va se pencher sur le respect des textes de loi, et notamment du DSA et du SREN. Car si le texte oblige en théorie le retrait de ces images, le vide légal semble subsister en cas de monétisation. Un constat d’autant plus problématique qu’il concerne non seulement les deepfakes, mais aussi la pédopornographie.
🟣 Pour ne manquer aucune news sur le Journal du Geek, suivez-nous sur Google et sur notre canal WhatsApp. Et si vous nous adorez, on a une newsletter tous les matins.
