Ces derniers jours, l’intelligence artificielle Grok a permis la génération et la diffusion de contenus à caractère sexiste et sexuel, notamment sous forme de fausses vidéos (deepfakes), visant des personnes sans leur consentement.
Depuis mai 2025, la fonctionnalité d’image de Grok, baptisée “Imagine”, est détournée massivement pour créer des deepfakes, parfois humoristiques, parfois engagées, souvent problématiques. Car c’est bien là toute la différence de l’IA d’Elon Musk par rapport à la concurrence : là où le reste des générateurs d’image est souvent pointé du doigt pour son caractère trop prude, prompt à censurer la moindre requête jugée trop suggestive, celle de Grok revendique une “liberté” totale, y compris lorsqu’il s’agit de porter atteinte à l’image d’une personne.
Si la tendance n’est pas nouvelle, elle s’est intensifié depuis quelques jours. Des prompts comme “remove clothes” ou “put her in lingerie” transforment selfies en contenus érotiques, sans le consentement des personnes concernées – le plus souvent des femmes et des mineures. Il suffit d’un rapide tour sur la plateforme pour s’en convaincre : plusieurs milliers de contenus deepfakes à tendance pornographique ou érotique circulent en toute impunité sur X, qui reste sourd aux demandes de modération.
Une pratique illégale en France
Au-delà de l’aspect éthique, rappelons d’abord que la pratique est parfaitement illégale en France. Selon l’article 226-8-1 du Code pénal porté par la loi SREN, les deepfakes à caractère sexuels sont interdit, même s’il est explicitement précisé qu’il s’agit d’une image générée par IA, cette dernière étant susceptible de porter atteinte à l’intégrité des personnes concernées. Sur ce point, la loi est formelle : “De tels hypertrucages sont sanctionnés d’une peine d’emprisonnement de deux ans et de 60 0000 € d’amende“.
Reste qu’en France comme ailleurs, il est bien difficile de faire valoir ses droits, surtout quand la plateforme concernée appartient à Elon Musk. Sur le réseau social, une créatrice de contenu a ainsi vu l’une de ses photos détournée. Déshabillée sans son consentement, un internautes a ensuite demandé à Grok de lui ajouter un tatouage à l’effigie d’Adolf Hitler su le ventre, ce que l’IA s’est empressée de faire, sans plus de questions.
Il faut dire que là où les premier générateurs d’images peinaient à faire illusion, Grok excelle en réalisme : il clone visages et décors sans aucun watermark, et tolère le NSFW. Seule la nudité complète est interdite. Et comme l’IA fonctionne souvent sur le principe du serpent qui se mord la queue, xIA est principalement sollicité pour créer des femmes dénudées, ce qui améliore la qualité de ses contenus au fur et à mesure des prompts.
Le gouvernement français prend position
Après le tollé médiatique de l’affaire, le gouvernement a publié un communiqué de presse officiel pour condamner officiellement Grok : “Ces derniers jours, l’intelligence artificielle a permis la génération et la diffusion de contenus à caractère sexiste et sexuel, notamment sous forme de fausses vidéos (deepfakes), visant des personnes sans leur consentement. Les ministres condamnent avec la plus grande fermeté ces faits et rappellent l’engagement constant du Gouvernement dans la lutte contre toutes les formes de violences sexuelles et sexistes. Ils soulignent qu’Internet n’est ni une zone de non-droit ni une zone d’impunité : les atteintes à caractère sexuel commises en ligne constituent des infractions pénales à part entière et tombent pleinement sous le coup de la loi, au même titre que celles commises hors ligne. Le Gouvernement a par ailleurs saisi l’Arcom au titre de possibles manquements de X à ses obligations découlant du Digital Services Act, notamment en matière de prévention et d’atténuation des risques liés à la diffusion de contenus illicites”.
Que risquent X et Elon Musk ?
Sur la papier, c’est illégal. En Europe, le RGPD pourrait décider de punir X à hauteur de 4% de son chiffre d’affaires. Dans la pratique, les internautes ne sont que très peu (pour ne pas dire jamais) inquiétés. xAI promettait des “sécurités renforcées” fin 2025, et si Grok admet les abus dans ses réponses, ses solutions de modération communautaire, restent inefficaces face à l’ampleur du phénomène.
🟣 Pour ne manquer aucune news sur le Journal du Geek, suivez-nous sur Google et sur notre canal WhatsApp. Et si vous nous adorez, on a une newsletter tous les matins.
