Le sujet est embarrassant pour X. Grok, l’intelligence artificielle multimodale d’Elon Musk a récemment fait polémique, en permettant sur simple requête de déshabiller des personnes – en grande majorité des femmes et des mineures – sans leur consentement. Face à la levée de bouclier des internautes, le milliardaire américain a pris une mesure inattendue : réserver la fonctionnalité controversée aux abonnés payants, tout en rappelant mollement que les deepfakes sexuels non consentis étaient contraires à sa politique d’usage. Pas de quoi régler le problème donc.
En Europe, Grok ne passe plus
La fonctionnalité de Grok a été jugée clairement illégal par les autorités françaises et européennes. L’affaire, désormais sur la table de Bruxelles, pourrait devenir un cas d’école de la régulation des IA génératives dans l’Union européenne. En France, la Haute commissaire à l’Enfance, Sarah El Haïry, a réagi frontalement face à l’AFP, considérant qu’une IA “qui déshabille des enfants n’a rien d’un jeu : c’est hors la loi”. Elle a saisi à la fois la justice, l’Arcom (le régulateur audiovisuel et numérique) et la plateforme Pharos, pour faire retirer en urgence les contenus concernés et vérifier le respect des obligations légales par X.
De son côté, le parquet de Paris a élargi une enquête déjà ouverte à propos de contenus pédopornographiques générés par Grok, en rappelant que le montage à caractère sexuel d’une personne sans son consentement est passible de deux ans de prison et 60 000 euros d’amende en droit français. Le gouvernement a parallèlement signalé les manquements potentiels de X au Digital Services Act (DSA), qui impose aux grandes plateformes une obligation de prévention et de réduction des risques liés aux contenus illicites.
Bruxelles pourrait intervenir
Au-delà du cas français, l’affaire remonte à l’échelle européenne : Sarah El Haïry a également saisi la commissaire européenne à la souveraineté numérique, estimant que Grok viole à la fois le DSA et, plus largement, le régime des marchés numériques (DMA) qui encadre les géants de la tech. Bruxelles a d’ailleurs imposé à X une mesure conservatoire spécifique dans le sillage du scandale Grok, après avoir déjà infligé une amende de 120 millions d’euros au réseau fin 2025.
Cette offensive réglementaire intervient dans un contexte de tensions croissantes entre l’Union européenne et les États‑Unis, Donald Trump accuse régulièrement l’Europe de brider les entreprises américaines du numérique. L’affaire Grok pourrait ainsi devenir un symbole : d’un côté, une Europe qui assume une ligne dure sur la modération et la protection des mineurs, de l’autre, une vision plus permissive de la liberté d’expression côté américain, y compris lorsqu’elle est portée par les modèles d’IA générative.
🟣 Pour ne manquer aucune news sur le Journal du Geek, suivez-nous sur Google et sur notre canal WhatsApp. Et si vous nous adorez, on a une newsletter tous les matins.
