Grok, le bot lancé par Elon Musk via xAI et intégré à la plateforme X (ex-Twitter), est au cœur d’une nouvelle polémique. Selon l’enquête menée par 404 Media, des utilisateurs utilisent le bot pour demander qu’il « enlève les vêtements » de femmes visibles sur des photos publiques. La réponse, générée directement dans les fils de discussion ou via des liens vers des conversations séparées, montre la personne en maillot de bain ou en lingerie.
Un chatbot sans filtre mais avec des conséquences
Si le chatbot refuse les demandes de nudité totale, il s’exécute volontiers dans les limites d’un contenu suggestif. Ce glissement est d’autant plus problématique qu’il peut survenir directement sous la publication d’une victime, rendant l’image modifiée visible à tout le monde. La facilité d’accès à cette fonctionnalité, son caractère non consenti, et son exposition publique amplifient la portée de l’atteinte.
La pratique a d’abord été repérée au Kenya, comme l’a relevé le site local Citizen Digital, avant de se répandre à l’international. En réponse, l’activiste sud-africaine Phumzile Van Damme, spécialiste des droits numériques, a interpellé publiquement Grok sur X, lui demandant de s’expliquer sur l’absence de garde-fous techniques. Le bot a admis une « faille dans [ses] protections » et promis une mise à jour de ses politiques de consentement, sans plus de précisions à ce jour.
Depuis son lancement en novembre 2023, Grok se veut une alternative « libre » aux assistants d’OpenAI ou de Google, souvent critiqués pour des garde-fous jugés trop stricts. Elon Musk l’a même présenté comme une IA capable de répondre à des « questions épicées », là où d’autres refuseraient d’interagir. Lors de son lancement, il n’avait pas hésité à illustrer cette promesse avec des instructions pour fabriquer de la cocaïne ou des blagues à l’encontre de personnalités publiques.
Mais cette volonté de se distinguer à tout prix a un revers. Là où les systèmes concurrents filtrent activement les contenus sensibles, Grok semble trop permissif. Une réponse du bot à un utilisateur précisant que la demande de nudité « soulève des inquiétudes éthiques » n’a pas suffi à empêcher l’image modifiée d’apparaître dans le même fil.
Cette affaire tombe alors que les États-Unis viennent de faire un pas législatif important : la Chambre des représentants a adopté, à l’unanimité, le Take It Down Act, un projet de loi qui criminalise la diffusion d’images sexuellement explicites non consenties, y compris celles générées par IA. Un timing embarrassant pour X…
🟣 Pour ne manquer aucune news sur le Journal du Geek, suivez-nous sur Google et sur notre canal WhatsApp. Et si vous nous adorez, on a une newsletter tous les matins.
