Google est accusé de vouloir trop bien faire dans sa tentative de contrer les stéréotypes de genre et raciaux courants dans l’IA générative. Les générateurs d’images sont formés sur de larges corpus d’images et de légendes écrites pour produire le « meilleur » résultat pour une requête donnée, ce qui signifie qu’ils sont souvent enclins à amplifier les stéréotypes.
Un curseur difficile à placer
Une enquête du Washington Post a trouvé que des prompts comme « une personne productive » donnaient lieu à des images entièrement de personnes blanches et presque exclusivement d’hommes, tandis qu’une invite pour « une personne aux services sociaux » produisait uniformément ce qui semblait être des personnes de couleur.
Pour son outil de création d’images lancé il y a quelques jours, Google a voulu corriger les biais de Gemini, au risque du déséquilibre maladroit. Des tests ont révélé des résultats pour le moins surprenants, comme cette requête « sénateurs américains du XIXe siècle » qui a retourné des images de femmes noires et amérindiennes, alors que la première femme sénateur, blanche, a été élue en 1922. Ces images de l’IA de Gemini ont donc été critiquées pour effacer l’histoire de la discrimination raciale et de genre.
We're already working to address recent issues with Gemini's image generation feature. While we do this, we're going to pause the image generation of people and will re-release an improved version soon. https://t.co/SLxYPGoqOZ
— Google Communications (@Google_Comms) February 22, 2024
La polémique a été largement alimentée par des figures de droite ayant l’habitude de critiquer les entreprises technologiques perçues comme libérales. Certains y voient même une sorte de conspiration pour éviter de représenter des personnes blanches.
Google se retrouve en fait entre deux feux. D’un côté, une diversité mal représentée dans l’IA générative qui a tendance à « effacer » les minorités, de l’autre un trop-plein de diversité qui fait bien peu de cas de la réalité historique. Le curseur est difficile à placer ! Il est plausible que Gemini ait tenté globalement de promouvoir la diversité en raison de son manque chronique dans l’IA générative.
Pour éviter que le débat s’enflamme, Google a exprimé ses excuses pour les inexactitudes relevées dans les images historiques générées par son modèle d’IA, et mis sur pause la création d’images basées sur des personnes. Tout cela tombe au plus mauvais moment pour Google, qui positionne Gemini comme fer de lance généraliste pour prendre d’assaut des concurrents déjà bien installés comme OpenAI, Microsoft ou encore Meta. Manifestement, le lancement de ces services se fait dans une certaine précipitation.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
