ChatGPT n’est ni votre confident, ni le témoin muet de vos secrets. Si vous aviez encore un doute à ce sujet, le média américain 404 Media a publié cette semaine une enquête sur ce qu’OpenAI a surnommé « Projet Lily ». Documents internes à l’appui, le site décrit le recrutement de centaines de prestataires chargés de lire les conversations d’utilisateurs authentiques pour améliorer les réponses du modèle. Concrètement, le réviseur lit une requête envoyée par un vrai utilisateur, résume l’intention derrière la question, puis note de 1 à 7 quatre réponses possibles du chatbot. Objectif affiché : débarrasser ChatGPT de trois tics devenus sa signature. Le langage IA d’abord, l’anthropomorphisme ensuite, quand le modèle ment en racontant des expériences qu’il n’a jamais vécues, et enfin la manie du modèle à toujours brosser l’utilisateur dans le sens du poil.
La complaisance excessive du modèle GPT-4o figure notamment au cœur de plusieurs plaintes visant OpenAI aux États-Unis. C’est là que la mécanique devient intéressante : un modèle de langage ne comprend pas tout seul qu’il est insupportable ou trop bienveillant. Il l’apprend parce que des humains derrière l’écran ont mis une mauvaise note à la réponse trop enthousiaste. Et c’est peut-être là qu’est tout le problème.
Que voient les humains derrière ChatGPT ?
OpenAI met en avant plusieurs garde-fous. Les prestataires ne voient pas les noms de compte, et un « filtre de confidentialité » automatisé promet officiellement de gommer les détails qui permettraient de vous identifier avant que la conversation ne soit vue par un humain. L’entreprise reconnaît toutefois que ce filtre est largement imparfait, manière polie de dire qu’il laisse parfois passer des informations.
Selon 404 Media, les réviseurs reçoivent également un résumé des « souvenirs » enregistrés sur l’utilisateur, soit le profil que ChatGPT construit au fil des discussions pour personnaliser ses réponses. Ce résumé peut ainsi révéler un lieu de résidence, une profession, une situation familiale… plus le chatbot interagit avec l’utilisateur, moins l’anonymisation tient.
Et OpenAI n’est pas un cas isolé. Anthropic a confirmé au même média avoir recours à de la révision humaine pour entraîner Claude. Google fait la même chose avec Gemini. Partout dans le monde, des dizaines de milliers de personnes analysent vos réponses pour entraîner les modèles de langage.
Comment désactiver l’option ?
La bonne nouvelle, c’est que si l’option est activée par défaut sur les comptes personnels, il est tout à fait possible de la désactiver. Pour cela, rendez-vous dans les paramètres du compte, onglet Gestion des données, puis « Améliorer le modèle pour tout le monde ». Notez toutefois que ce changement d’option n’a aucun effet rétroactif : les échanges déjà enregistrés le restent. Ensuite, les analyses automatisées destinées à repérer les violations des conditions d’utilisation continuent de s’appliquer, quel que soit le réglage.