Vous réfléchirez à deux fois avant d’envoyer un e-mail, un document ou toute autre forme de texte rédigé par ChatGPT à quelqu’un ou sur les réseaux sociaux. En effet, comme Claude, le chatbot d’OpenAI va adopter le marqueur invisible, qui permet à un outil de vérification d’indiquer si un texte a été rédigé par cette IA. L’annonce a été faite sur le site de l’entreprise, qui indique que cette mesure s’appliquera aux “sorties de texte ChatGPT et Codex éligibles dans l’Union européenne”, dans les semaines à venir.
En effet, OpenAI déploie cette fonctionnalité pour se conformer aux nouvelles règles de l’Union européenne, qui impose l’utilisation de marqueurs invisibles pour l’humain, mais identifiables par des algorithmes. Appelée textGrain, la technologie d’OpenAI utilise le choix des mots des modèles d’IA pour ajouter “un signal statistique invisible”. Et c’est ce signal statistique que le détecteur d’OpenAI va rechercher pour déterminer si un texte a été rédigé par ChatGPT.
OpenAI évoque les limites de cette méthode
Le créateur de ChatGPT assure que sa technologie est aussi performante ou plus performante que les autres solutions de marquage de textes, comme SynthID de Google. Mais, malgré ses bonnes performances, textGrain a des limites. La détection peut être plus difficile lorsque les textes sont courts ou contraints. Et OpenAI indique aussi que le fait d’éditer un texte généré par ChatGPT va “affaiblir” le marquage de celui-ci.
Par ailleurs, à cause des risques de faux positifs et de certains cas où son détecteur n’identifie pas correctement les textes générés par l’IA, OpenAI a décidé de ne pas proposer son détecteur au grand public, pour le moment. Ce nouvel outil est encore réservé à des organisations triées sur le volet. “Les chercheurs et les organismes spécialisés agréés peuvent déposer leur candidature dès aujourd’hui. Conformément au Code de bonnes pratiques, l’accès sera dans un premier temps accordé au cas par cas afin de faciliter l’évaluation et l’amélioration de la traçabilité des textes”, explique OpenAI.
Ce détecteur indique uniquement si le marqueur a été identifié dans un texte, et ne permet pas de connaître l’utilisateur de ChatGPT qui a généré celui-ci ni le prompt qui a été utilisé pour créer le texte.