Avec SynthID, DeepMind propose un nouveau filtre pour repérer les créations de ses propres modèles d’IA. Le principe est simple : insérer un filigrane invisible dans le texte généré, une sorte de signature discrète qui indiquerait aux utilisateurs si une phrase est le fruit d’une machine. Pour les sceptiques, ce filigrane serait totalement imperceptible et n’aurait aucun impact sur la qualité des réponses, en tout cas selon Google. Un tel dispositif promet de « rendre l’IA responsable », dixit Pushmeet Kohli, vice-président de la recherche chez Google DeepMind.
La chasse à l’IA est-elle vraiment lancée ?
Disponible sur Hugging Face, SynthID peut désormais être intégré dans divers modèles, et ses bienfaits seraient d’ores et déjà visibles dans l’application Gemini. Autrement dit, Google met gratuitement cet outil entre les mains des développeurs et encourage chacun à l’utiliser pour détecter les productions IA, mais attention, ça ne fonctionne que pour les contenus issus de leurs propres modèles.
Et si vous craignez que l’outil soit invasif ou altère la créativité de vos textes ? Rassurez-vous, après quelques millions de tests, les utilisateurs ne voient aucune différence entre les réponses marquées et non marquées. Tout cela, bien sûr, dans un monde idéal où les phrases marquées ne subissent aucun remaniement. Parce que, évidemment : une simple traduction ou réécriture rend SynthID complètement aveugle.
L’expérience de SynthID montre que ce filigrane peut survivre à quelques modifications légères, mais commence à s’estomper face aux relectures rigoureuses, à la traduction, ou aux faits un peu trop précis. Dans ce contexte, Soheil Feizi, spécialiste de l’IA, salue l’initiative mais pointe que le filigrane reste fragile et dépendant de nombreux facteurs. Ce « filigrane numérique infaillible » n’en est donc pas encore à pouvoir garantir l’authenticité de tout contenu IA, notamment lorsqu’il s’agit de questions factuelles, où la marge de manœuvre pour jouer avec les mots est très réduite.
Malgré ses limites, Google DeepMind reste optimiste et propose SynthID à toute la communauté open source pour tester et pousser ses limites. Alors, est-ce que le filigrane va devenir un standard ou un simple gadget parmi d’autres pour traquer le contenu IA ? Pour l’instant, disons que c’est un premier pas vers une transparence qu’on pourra peut-être un jour voir de nos propres yeux… ou pas.
Ce filigrane numérique, bien qu’utile, soulève une question plus large : suffit-il de marquer les contenus IA pour éviter tous les abus ? Irene Solaiman, de chez Hugging Face, met en garde contre l’illusion que l’IA puisse se réguler toute seule. Elle rappelle qu’un filigrane est seulement un des nombreux outils nécessaires dans un arsenal qui reste encore bien léger face aux enjeux de l’IA. Comme pour le contenu humain, la vérification des faits et la vigilance restent indispensables.
🟣 Pour ne manquer aucune news sur le Journal du Geek, suivez-nous sur Google et sur notre canal WhatsApp. Et si vous nous adorez, on a une newsletter tous les matins.
