En début de semaine, l’image d’une explosion au Pentagone visiblement générée par l’IA a fait le tour d’internet. La fausse nouvelle a été diffusée par un compte Twitter vérifié se faisant passer pour Bloomberg. Ce compte, qui pouvait facilement être confondu avec un compte affilié à l’agence de presse en raison de sa coche bleue, a depuis été suspendu. D’autres comptes Twitter, comme DeItaone, OSINTdefender et Whale Chart, qui comptent des centaines de milliers d’abonnés, ont également relayé l’image. Une chaîne de télévision indienne a même rapporté l’explosion fictive du Pentagone. L’origine de cette image et de cette fausse information n’est pas encore claire.
Qui croire ?
Ce n’est pas la première fois qu’une image fausse trompe les internautes et le public sur internet. Toutefois, lorsqu’il s’agit d’une prétendue explosion dans un bâtiment gouvernemental américain, les enjeux sont nettement plus élevés. Ce d’autant que l’ombre des attentats du 11 septembre 2001 plane toujours sur les États-Unis. L’incident soulève la question de l’utilisation potentielle de l’intelligence artificielle générative pour manipuler l’opinion publique.
Prime example of the dangers in the pay-to-verify system: This account, which tweeted a (very likely AI-generated) photo of a (fake) story about an explosion at the Pentagon, looks at first glance like a legit Bloomberg news feed. pic.twitter.com/SThErCln0p
— Andy Campbell (@AndyBCampbell) May 22, 2023
La désinformation, c’est bien sûr un problème aussi ancien que l’internet lui-même. Cependant, l’apparition simultanée de l’IA générative et le changement dans le système de vérification de Twitter créent un terreau particulièrement propice à sa prolifération. La décision d’Elon Musk, propriétaire de Twitter, de retirer le statut vérifié existant et de permettre à quiconque de payer pour obtenir ce symbole a été chaotique dès le départ.
Même si les coches bleues n’indiquent plus la légitimité des comptes, il est difficile de rompre une habitude visuelle cultivée pendant près de 15 ans : on est probablement prédisposé à penser qu’un compte appelé Bloomberg Feed possédant une coche bleue et qui publie une information sur une attaque au Pentagone est réel et légitime. Alors qu’il devient de plus en plus difficile de repérer les fausses images, il ne fait aucun doute que de fausses informations comme celle-ci se multiplieront à l’avenir.
L’option de vérification par coche bleue, qui indique que l’identité d’un utilisateur a été vérifiée par Twitter, a été introduite en 2009. Cependant, le processus de vérification a été critiqué pour son manque de transparence et a été suspendu plusieurs fois. Avec l’introduction de Twitter Blue avec Elon Musk, le processus de vérification a été modifié. Il permet à quiconque de payer pour obtenir une coche bleue, suscitant des inquiétudes concernant l’augmentation potentielle de la désinformation.
