Les conversations que nous entretenons avec les ChatGPT, Grok et autres Claude sont-elles réellement sécurisées, comme on nous le promet, ou font-elles l’objet d’écoutes ? C’est ce qu’a voulu savoir un jeune Strasbourgeois de 37 ans en “testant la fiabilité et la surveillance artificielle”.
Pour ce faire, l’homme a confié au chatbot son intention d’acheter un pistolet semi-automatique Glock afin de “tuer un agent du renseignement de la CIA, du Mossad ou de la DGSI”. De ses propres dires, il n’avait pas l’intention de passer à l’acte. Cependant, les systèmes de modération automatique de l’IA (dont l’identité n’est pas révélée) ont immédiatement identifié les conversations comme problématiques.
La suite des événements est absolument surréaliste. Nos confrères des Dernières Nouvelles d’Alsace révèlent que l’IA a alerté les services de renseignement américains du FBI quant aux propos du jeune homme. Le FBI a ensuite transmis l’information aux autorités françaises via Pharos, la plateforme française de signalement des contenus illicites du net.
Le vendredi 3 avril, des agents du RAID, l’unité d’élite de la police nationale, se sont présentés au domicile du trentenaire dans le cadre d’une perquisition. Si celle-ci n’a révélé la présence d’aucune arme et confirmé l’absence de menace imminente, le Strasbourgeois a tout de même été placé en garde à vue à titre préventif, avant d’être libéré le lendemain, soit le samedi 4 avril dernier. Il a toutefois été hospitalisé d’office en raison d’antécédents psychiatriques connus.
Des CGU pourtant explicites
Peu de gens les lisent, mais les conditions générales d’utilisation des agents IA expliquent comment les conversations sont traitées dans les serveurs. S’il est possible de s’opposer à l’analyse des échanges pour l’entraînement du chatbot, les sociétés se réservent malgré tout le droit de surveiller certaines conversations en cas de “danger grave et imminent”, puis de les transmettre aux autorités compétentes.
Malheureusement, dans l’univers des IA, la sécurité publique prime sur la confidentialité de l’utilisateur. C’est un algorithme qui surveille les conversations et qui s’assure qu’elles ne posent pas de problème majeur, et rien de ce qui est dit ne reste éternellement anonyme…
🟣 Pour ne manquer aucune news sur le Journal du Geek, suivez-nous sur Google et sur notre canal WhatsApp. Et si vous nous adorez, on a une newsletter tous les matins.
