Une vidéo récemment devenue virale repérée par Forbes, qui met en scène deux modèles IA en train de discuter dans un « langage » incompréhensible pour les humains, est en train de susciter des discussions assez fascinantes : voici un petit tour d’horizon de ce scénario ô combien déconcertant qui risque de devenir bien plus courant à l’avenir.
Aujourd’hui, les capacités des dernières générations de grands modèles de langage (LLM) multimodaux, comme ChatGPT, dépassent largement la simple production de texte. Ces agents conversationnels sont désormais capables de communiquer de vive voix grâce à un mélange de text-to-speech pour la synthèse vocale, et de speech-to-text pour la partie compréhension.
Sur la base de ces nouvelles capacités, l’industrie a commencé à imaginer un futur où ces chatbots pourraient se transformer en véritables assistants personnels. Par exemple, les grandes entreprises du secteur sont toutes en train de concevoir des systèmes capables de prendre contact directement avec un hôtel, un restaurant ou un commerçant pour effectuer une réservation ou une commande. Mais cela va aussi dans l’autre sens. Depuis quelque temps déjà, de plus en plus d’entreprises se dotent de systèmes basés sur l’IA pour interagir avec les clients, afin que les employés humains puissent se focaliser sur les tâches moins triviales ou plus sensibles.
Gibberlink, un nouveau “langage” pour l’IA
Il semble donc évident que les interactions entre IA sont amenées à devenir de plus en plus fréquentes, et certains développeurs ont donc commencé à chercher de nouvelles approches pour fluidifier ces échanges. Après tout, le fait que ces systèmes communiquent en anglais, français ou autre n’a d’intérêt que lorsqu’ils s’adressent à un humain ; pourquoi donc s’encombreraient-ils de cette couche de complexité parfaitement inutile quand il s’agit de se faire comprendre d’un autre modèle IA ?
C’est en partant de cette idée que deux développeurs, Boris Starkov et Anton Pidkuiko, ont conçu un programme open source appelé Gibberlink. Comme l’indique ce nom, construit à partir des mots anglais « gibberish » (« charabia ») et « link » (« lien »), il s’agit d’un système qui permet à deux modèles IA de communiquer à l’aide d’un nouveau type de langage totalement inintelligible pour un humain. Au lieu d’une langue conventionnelle, ils utilisent des séries de sons qui sonnent un peu comme ceux d’un vieux modem, ou encore du célèbre R2-D2 de la saga Star Wars.
What if an AI agent makes a phone call, then realizes the other person is also an AI agent?
At the ElevenLabs London Hackathon, Boris Starkov and Anton Pidkuiko introduced a custom protocol that AI agents can switch into for error-proof communication that's 80% more efficient… pic.twitter.com/9XKq52fKnK
— Luke Harries (@LukeHarries_) February 24, 2025
Les deux compères ont présenté leur système lors d’une convention organisée à Londres par ElevenLabs, une entreprise qui s’est déjà illustrée en utilisant l’IA pour doubler de célèbres acteurs. La vidéo de ces échanges entre IA s’est répandue comme une trainée de poudre sur la toile, accumulant des millions de vues en l’espace de quelques jours. Et il ne faut pas chercher bien loin pour comprendre pourquoi.
Entre fascination et consternation
D’un côté, cette technologie représente une vraie plus-value. En se passant de cette couche d’abstraction que représente le langage humain, les deux modèles peuvent communiquer de manière bien plus efficace. En plus de limiter le risque d’erreur d’interprétation, cela permet de réduire la durée de l’interaction et, par extension, les besoins en puissance de calcul et en énergie — deux points particulièrement importants pour le futur de cette industrie.
Mais si cette séquence a eu tant d’impact chez les humains, c’est avant tout parce que le fait d’être ainsi exclu de la discussion génère des sentiments conflictuels, entre la fascination et la préoccupation. Voir ainsi des systèmes virtuels échanger sans que nous ne puissions comprendre un traître mot de ce qui est dit fait émerger un tas de questions inconfortables sur les thèmes de la transparence et du contrôle.
L’alignement, le vrai défi de l’IA générative
C’est particulièrement percutant dans le contexte actuel, avec l’émergence d’agents IA de plus en plus autonomes. Ces derniers nécessitent d’implémenter des mécanismes de contrôle stricts pour pouvoir jauger ce que l’industrie appelle l’alignement — le fait que ces systèmes se comportent conformément aux attentes et aux standards de leurs créateurs. C’est déjà tout sauf évident de contrôler cet alignement aujourd’hui, à cause de ce qu’on appelle communément la « boîte noire de l’IA ».
Le souci de ces algorithmes à base de machine learning, c’est que même si l’on sait quelles données on fournit à l’entrée et qu’on obtient un résultat compréhensible à la sortie, tout le processus qui se déroule entre les deux est souvent trop abstrait pour être compréhensible par le cerveau humain. Avec des systèmes comme Gibberlink, on ajoute une nouvelle couche d’abstraction qui rend ces modèles encore moins abordables. Cela tend donc à renforcer les craintes qu’un système basé sur l’IA ne prenne un jour le contrôle de systèmes critiques sans y être autorisé, avec des conséquences potentiellement cataclysmiques pour l’humanité.
Ces craintes sont-elles fondées ? Difficile à dire en l’état — mais quoi qu’il en soit, Gibberlink ne va sans doute pas changer la donne à ce niveau. Ce n’est pas parce que des modèles peuvent soudainement communiquer à la manière de R2-D2 qu’une sorte de Skynet va émerger d’un jour à l’autre, loin s’en faut.
En revanche, Gibberlink illustre parfaitement l’importance de s’assurer de l’alignement des modèles IA, d’une manière ou d’une autre. La finalité de cette technologie reste de servir l’humanité, et il sera très intéressant de voir comment les ingénieurs vont s’assurer qu’elle continuera à le faire tout en optimisant ces systèmes à travers des approches de ce genre.
🟣 Pour ne manquer aucune news sur le Journal du Geek, suivez-nous sur Google et sur notre canal WhatsApp. Et si vous nous adorez, on a une newsletter tous les matins.
