Deux ordinateurs du programme de recherche sur le deep learning (apprentissage en profondeur) du géant californien sont parvenus à communiquer entre eux en créant leur propre langage, indéchiffrable par l’homme.

google-brain-ia-langage-chiffre

AI : Intelligence artificielle

Google Brain, le programme de recherche en intelligence artificielle de Mountain View vient de franchir un grand pas. Le début de la fin diront certains.

Jugez plutôt : alors que ce projet a pour but d’étudier la façon dont les I.A. évoluent grâce à des algorithmes, deux intelligences artificielles, Alice et Bob, ont réussi à communiquer entre elles en créant leur propre algorithme. Pendant ce temps-là, une troisième I.A, Eve, était chargée d’intercepter ces communications.

Deux I.A. créent leur propre langage indéchiffrable

Une découverte majeure. Les deux I.A. ont créé leur propre algorithme de chiffrement afin de sécuriser leur communication. Si Eve a bien intercepté des parties de leurs communications, seules les deux IA peuvent en déchiffrer le contenu puisqu’elles seules détiennent la clé de déchiffrement.

Avec cette expérimentation, Google tente de démontrer qu’il est possible de protéger des communications en utilisant des réseaux de neurones, via un système multi agent : Alice, Bob et Eve.

Celui-ci est composé de deux réseaux neuronaux qui doivent développer leur propre algorithme de chiffrement pour sécuriser leur conversation, pendant qu’un troisième réseau de neurones tente de le casser pour écouter ce qui se dit.

Des réseaux neuronaux pour sécuriser les conversations

googlebrain_ai

Alice devait donc envoyer un message à Bob, qui devait réussir à le déchiffrer sans qu’Eve ne parvienne à écouter le message.

L’expérience a donc dépassé toutes les attentes, : les IA « ne sont en général pas destinées à être bonnes en chiffrement » expliquent les chercheurs de Google. Et les deux I.A. n’avaient appris d’aucun algorithme de chiffrement spécifique.

Des messages de 16 bits à déchiffrer

Rome ne s’est pas faite en un jour et les deux IA ont mis du temps avant de parler le même langage. Alice a ainsi envoyé plusieurs messages chiffrés de 16 bits à Bob qui devait les déchiffrer (tout comme Eve). Seul Bob détenait la clé de déchiffrement. Il aura fallu pas moins de 10 000 messages avant que Bob ne réussisse à reconstruire le message en clair. Dans le même temps, Eve, qui faisait de moins en moins d’erreurs, a vu son sort se compliquer à mesure que les IA réussissaient à communiquer entre elles.

googlebrain-ai-algorithme-chiffrement

Au bout de 15 000 messages, c’était chose faite et Eve n’était plus en mesure d’écouter la conversation.

Reste à comprendre comment l’algorithme de chiffrement s’est constitué.

Source

Une erreur dans l'article ? Proposez-nous une correction