OpenAI : l’intelligence artificielle trompée par une simple note manuscrite

Apple

Par Amandine Jonniaux le

Une nouvelle étude rapportée par des chercheurs du laboratoire d’apprentissage OpenAI révèle que le système de reconnaissance automatique de l’intelligence artificielle peut être trompé de manière très simple, avec une simple note manuscrite. 

Crédits JDG

Comment tromper l’algorithme d’une intelligence artificielle ? Considéré comme l’un des outils les plus sophistiqués du monde, certains systèmes de reconnaissance automatique peuvent en réalité se faire berner au simple moyen d’un papier et d’un stylo. L’étude – plutôt amusante, a été réalisée par les chercheurs du learning lab d’OpenAI. Photo à l’appui, cette dernière indique que l’algorithme n’a aucun mal à reconnaître une pomme, allant même jusqu’à indiquer sa variété. En revanche, il suffit qu’un bout de papier annoté du mot “iPad” soit posé dessus, pour que l’IA estime qu’elle a devant elle une tablette de la marque à la Pomme.

Tromper l’IA grâce au texte

Dans un article de blog publié sur le site officiel d’OpenAI, les chercheurs qualifient ce tour de passe-passe “d’attaque typographique”. Ils expliquent : “En exploitant la capacité de l’algorithme à lire du texte, nous pouvons constater que même les photos contenant du texte écrit à la main sont capables de tromper ce dernier”. Un moyen particulièrement simple de tromper l’IA, qui n’est pas sans rappeler les images contradictoires, beaucoup plus complexes à réaliser, et qui permettent de tromper une intelligence artificielle de reconnaissance visuelle. Tandis que l’IA est de plus en plus utilisée dans notre vie quotidienne, ce type d’attaque pourrait néanmoins avoir des conséquences problématiques. Si ces dernières peuvent en effet protéger la vie privée de citoyens ne souhaitant pas être reconnus par exemple, elles pourraient aussi pousser une voiture autonome à modifier son comportement sans raison apparente. Heureusement, OpenAI n’est pour le moment pas utilisé dans un but commercial, et se contente d’exister via des projets expérimentaux.

L'Intelligence artificielle...
24 Commentaires
L'Intelligence artificielle...
  • MUELLER, John Paul (Author)
  • 400 Pages - 03/28/2019 (Publication Date) - First Interactive (Publisher)