Passer au contenu

OpenAI : l’intelligence artificielle trompée par une simple note manuscrite

Une nouvelle étude rapportée par des chercheurs du laboratoire d’apprentissage OpenAI révèle que le système de reconnaissance automatique de l’intelligence artificielle peut être trompé de manière très simple, avec une simple note manuscrite. 

Crédits JDG

Comment tromper l’algorithme d’une intelligence artificielle ? Considéré comme l’un des outils les plus sophistiqués du monde, certains systèmes de reconnaissance automatique peuvent en réalité se faire berner au simple moyen d’un papier et d’un stylo. L’étude – plutôt amusante, a été réalisée par les chercheurs du learning lab d’OpenAI. Photo à l’appui, cette dernière indique que l’algorithme n’a aucun mal à reconnaître une pomme, allant même jusqu’à indiquer sa variété. En revanche, il suffit qu’un bout de papier annoté du mot “iPad” soit posé dessus, pour que l’IA estime qu’elle a devant elle une tablette de la marque à la Pomme.

Tromper l’IA grâce au texte

Dans un article de blog publié sur le site officiel d’OpenAI, les chercheurs qualifient ce tour de passe-passe “d’attaque typographique”. Ils expliquent : “En exploitant la capacité de l’algorithme à lire du texte, nous pouvons constater que même les photos contenant du texte écrit à la main sont capables de tromper ce dernier”. Un moyen particulièrement simple de tromper l’IA, qui n’est pas sans rappeler les images contradictoires, beaucoup plus complexes à réaliser, et qui permettent de tromper une intelligence artificielle de reconnaissance visuelle. Tandis que l’IA est de plus en plus utilisée dans notre vie quotidienne, ce type d’attaque pourrait néanmoins avoir des conséquences problématiques. Si ces dernières peuvent en effet protéger la vie privée de citoyens ne souhaitant pas être reconnus par exemple, elles pourraient aussi pousser une voiture autonome à modifier son comportement sans raison apparente. Heureusement, OpenAI n’est pour le moment pas utilisé dans un but commercial, et se contente d’exister via des projets expérimentaux.

[amazon box=”2412043523″]

🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.

Source : The Verge

2 commentaires
  1. Heureusement, le propre du travail sur IA, c’est de la faire apprendre pour qu’elle s’améliore!

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *