IA : ce générateur de texte ne sera pas rendu public car il effraie ses créateurs

Intelligence artificielle

Par Remi le

L’organisme de recherche soutenu par Elon Musk a réussi à créer un générateur de texte si performant qu’il ne sera pas rendu public.

Quand la créature échappe à son créateur, c’est un peu l’histoire qu’aurait pu avoir GPT-2, ce générateur de faux articles de presse développé par le groupe de recherche OpenAI, fondé par Elon MuskDéfini comme “le nec plus ultra pour modéliser certains niveaux de langage”, GPT-2 est si performant qu’il restera dans l’ombre. En effet, ses créateurs ont peur qu’il ne serve à des fins malveillantes.

GPT-2 est capable de générer des fake news crédibles

Les très bons résultats du programme GPT-2 ont amené les chercheurs à le garder secret. En effet, selon l’équipe de recherche, ce générateur de texte pourrait bien être utilisé pour générer de faux articles de presse et ainsi répandre des fake news sur les réseaux sociaux.

En effet, plusieurs tests ont pu effrayer l’équipe de OpenAI. En prenant un article du Guardian sur le Brexit, l’IA développée par OpenAI est parvenue à inventer des citations du député Jeremy Corbyn, l’opposant à Theresa May. Le problème, c’est que ces citations étaient tellement crédibles qu’on peut bien imaginer les dérives qu’elle pourrait générer, comme la création d’infox bien ficelées, et donc, de fait, indétectables.

Et ce n’est pas tout, car l’outil est également capable de générer automatiquement des avis négatifs ou positifs, mais aussi des spams, des textes complotistes… Suite à ses expériences (trop) concluantes, OpenAI a tout simplement décidé de confiner son programme GPT-2 et de ne pas publier ses recherches, afin qu’il ne se retrouve pas dans de mauvaises mains.

“Nous devons faire des expériences complémentaires pour découvrir ce que des utilisateurs pourraient en faire”, a conclu Jack Clark, directeur des politiques de OpenAI.