IA : ce générateur de texte ne sera pas rendu public car il effraie ses créateurs

L’organisme de recherche soutenu par Elon Musk a réussi à créer un générateur de texte si performant qu’il ne sera pas rendu public.

Quand la créature échappe à son créateur, c’est un peu l’histoire qu’aurait pu avoir GPT-2, ce générateur de faux articles de presse développé par le groupe de recherche OpenAI, fondé par Elon MuskDéfini comme « le nec plus ultra pour modéliser certains niveaux de langage », GPT-2 est si performant qu’il restera dans l’ombre. En effet, ses créateurs ont peur qu’il ne serve à des fins malveillantes.

GPT-2 est capable de générer des fake news crédibles

Les très bons résultats du programme GPT-2 ont amené les chercheurs à le garder secret. En effet, selon l’équipe de recherche, ce générateur de texte pourrait bien être utilisé pour générer de faux articles de presse et ainsi répandre des fake news sur les réseaux sociaux.

En effet, plusieurs tests ont pu effrayer l’équipe de OpenAI. En prenant un article du Guardian sur le Brexit, l’IA développée par OpenAI est parvenue à inventer des citations du député Jeremy Corbyn, l’opposant à Theresa May. Le problème, c’est que ces citations étaient tellement crédibles qu’on peut bien imaginer les dérives qu’elle pourrait générer, comme la création d’infox bien ficelées, et donc, de fait, indétectables.

Et ce n’est pas tout, car l’outil est également capable de générer automatiquement des avis négatifs ou positifs, mais aussi des spams, des textes complotistes… Suite à ses expériences (trop) concluantes, OpenAI a tout simplement décidé de confiner son programme GPT-2 et de ne pas publier ses recherches, afin qu’il ne se retrouve pas dans de mauvaises mains.

« Nous devons faire des expériences complémentaires pour découvrir ce que des utilisateurs pourraient en faire », a conclu Jack Clark, directeur des politiques de OpenAI.

16 réponses à “IA : ce générateur de texte ne sera pas rendu public car il effraie ses créateurs”

  1. Quel enfumage. Aucune IA ne génère librement de texte qui fassent sens.
    Avant d’écrire il faut penser, et pour penser il faut parler. Aucune IA ne produit de discours indépendamment de ce lui est soufflé.Vous imaginez l’IA qui se dit: « Tiens, je vais parler de bonsaï, j’adore ça! » Et bien toutes les parties de cette phrase sont programmées en suivant des structures précises qui simulent le langage. Mais personne ne parle, il n’y a rien qui pense. « Tu vas aimé la botanique, et tu vas pas parler de ce que tu aimes. » L’IA génère des textes à partir des données qu’on lui donne, c’est un programme de gestions des données, elle les combine en suivant les modèles inscris dans ses patterns, et les résultats ne sont que le reflet exact de la programmation du programmeur. Il y a un gros abus sur la réalité des IA qui sont toutes supplantées massivement par des opérateurs humain. C’est du marketing pur. A ce jour une IA c’est un programme qui ne fait rien de plus que ce qui a été programmé dans son noyaux. C’est abusif de parler d’autonomie, ni même d’intelligence. C’est un programme, certes complexe,mais ça reste un programme.
    C’est ahurissant de constater à quel point ce site est un relai massif de Fake et de publicité déguisée.X_X

  2. D’ailleurs ces programmes fonctionnent comme des réseaux de neurones, on pourrait potentiellement avec la technologie actuelle créer un vrai programme intelligent.
    Ils sont comme des intelligences informatiques primitives si je puis dire. 
    À part ça tu t’énerves pour rien car l’article ne dit pas que les IA (j’aime bien que tu continue de les appeler des IA ;)) sont de vrais intelligences artificielles, il effraie.ces créateurs car des personnes mal intentionnées pourraient l’utiliser à des fins malveillantes, donc la prochaine fois lis l’article avant de commenter.
    Bonne journée !

  3. Sérieux pourquoi m’être un tel article si c’est pour chanter la messe c’est un article qui n’est vraiment pas très utile et ou ont essaye de nous prendre pour des abrutie ont nous dit que quelque chose à était créé et qu’il ont créé n’importe quoi a par une grosse connerie quel superbe tissus de mensonges… juste pour faire de la pub et essayer de faire peur au  citoyens… 
    Ont arrive déjà pas à faire circuler un véhicule seul  ou voler un drône seul et j’en passe l’intelligence artificielle n’est que obsolète a l’heure actuelle nie plus nie moins donc arrêter sinon ont va finir par sortire les violents et si mêmes  un siècle futur ont y arriver ce serait l’armé qui sans servirer en 1er et personnes n’en sera jamais rien jusqu’à qu’il decide de le rende public et de le brider à l’heure gise comme les Windows que l’on utilise chaque jours.

  4. Ce n’est pas le logiciel qui est dangereux mais l’Homme qui l’a programmé qui peut avoir de mauvaises intentions, il’est Là le problème!

  5. Ca pique les yeux ce que tu écris ! Un bon Beschrelle à ouvrir de temps en temps c’est pas mal. Après pour la jugeote on à pas encore de recette miracle !

  6. Comment dire Benoît ta réponse et aussi Puérile que inutile tu doit certainement beaucoup t’ennuyer dans ta vie de tous les jours et tu ne doit pas réalisé grand chose de constructif 
    Ta certainement pas inventer le fille a couper le beurre .

  7. tu peux continuer à écrire? c’est tellement marrant de te lire. il y a des fautes que je ne pourrais meme pas imaginer.

  8. D’après moi l’argument de « l’outil trop dangereux » est bidon et
    Elon Musk (Tesla, SpaceX, etc) qui manage OpenAi a atteint la
    limite de la philanthropie et de l’open source, il voit dans ce
    générateur de texte (GPT-2) un truc juteux à commercialiser…. ?

    D’un autre côté il faut également se méfier des effets d’annonce,
    jusqu’à présent on a vu des tentatives d’écriture de nouveaux
    épisodes de séries télévisées (Friends, Silicon Valey) qui donnent
    des résultats catastrophiques… En effet le sens commun échappe à l’IA, créer des phrases cohérentes syntaxiquement et sémantiquement oui, mais tout un texte ???

  9. si je voulais faire autant de fautes, il me faudrait réfléchir pendant des heures !! t’es un génie de l’orthographe et de la conjugaison, bravo !!

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *