Le chatbot de Snapchat, My AI, a brièvement semblé avoir une volonté propre lorsqu’en début de semaine, il a posté une Story dans l’application avant d’arrêter de répondre aux messages des utilisateurs. La Story postée était une image bicolore que certains ont confondue avec une photo de leur plafond, épaississant encore un peu plus le mystère. Certains utilisateurs ont exprimé leur inquiétude sur les réseaux sociaux. « My AI a posté une story aléatoire d’une seconde et ne me répond pas ET JE SUIS EFFRAYÉ », s’est amusé (ou pas) RyanJKrul.
Une Story inattendue
L’incident a donné lieu à de nombreux commentaires sur les réseaux sociaux, mais il s’est finalement avéré que My AI n’avait pas développé de conscience propre ! Il s’agissait simplement d’une panne technique. Un porte-parole de Snap a confirmé que le problème était dû à une panne temporaire et qu’il avait été rapidement résolu.
Did Snapchat Ai just add a picture of my wall/ceiling to their Snapchat story?
Snapchat AI – Left
My wall/ceiling- Right pic.twitter.com/bh8I3Aiwun
— Matt Esparza (@matthewesp) August 16, 2023
La mise en place de My AI avait déjà suscité des controverses, notamment des préoccupations concernant la sécurité, ainsi que sur l’emplacement fixe du bot en haut du fil de discussion. Plusieurs témoignages ont également fait état de réponses inappropriées aux messages d’utilisateurs mineurs, ce qui a poussé Snap à ajouter des contrôles supplémentaires.
L’incident de la Story va peut-être forcer le réseau social à développer de nouvelles fonctions pour son bot, notamment la possibilité de… vraiment poster des Stories ! À ce jour, My AI ne peut pas s’exprimer de la sorte, mais le porte-parole de Snap a laissé entendre que cela pourrait être à l’étude.
My AI est un assistant numérique intégré dans l’abonnement Snapchat Plus (3,99 $/mois). Lancé en février, il propose une variété de fonctionnalités, comme des recommandations de filtres AR et des suggestions pour les restaurants et les activités basées sur les lieux populaires sur la Snap Map. Conçu comme un « ami virtuel », My AI a également des fonctions de chat en groupe, de photo et de vidéo, et de messages texte. Une fonction de génération de texte et d’images est également en cours de développement.
En dépit de ses capacités, My AI a connu des problèmes techniques et des dysfonctionnements. Cet incident concernant la publication de Stories met en lumière les bizarreries que peuvent générer ces bots carburant à l’intelligence artificielle, et qui peuvent parfois halluciner. Il souligne aussi la nécessité d’une utilisation responsable et d’une surveillance continue. L’expérimentation de Snap n’en reste pas moins intéressante à suivre, car elle illustre sans doute l’avenir de l’interaction homme-machine dans le domaine des réseaux sociaux.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
“[…] car elle illustre sans doute l’avenir de l’interaction homme-machine dans le domaine des réseaux sociaux.”
Et à quel point il est important de ne pas utiliser de vocabulaire suggérant une personification des algorithmes d’IA (Intelligence Augmentée) car cela ne fait que renforcer auprès du public le fantasme qu’un programme informatique puisse un jour égaler l’Homme.
je pense qu’il est nécessaire de préciser que c’est le même code que ChatGPT mais modifié pour Snapchat.