Meta envisage d’intégrer des bots de discussion sur Instagram, selon une capture d’écran partagée par le fuiteur Alessandro Paluzzi. Cette nouvelle fonction permettrait aux bots de répondre aux questions, de donner des conseils et d’aider les utilisateurs à rédiger des messages. Les utilisateurs pourraient choisir parmi « 30 personnalités d’IA » pour trouver celle qui leur convient le mieux. Meta n’a encore rien annoncé officiellement concernant cette fonctionnalité.
Des bots potentiellement dangereux pour les utilisateurs
D’autres entreprises ont déjà exploité le potentiel des bots comme fonctionnalité sociale. Snapchat, par exemple, a lancé son propre chatbot « My AI » (alimenté par le ChatGPT d’OpenAI) en février. Des sites comme Character.ai ont gagné en popularité en permettant aux utilisateurs de former et de parler à des bots basés sur des personnages fictifs populaires.
Pour ces entreprises, la difficulté réside dans la création d’un bot qui soit engageant et agréable à utiliser sans franchir la ligne rouge vers des interactions offensantes ou dangereuses. Par exemple, peu de temps après le lancement de « My AI », Snapchat a commencé à proposer des conseils pour le moins troublants aux utilisateurs, y compris encourager un individu prétendant avoir 13 ans à avoir des rapports sexuels avec son « petit ami » de 31 ans.
#Instagram is working on bringing AI Agents (Bots 🤖) to your chats for a more fun and engaging experience 👀
ℹ️ AI Agents will be able to answer questions and give advice.
You'll be able to choose from 30 different personalities. pic.twitter.com/4eWLBbvs8w— Alessandro Paluzzi (@alex193a) June 5, 2023
Autre exemple, après avoir dit au bot qu’il était âgé de 15 ans et qu’il voulait organiser une fête d’anniversaire épique, un utilisateur a obtenu des conseils sur la manière de masquer l’odeur de l’alcool et du cannabis… Le bot de Snapchat tente d’agir comme un ami. Cependant, malgré certaines protections intégrées, les conversations avec « My AI » peuvent parfois devenir inappropriées ! Mais pour l’instant, le potentiel de nuisance de « My AI » est probablement limité, car il n’est accessible qu’aux utilisateurs qui s’abonnent à Snapchat Plus.
Ces tests révèlent que Snapchat est loin de maîtriser quand et pourquoi son IA pourrait dérailler, sans parler de l’impact à long terme qu’il pourrait y avoir à développer une relation avec ce bot. Et cela expose un problème encore plus grand dans la nouvelle course aux armements de la tech pour intégrer l’IA dans tout, des moteurs de recherche à Slack, en passant par les réseaux sociaux… comme le projet de Meta pour Instagram.
Instagram et les réseaux sociaux en général sont déjà sous le feu des critiques vis à vis de l’impact qu’ils peuvent avoir sur la santé mentale de leurs utilisateurs, en particulier des adolescents et des personnes fragiles. Ajouter un bot qui donne potentiellement de mauvais conseils n’est probablement pas la meilleure idée qui soit, alors il faudra voir comment Meta compte améliorer la situation.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
Si c’est la même équipe de dev qui bosse dessus ou si c’est le même type de bot qui supprime les comptes en disant que vous êtes suspect d’être un bot parce que vous êtes sur un ordi et pas un smartphone et que vous avez un comportement suspect alors que vous ne faites que défiler les posts et en liker quelques uns, ça fait peur.
Moi j’ai perdu mon compte avec des centaines d’abos, la seule possibilité de le récupérer c’est d’avoir un smartphone et faire une vidéo de soi… sauf que j’en ai pas l’utilité et que j’en ai pas acheté… donc mon compte est perdu, c’est super sympa, plus aucun accès au principal lieu de blogs artistiques avant 3 mois en recréant un nouveau compte vierge… Je hais cette époque.
Méta ferait mieux de bosser sur la navigation de ses sites sur ordi, c’est le parent pauvre à chaque panne il faut plus d’1 mois pour la résoudre et il y’a quasi aucun outils par rapport à la version appli, ce n’est pas étonnant que les gens surfent depuis un téléphone, mais pour insta et les vidéos ça n’a aucun sens, c’est quoi l’intérêt de regarder des images en ultra HD sur des surfaces grandes de 4-6cm quand vous pouvez les voir sur un écran de >26 pouces ?