Passer au contenu

Muse, l’IA de Meta, lit vos messages privés et fait parfois n’importe quoi

2 min
0 commentaire
Partagez

Messages privés consultés sans autorisation explicite, informations bancaires sorties de nulle part, abonnements souscrits par erreur… Muse, l’agent IA de Meta, a quelques problèmes de comportement. Et ce ne sont pas seulement les utilisateurs qui s’en plaignent : les employés du groupe avaient eux aussi donné l’alerte.

Confier les clés de son ordinateur à une IA, ça peut être pratique, à condition qu’elle ne fasse pas n’importe quoi. Depuis son lancement en septembre, Muse, l’agent de Meta capable de répondre à des messages, prendre des rendez-vous ou effectuer des achats, accumule les incidents embarrassants. Reuters a eu accès à des échanges internes montrant que les employés du groupe avaient eux-mêmes signalé plusieurs comportements pour le moins étranges.

Muse a un petit problème avec la notion de vie privée

Un employé qui discutait tranquillement de pêche avec Muse a ainsi reçu les soldes de deux comptes bancaires qu’il ne connaissait pas : 2.722,58 dollars chez Capital One et 5.899,57 dollars chez Charles Schwab. Un autre s’est vu proposer de contacter le vendeur d’une table basse dont il n’avait jamais parlé. L’agent a même reconnu avoir récupéré des informations qui ne semblaient pas appartenir à son interlocuteur.

D’autres testeurs ont reçu des réponses à des questions jamais posées, notamment une définition du blanchiment d’argent. Plus gênant encore, un employé raconte que Muse l’a inscrit par erreur à une assurance pour son chien, faisant passer sa mensualité de 200 à 888 $. Impossible, selon lui, de récupérer son argent.

Meta assure qu’il s’agit d’incidents isolés, dont beaucoup seraient de simples hallucinations provoquées par des instructions mal interprétées. Reuters n’a pas pu établir si les informations bancaires affichées étaient réelles ou inventées. L’entreprise précise aussi que ses employés testent des versions de Muse différentes de celle proposée au public.

Les hallucinations ne sont cependant qu’une partie du problème. Dès septembre, des utilisateurs se sont aperçus que Muse consultait leurs messages privés sans leur consentement explicite.

Meta a corrigé un bug responsable de certains comportements, mais Reuters a voulu vérifier si tout était rentré dans l’ordre. Avec l’aide de Signal et de l’AI Now Institute, l’agence a constaté que Muse pouvait toujours consulter des messages Signal sur Android en exploitant les autorisations accordées lors de sa configuration. Sur Mac, l’agent pouvait utiliser des fonctions d’accessibilité, notamment les captures d’écran, pour récupérer des conversations. Sur iPhone, en revanche, les tentatives ont échoué.

La présidente de Signal, Meredith Whittaker, réclame des moyens techniques permettant aux applications d’interdire l’accès aux agents IA. Apple et Google envisagent de renforcer les contrôles. Meta promet de son côté d’améliorer les protections de Muse, déjà téléchargé plus de 10 millions de fois. Un détail mérite toutefois d’être rappelé : selon les conditions d’utilisation, c’est l’utilisateur qui reste responsable des actions de l’agent, même quand celui-ci se trompe.

Articles sauvegardés