En phase de test uniquement aux USA, l’intelligence artificielle se chargerait d’identifier les messages préoccupants, qu’il s’agisse d’une publication d’utilisateurs concernés ou de réactions laissées en commentaires par leurs amis. L’IA peut ainsi être alertée à la lecture d’un commentaire d’un ami qui demande “Est-ce que tout va bien ?” ou encore “Je m’inquiète pour toi”.
Un suicide toutes les 40 secondes quelque part dans le monde
Une fonctionnalité particulièrement attendue sur la plate-forme où de nombreux cas de suicide en direct ont malheureusement eu lieu au cours des derniers mois. Une fois identifié, l’échange de messages inquiétants est étudié par une équipe de Facebook qui propose ensuite à la personne concernée des conseils ou un rendez-vous avec un spécialiste.
John Draper, directeur d’une association de prévention contre le suicide, admire l’initiative mais la juge encore perfectible :
“Nous avons discuté avec les équipes Facebook concernant la possibilité de faire plus que donner de simples conseils aux personnes en détresse. Plus nous mobiliserons le réseau d’un individu fragilisé, plus il aura de chance d’être aidé.”
Signaler un live inquiétant
Récemment interviewée par l’un de nos confrères, Vanessa Callison-Burch qui travaille pour Facebook explique que bien souvent, l’IA se révèle plus pertinente que les humains pour identifier un véritable motif d’inquiétude:
“Nous avons constaté que l’IA semble plus précise que les signalements de suicide ou d’auto-mutilation réalisés par nos utilisateurs. Nous avons ainsi plus tendance à déployer notre aide aux personnes dont le signalement a été effectué par l’IA, plutôt que celles révélées par un véritable être humain.”
Quoi qu’il en soit, Facebook Live demandera désormais à ses utilisateurs américains comment ils pensent pouvoir aider la personne en détresse qu’ils viennent de signaler durant un live. Probablement pour éviter les abus et fournir un maximum d’informations utiles aux équipes de secours.