« Je vais te violer », l’algorithme d’Instagram utilise un tweet menaçant pour promouvoir ses services sur Facebook

Sur le web

Par Elodie le

Une journaliste du Guardian publie le screenshot d’une menace de viol sur Instagram, l’algorithme de la plateforme l’utilise pour promouvoir ses services sur le réseau social de la maison mère Facebook. Oups !

Quand les algorithmes dérapent, épisode 12

Pour promouvoir ses services, Instagram utilise les publications les plus « engageantes » de ses abonnés et les met en avant sur Facebook. Sauf que celle d’Olivia Solon, journaliste au Guardian était une menace de viol reçue par email : « Je vais te violer avant de te tuer, sale p**e ». De la poésie donc.

Le screenshot a été transformé en publicité affichée sur le profil Facebook de la sœur d’Olivia Solon, avec cette phrase « Regarde les photos d’Olivia Solon et les publications d’amis sur Instagram ». Pourtant, cette photo a été postée sur Instagram et Facebook il y a presque un an de ça, elle a reçu trois like et une douzaine de commentaires. Suffisant pour titiller l’algorithme d’Instagram.

La semaine dernière, Facebook s’était illustré en permettant à des annonceurs de cibler des utilisateurs intéressés par les catégories « haine des juifs » ou « comment brûler des juifs » listées sur leur profil.
Après s’être excusé, Facebook va donc – une nouvelle fois – mettre un peu plus d’humains dans ses processus automatisés, a annoncé Sheryl Sandberg dans une publication.

Ce n’est pas la première fois que les algorithmes de Facebook pédalent dans la semoule, notamment lorsqu’il s’agit de censurer du contenu qui ne devrait pas l’être. A chaque fois, le réseau social promet de faire plus attention, mais l’utilisation croissante des algorithmes risquent d’engendrer encore de nombreux incidents de ce type.

Source: Source