Sur le papier, « Algo Refresh » avait tout de la bonne idée. Cette fonction devait permettre à un utilisateur de remettre à zéro ses recommandations, notamment lorsqu’il voulait sortir d’un fil rempli de contenus indésirables ou potentiellement nocifs.
Les options de sécurité fantômes de TikTok
Mais d’après la plainte déposée par l’État de New York contre TikTok, certains utilisateurs auraient activé une version placebo de l’outil. Autrement dit, ils pensaient reprendre la main sur leur fil, mais l’algorithme, lui, continuait sa route comme avant. D’autres utilisateurs, eux, avaient bien accès à la version fonctionnelle.
Ces tests, qualifiés de « fantômes » dans la plainte, auraient concerné des milliers de personnes en 2023, dont des adolescents et des enfants. C’est évidemment ce point qui pèse lourd dans le dossier. TikTok affirme publiquement faire de la sécurité des jeunes une priorité, mais New York soutient que l’entreprise a parfois privé certains utilisateurs de protections qu’ils croyaient activer.
La société rejette largement les accusations. Un porte-parole explique que TikTok améliore régulièrement sa plateforme et teste ses produits, comme le font beaucoup d’entreprises, afin de voir comment ils fonctionnent dans la vraie vie. TikTok assure aussi que la sécurité des jeunes reste au cœur de ses priorités. La plainte affirme qu’un responsable de l’équipe chargée du bien-être numérique avait pourtant tiqué. Selon les documents cités, il aurait jugé problématique de faire des tests placebo sur « Algo Refresh », une fonction justement liée à la transparence et au contrôle de l’algorithme.
Dans un message interne repris par la plainte, cette personne écrit : « Cette fonctionnalité porte sur la transparence et le contrôle de l’algorithme. Un groupe placebo entre complètement en conflit avec cela. » Malgré cette alerte, TikTok aurait poursuivi les tests à plusieurs reprises. La plainte explique que le réseau social cherchait à comparer le temps passé sur l’application et l’effet potentiel sur la sacro-sainte pub entre les utilisateurs avec la vraie option et ceux avec la version sans effet.
La plainte accuse aussi TikTok d’avoir présenté « Algo Refresh » comme une vraie remise à zéro de l’algorithme, alors qu’il s’agissait, selon elle, d’un changement temporaire. L’entreprise répond que cette description ne reflète pas correctement le fonctionnement de l’outil.
Le dossier s’ajoute à une longue série de poursuites lancées par des États américains contre TikTok, accusé d’avoir rendu sa plateforme trop addictive pour les enfants et d’avoir donné une image trop rassurante de ses protections. En septembre, TikTok avait déjà réglé une première affaire avec l’Alabama, en payant jusqu’à 300 millions de dollars et en modifiant le fonctionnement de l’application pour les adolescents de cet État.