Activision a accordé ses violons avec Modulate, une entreprise spécialisée dans la technologie de modération du discours, pour la modération dans Call of Duty: Modern Warfare III. Cet outil baptisé ToxMod est conçu pour identifier les comportements et les propos toxiques, comme les discours de haine, la radicalisation et les incitations à l’automutilation, en temps réel dans les chats vocaux du jeu.
Modérer le discours, minimiser la toxicité
ToxMod fonctionne en trois étapes : tri, analyse et alerte. L’outil écoute tous les échanges vocaux et identifie ceux qui nécessitent une attention spécifique. Les données marquées sont alors stockées sur les serveurs de Modulate, tandis que les autres sont traitées directement sur l’appareil de jeu. Selon Michael Vance, directeur de la technologie chez Activision, cette collaboration représente une « étape critique » pour créer et maintenir une expérience de jeu « amusante, équitable et accueillante pour tous les joueurs ».
L’intégration de ToxMod ne se limite pas à une simple identification de mots clés. Elle prend également en compte le ton, le timbre, l’émotion et le contexte d’une conversation. Cette nuance est particulièrement importante car elle permet de différencier les échanges amicaux (et parfois un peu vaches entre joueurs) des comportements réellement toxiques.
En matière d’éthique et de confidentialité, Modulate assure que ToxMod est conçu pour être aussi neutre que possible, évitant de marquer certains groupes démographiques comme nuisibles. L’entreprise a également une page de confidentialité qui détaille le type de données vocales collectées, la manière dont elles sont stockées et anonymisées.
« Nous considérons qu’il est non seulement vital pour notre entreprise, mais également de notre responsabilité de garantir que tous nos systèmes d’apprentissage automatique sont formés sur un ensemble représentatif et large de différentes voix correspondant à une gamme d’âges, d’identités de genre, de races, de types corporels, et plus encore », explique Modulate.
La technologie de Modulate est actuellement en phase de test bêta pour les versions anglophones de Call of Duty: Modern Warfare II et Call of Duty: Warzone en Amérique du Nord. Une sortie mondiale, à l’exception de l’Asie, est prévue pour le 10 novembre, coïncidant avec le lancement de Modern Warfare III.
Activision et Modulate veulent créer un environnement de jeu en ligne plus sûr et plus inclusif. Cette initiative pourrait soulever des questions éthiques et de confidentialité, elle marque toutefois une avancée importante dans la lutte contre la toxicité en ligne. À l’heure où les espaces virtuels deviennent de plus en plus interactifs et sociaux, des mesures comme celle-ci pourraient bien définir la norme pour les jeux vidéo à l’avenir.
🟣 Pour ne manquer aucune news sur le Journal du Geek, abonnez-vous sur Google Actualités. Et si vous nous adorez, on a une newsletter tous les matins.
Enfin on aura plus ces hurlements incessants de gamins qui polluent le jeu . c’est gosses de 8ans qui manquent de respect aux plus âgés. Ou les irrespectueux qui allument leurs musique dans le chat de jeu !!
Nous sommes beaucoup à avoir quitté le jeu a cause de cette pollution sonore , et si effectivement il y a un changement de ce point. Nous serions ravis de revenir.