« Il était une fois dans un jeu en ligne, où les insultes volaient plus vite que les balles… » Aujourd’hui, cela pourrait bien changer. Grâce à la technologie, des entreprises comme Activision s’associent à Modulate, une entreprise spécialisée dans la lutte contre les discours haineux, pour instaurer une modération directe des échanges vocaux dans le célèbre jeu Call of Duty. Un nouvel espoir pour tous les gamers en quête d’une expérience de jeu moins hostile.
Le système d’IA de Modulate, ToxMod, s’attaque à diverses menaces telles que les discours de haine, la radicalisation et l’automutilation en temps réel. Son fonctionnement s’articule en trois étapes : triage, analyse et escalade. Tous les propos tenus dans les chats vocaux sont écoutés par ToxMod, qui repère ceux nécessitant une attention particulière. Ces données sont alors stockées sur leurs serveurs, tandis que toutes les autres sont directement traitées sur l’appareil initial. Modulate analyse ensuite tout, du ton à l’émotion, en passant par la réaction des autres joueurs. Enfin, elle tente d’alerter les modérateurs des incidents les plus toxiques, afin qu’ils prennent des mesures. Selon l’entreprise, c’est la seule solution de modération « par la voix » actuellement disponible, ayant déjà protégé « des dizaines de millions de joueurs ».
L’intégration de ToxMod contribue à la prévention des comportements toxiques, en complément des systèmes centrés sur le texte et les signalements existants.
« Lutter contre les discussions perturbatrices a toujours été un défi exceptionnel dans le monde du jeu », a déclaré Michael Vance, directeur de la technologie d’Activision. « Avec cette collaboration, nous intégrons désormais la technologie d’apprentissage automatique de pointe de Modulate, capable de passer à l’échelle en temps réel pour une application à l’échelle mondiale. C’est une avancée cruciale pour créer et maintenir une expérience de jeu amusante, équitable et accueillante pour tous les joueurs. » L’année dernière, Activision a commencé à permettre aux équipes de modération des jeux de suspendre les joueurs aux langages toxiques dans les chats vocaux et textuels.
ToxMod est désormais disponible en version bêta en anglais en Amérique du Nord pour Call of Duty: Modern Warfare II et Call of Duty: Warzone. Il sera lancé globalement – à l’exception de l’Asie – lors de la sortie de Call of Duty: Modern Warfare III le 10 novembre. C’est donc un grand pas en avant pour la modération des jeux en ligne, et une évolution très attendue pour la communauté des gamers. En clair, grâce à Modulate et Activision, il était une fois dans un jeu en ligne… Et ils vécurent tous en harmonie!
Source : Engadget
