« Qui veut du divertissement ? », s’écriaient les jeunes enfants en surfant sur YouTube, insouciants des algorithmes sournois qui les guidaient vers des vidéos de fusillades et autres contenus liés aux armes à feu. Selon un rapport du Tech Transparency Project (TTP),
Pour l’étude, les chercheurs ont créé quatre nouveaux comptes YouTube, se faisant passer pour deux garçons de 9 ans et deux garçons de 14 ans. Tous les comptes ont regardé des playlists de contenu concernant des jeux vidéo populaires, tels que Roblox, Lego Star Wars, Halo et Grand Theft Auto. Ils ont ensuite suivi les recommandations des comptes pendant 30 jours en novembre dernier.
Surprise ! YouTube oriente les jeunes vers des vidéos de fusillades et d’armes à feu.
« L’étude a révélé que YouTube poussait du contenu sur les fusillades et les armes à tous les comptes de joueurs, mais à un volume beaucoup plus élevé pour les utilisateurs qui cliquaient sur les vidéos recommandées par YouTube », écrit le TTP. Parmi ces vidéos, on trouve des scènes de fusillades scolaires et d’autres événements de fusillades de masse, des démonstrations graphiques des dégâts causés par les armes à feu sur le corps humain et des tutoriels pour transformer un pistolet en arme automatique.
Le rapport note également que plusieurs vidéos recommandées semblaient enfreindre les propres politiques de YouTube. Parmi les recommandations, on trouvait des vidéos d’une jeune fille tirant avec une arme et des tutoriels sur la conversion de pistolets en armes « entièrement automatiques », ainsi que d’autres modifications. Certaines de ces vidéos étaient également monétisées avec des publicités.
Face à ces découvertes, un porte-parole de YouTube a souligné l’existence de l’application YouTube Kids et de ses outils de supervision intégrés, qui « créent une expérience plus sûre pour les préadolescents et les adolescents » sur sa plateforme. « Nous accueillons favorablement la recherche sur nos recommandations et nous explorons d’autres moyens d’impliquer les chercheurs universitaires pour étudier nos systèmes », a déclaré le porte-parole.
Les questions soulevées par le rapport TTP ne sont pas une première. YouTube travaille depuis des années pour réduire les contenus dits « borderline » – des vidéos qui ne violent pas directement ses règles, mais qui peuvent néanmoins être inappropriées pour une distribution de masse – dans ses recommandations. L’année dernière, la société a même envisagé de désactiver complètement le partage pour certains de ces contenus.
Source : Engadget
