« Les temps changent, et nos politiques aussi… surtout quand les fantômes 2.0 entrent en scène ! ». YouTube, l’enfant chéri de Google, a décidé de prendre le taureau par les cornes numériques et de mettre à jour ses règles du jeu en matière de harcèlement et cyberintimidation. À partir du 16 janvier, la plateforme va commencer à sévir contre les contenus qui simulent de manière un peu trop convaincante le témoignage posthume des mineurs décédés ou des victimes d’événements tragiques.
Quelques créateurs de contenu, un brin trop inspirés, ont utilisé l’intelligence artificielle pour recréer les effigies numériques d’enfants disparus. Dans des mises en scène glaçantes, ils donnent une voix d’enfant, générée par AI, à ces petits anges pour décrire les circonstances macabres de leur trépas.
Des affaires aussi médiatisées que la tragique histoire du jeune James Bulger, kidnappé et tué à l’âge de deux ans, ou de la disparition de Madeleine McCann, âgée de trois ans, se sont retrouvées narrées par des voix synthétiques d’enfants. Even Gabriel Fernández, huit ans, torturé et assassiné en Californie, a été l’objet de telles vidéos des plus dérangeantes.
YouTube sévit contre les simulations un peu trop « réalistes » des victimes mineures.
YouTube, jouant les arbitres, a décidé d’éliminer ces contenus qui franchissent la ligne rouge. Une première infraction et c’est une semaine de pénalité sans pouvoir uploader de vidéos ou organiser des livestreams. Trois strikes, et vous êtes sorti ! Votre chaîne rejoint le cimetière des comptes excommuniés de l’olympe des vidéos.
Ces nouvelles mesures s’ajoutent aux politiques introduites il y a quelques mois en matière de divulgation responsable des contenus IA. Les utilisateurs doivent maintenant aviser lorsque leur œuvre est altérée ou synthétique, sous peine de sanctions allant du retrait de contenu à l’exclusion du Programme Partenaire YouTube.
En parallèle, TikTok a mis les bouchées doubles en septembre dernier en lançant son propre outil permettant aux créateurs de marquer leur contenu comme généré par intelligence artificielle. TikTok avait déjà mis à jour ses directives pour exiger une telle divulgation, repoussant ainsi les frontières du réalisme numérique responsable.
Source : Techcrunch
