« Dans le monde numérique, reconnaître un chat d’un robot peut s’avérer plus compliqué qu’il n’y paraît. » – Anonymous Internet Philosopher.
Le Conseil de Surveillance de Meta, une bande de chevaliers de la table ronde des temps modernes mais pour les politiques de contenu, s’est lancé dans une nouvelle quête : enquêter sur le maniement par les plateformes sociales de l’entreprise des images explicites générées par IA, concernant des personnalités publiques. Imaginez un peu, Instagram et Facebook se retrouvant embourbés par des avatars numériques coquins qui échappent à la vigilance des gardiens du net.
Ces vilains canaillards ont été finalement démasqués et leur contenu explicite retiré. Cependant, le Conseil garde le secret sur l’identité des figures publiques visées, évitant ainsi d’attiser les flammes du harcèlement. Un peu comme un super-héros qui protège l’identité de celui qu’il sauve, sauf que là, c’est pour éviter les ennuis sur le web.
« Dans une épopée digitale, même les héros ont besoin de demander leur chemin. »
Les cas étudiés offrent une fenêtre fascinante sur le labyrinthe de la modération des contenus sur les réseaux. L’un des incidents impliquait une fausse nudité d’une célébrité indienne sur Instagram, qui, initialement, a échappé à la justice algorithmique de Meta, restant exposée malgré les signalements. Le deuxième cas nous emmène aux États-Unis, où un artiste de l’illusion numérique avait posté une image explicite ressemblant à une figure publique américaine sur Facebook. Celle-ci a été rapidement détectée et dissoute dans le néant numérique grâce à une banque de données préétablie.
Mais pourquoi donc plonger dans ces eaux troubles ? Le Conseil navigue dans cette aventure digitale pour mettre en lumière les incohérences et chercher l’amélioration globale de la modération des contenus, tout en s’interrogeant si toutes les femmes à travers le monde sont protégées de manière égale par les boucliers de Meta.
Ce n’est pas la première fois que le monde numérique s’arrose d’images générées par IA qui dépassent les limites du bon goût. Ah, technologie, tu nous tiens ! Et pendant que certains essaient de monétiser ces créations douteuses, d’autres, comme en Inde, se battent contre les vagues croissantes de fausses vidéos mettant en scène leurs actrices.
Quant à Meta, face aux cas soulevés par le Conseil de Surveillance, elle assure avoir fait le ménage. Mais l’épée de Damoclès semble toujours pendre au-dessus de ces géants du numérique, malgré les efforts de mettre en place des détecteurs sophistiqués et des IA mouchardes. La lutte contre le contenu explicite généré par IA s’apparente à un jeu du chat et de la souris, où les souris sont particulièrement douées pour trouver des failles.
Au final, cette histoire nous rappelle que dans le vaste royaume des médias sociaux, la vigilance est mère de sûreté. Et si Meta était un chevalier, alors son heaume aurait sûrement besoin de quelques ajustements pour mieux voir venir les coups. Ah, et n’oublions pas la morale de cette histoire : dans le monde de l’IA, même les images les plus sages peuvent se retrouver à poil.
Source : Techcrunch
