Comment les géants d’internet réagissent-ils face à la prolifération des images synthétiques explicites ?
Depuis l’avènement des outils d’IA générative, un nouveau problème a émergé : la multiplication des images de nudité artificielle ressemblant à des personnes réelles. Microsoft vient de prendre une mesure importante en donnant aux victimes de « revenge porn » un outil pour empêcher que ces images soient renvoyées par son moteur de recherche Bing.
En effet, jeudi, Microsoft a annoncé un partenariat avec StopNCII, une organisation permettant aux victimes de pornographie non consensuelle de créer une empreinte digitale de ces images explicites, qu’elles soient réelles ou non, sur leur appareil. Les partenaires de StopNCII utilisent ensuite cette empreinte digitale, ou « hash », pour effacer l’image de leurs plateformes. En se joignant à Facebook, Instagram, Threads, TikTok, Snapchat, Reddit, PornHub et OnlyFans, Microsoft cherche à stopper la propagation de ces images.
Est-ce suffisant pour répondre aux préoccupations des victimes ? Dans un blog post, Microsoft a indiqué avoir déjà agi sur 268 000 images explicites renvoyées par Bing lors d’un pilote jusqu’à fin août grâce à la base de données de StopNCII. Microsoft reconnaît que l’outil de signalement qu’il proposait auparavant n’était pas assez efficace.
La seule dénonciation par les utilisateurs ne suffit pas toujours.
Mais qu’en est-il de Google, le moteur de recherche le plus utilisé ? Google Search propose également des outils pour signaler et supprimer des images explicites de ses résultats de recherche. Cependant, une enquête de Wired révèle que Google a été critiqué par d’anciens employés et victimes pour ne pas s’associer à StopNCII. Par exemple, depuis 2020, les utilisateurs de Google en Corée du Sud ont signalé 170 000 liens de recherche et YouTube pour du contenu sexuel non désiré.
Les deepfakes explicites sont déjà un problème répandu. Bien que les outils de StopNCII ne soient disponibles que pour les personnes de plus de 18 ans, les sites de « déshabillage » causent déjà des problèmes aux lycéens à travers le pays. Malheureusement, les États-Unis ne disposent pas d’une loi fédérale sur les deepfakes pornographiques pour rendre quiconque responsable, obligeant le pays à s’en remettre à une approche disparate de lois étatiques et locales.
Les procureurs de San Francisco ont annoncé en août une poursuite pour fermer 16 des sites de « déshabillage » les plus populaires. Selon un traqueur pour les lois sur les deepfakes créé par Wired, 23 États américains ont adopté des lois pour lutter contre ces deepfakes non consensuels, tandis que neuf ont rejeté les propositions de règlementation.
Alors, le partenariat de Microsoft avec StopNCII peut-il réellement changer la donne face à ce problème de grande envergure ?
Source : Techcrunch
