Est-ce que l’intelligence artificielle (IA) est en train de voler le travail des créateurs ? C’est une question qui domine les discussions dans le monde de la technologie en 2023. Les conflits d’Hollywood aux portraits numériques, le potentiel de l’IA à s’emparer du travail des artistes est un sujet brûlant. Mais qu’est-ce qui se passe concrètement ?
La dernière initiative visant à protéger les artistes et leurs créations est un outil appelé Nightshade. Comme le rapporte le MIT Technology Review, Nightshade permet aux artistes d’ajouter dans leurs œuvres des pixels indécelables qui pourraient corrompre les données d’entraînement d’une IA. Cela intervient alors que des grandes entreprises telles que OpenAI et Meta font face à des poursuites judiciaires pour violation des droits d’auteur et vol d’œuvres personnelles sans compensation. Qui est derrière cet outil, et comment fonctionne-t-il exactement ?
Nightshade pourrait changer la donne dans la lutte pour les droits des artistes face à l’IA
Créé par le professeur Ben Zhao de l’Université de Chicago et son équipe, Nightshade est actuellement en cours d’examen par des pairs. L’objectif était de redonner une partie de leur pouvoir aux artistes. L’outil a été testé sur des modèles récents de Diffusion Stable et sur une IA qu’ils ont eux-mêmes développée à partir de rien.
En quoi consiste Nightshade concrètement ? En substance, Nightshade fonctionne comme un poison, modifiant la manière dont un modèle d’apprentissage automatique produit du contenu et à quoi ressemble le produit fini. Par exemple, il pourrait amener un système d’IA à interpréter une demande de sac à main comme un grille-pain ou à afficher une image de chat au lieu du chien demandé. Mais quel impact cet outil pourrait-il avoir sur le secteur de la technologie ?
Nightshade est le prolongement de la sortie en août par Zhao et son équipe d’un outil appelé Glaze. Glaze modifie également subtilement les pixels d’une œuvre d’art, mais il amène les systèmes d’IA à détecter l’image initiale comme étant totalement différente. Un artiste qui souhaite protéger son travail peut le télécharger sur Glaze et opter pour l’utilisation de Nightshade.
Un outil potentiellement nuisible comme Nightshade pourrait encourager les acteurs majeurs de l’IA à demander et à rémunérer correctement le travail des artistes. Il semble être une meilleure alternative que de remanier complètement votre système. Toutefois, certaines personnes pourraient tenter d’utiliser l’outil à des fins malveillantes, mais Zhao met en garde : il faudrait des milliers d’œuvres corrompues pour causer de véritables dégâts.
Entre protection des œuvres d’art et repousser les limites de l’IA, où se situe l’équilibre ?
Source : Engadget
