Comme disait un vieux robot: « Je pense, donc je bug ». Et dans le petit monde merveilleux de l’intelligence artificielle, certains bugs pourraient être plutôt… disons… bouleversants. Par exemple, DALL-E 3, le petit prodige d’OpenAI, aurait des vulnérabilités de sécurité suffisamment importantes pour permettre à ses utilisateurs de créer des images violentes ou explicites. Imaginez un peu, des toiles virtuelles à faire pâlir le marquis de Sade!
Les joies du pixel sont parfois écourtées, comme en témoigne Shane Jones, un manager de chez Microsoft, qui a lancé un véritable cri de détresse. Il a écrit aux sénateurs américains pour les informer que DALL-E 3 était un risque public et qu’il fallait mettre la machine en veilleuse le temps de colmater les brèches. GeekWire a partagé la missive que ce pauvre Jones a dû diffuser après que l’équipe légale de Microsoft lui a gentiment suggéré (comprenez « ordonné ») de se taire.
Notre courageux whistleblower a découvert une faille, lui donnant un accès VIP à la galerie d’art des horreurs de DALL-E 3 en décembre. Loin de rester muet comme une carpe, il a voulu partager son angoisse sur LinkedIn, mais la paranoïa corporative de Microsoft l’en a empêché. Ironique, n’est-ce pas ?
Les tentatives de discuter plus avant avec le département légal de Microsoft ont été unidirectionnelles: Jones émettait, mais n’obtenait jamais de réponse…
Fait délicat, une série de deepfakes plus que douteux circulant sur la toile impliquant Taylor Swift ont été créés en utilisant des outils similaires comme Microsoft Designer qui, par un étrange hasard, utilise DALL-E 3 en coulisse. Sacré coup de pub!
À l’heure actuelle, Engadget tente toujours d’obtenir une réponse de Microsoft et OpenAI, mais il semble que leur IA de relations publiques soit partie en vacances. Quand ça ne veut pas… ça veut pas!
Mais notre cher Jones ne baisse pas les bras et continue à secouer le cocotier numérique, espérant qu’une ou deux lois tombent pour protéger les lanceurs d’alerte et obliger les entreprises à signaler les vulnérabilités connues. Allez, haut les cœurs!
Source : Engadget
