Peut-on vraiment faire confiance à la technologie de création vidéo par intelligence artificielle? OpenAI vient de lancer Sora, un outil innovant permettant de générer des vidéos à partir de photos ou de séquences filmées de personnes réelles. Si cette innovation promet des opportunités créatives inégalées, elle n’est pas sans soulever de sérieux débats éthiques et de sécurité. Pourquoi l’entreprise a-t-elle décidé de restreindre l’accès à cette fonctionnalité pour la majeure partie de ses utilisateurs?
OpenAI affirme qu’une partie choisie d’utilisateurs testera ce composant clé, mais la diffusion à plus grande échelle attendra des ajustements de sécurité. Quels sont donc les risques associés à l’utilisation d’images de personnes réelles pour générer des vidéos? L’entreprise évoque un « risque potentiel de mauvais usage ». Ce choix conservateur soulève des questions quant à la gestion de l’outil et la protection contre les abus potentiels.
En effet, les vidéos génératives, bien que fascinantes, s’entourent de controverses liées aux deepfakes et à la désinformation. OpenAI tente d’endiguer ces dérives avec des réglementations internes strictes. Mais cela suffira-t-il à maintenir l’intégrité et la sécurité de la plateforme tout en permettant l’expression créative?
Avec Sora, chaque œuvre est une question posée aux frontières de l’art et de l’éthique.
OpenAI a choisi d’implémenter des filtres sur Sora, notamment pour protéger les mineurs et gestionner les contenus sensibles. Comment ces mesures s’intègrent-elles dans un cadre où de nombreux artistes se plaignent déjà d’une exploitation abusive de leurs styles? La métadonnée C2PA pourrait-elle être une réponse efficace au défi de la provenance des vidéos?
Par ailleurs, OpenAI utilise le « re-writing » de prompts pour éviter de calquer le style d’artistes encore en vie, un effort louable mais suffisant? Avec des artistes poursuivant des entreprises d’IA pour utilisation abusive de leurs œuvres, les pratiques d’OpenAI méritent d’être examinées à la loupe. Le droit d’auteur, souvent invoqué comme bouclier, protège-t-il réellement contre de telles controverses?
Enfin, bien que Sora soit accessible pour certains abonnés des plans ChatGPT Pro et Plus, qui en bénéficie vraiment? Seul un nombre limité de pays voit cette technologie révolutionnaire à sa disposition. Les choix d’accessibilité participent-ils à une gestion prudente ou entravent-ils une évolution nécessaire?
L’horizon est-il aussi prometteur qu’incertain pour la technologie Sora? Alors que les avancées se multiplient, la société parviendra-t-elle à trouver un équilibre entre innovation et responsabilité?
Source : Techcrunch
