Les deepfakes se multiplient-ils à une vitesse alarmante, implorant une réponse technologique adéquate et éthique de la part de géants comme OpenAI?
Aujourd’hui, le monde tech est témoin du lancement preview du Voice Engine par OpenAI, une technologie permettant de cloner des voix avec seulement 15 secondes d’enregistrement. Mais quel est le prix d’une telle prouesse, non seulement en termes financiers mais aussi éthiques et sociaux?
Jeff Harris d’OpenAI insiste sur l’importance d’un déploiement responsable. “Nous voulons être sûrs que tout le monde se sente à l’aise avec la manière dont il est utilisé,” déclare-t-il. Mais comment définir et garantir cette utilisation « responsable » dans un domaine aussi mouvant et controversé que celui des IA génératives?
“La technologie se développe, mais l’éthique peut-elle suivre le rythme?”
Le modèle de Voice Engine, déjà en action au sein de produits tels que ChatGPT, a été formé à partir d’un mélange de données sous licence et publiques. Mais cette opacité autour des données d’entraînement n’est-elle pas préoccupante, surtout à l’heure où OpenAI fait face à des accusations d’utilisation illégale de contenus protégés?
Curieusement, Voice Engine n’apprend ni ne se perfectionne grâce aux données des utilisateurs. Cette affirmation suffit-elle à apaiser les craintes de mauvaise utilisation ou d’abus potentiel de la technologie?
OpenAI promet une technologie avancée, capable de synthétiser des discours réalistes sans nécessiter de fine-tuning. Mais cette automatisation complète est-elle réellement sans risque, ou ouvre-t-elle la porte à des utilisations détournées et potentiellement dangereuses?
Le monde du doublage vocal pourrait voir son paysage transformé par des outils comme Voice Engine. Pourtant, la balance entre innovation et respect des artistes et acteurs vocaux semble fragile. Des plateformes essaient, comme Replica Studios et ElevenLabs, d’établir un modèle équitable, mais OpenAI ne s’est pas encore engagé sur cette voie. Qu’implique cette hésitation pour l’avenir des talents vocaux face à l’essor inexorable de l’IA?
Entre les risques d’abus de deepfakes et les incertitudes quant à la régulation de telles technologies, OpenAI évoque plusieurs mesures préventives. Limiter l’accès initial à un groupe restreint de développeurs, intégrer des filigranes inaudibles pour tracer les clones vocaux, permettre à une équipe de red teaming d’évaluer les usages malveillants… Mais ces actions suffiront-elles à naviguer dans les eaux tumultueuses des implications éthiques et légales de la clonation de voix?
Le futur du Voice Engine d’OpenAI reste en suspens, tributaire des enseignements de cette phase preview et de l’accueil du public. “Nous ne souhaitons pas que les gens confondent les voix artificielles et les voix humaines réelles,” affirme Harris. Une aspiration louable, mais à quel point est-elle réalisable dans un futur proche?
Et au final, la question qui demeure est : jusqu’où sommes-nous prêts à aller dans la quête d’innovation, au risque d’effacer les frontières entre le réel et l’artificiel?
Source : Techcrunch
