Les parents ayant perdu leurs enfants dans des tueries par armes à feu ont-ils droit de se faire entendre par les moyens les plus innovants? À la suite de la tragédie de Parkland en Floride, où un adolescent fut tué en 2018 lors d’une fusillade scolaire, un projet intrépide nommé The Shotline a été lancé. Mais quel est son objectif?
Est-il vraiment possible qu’une intelligence artificielle recrée la voix d’enfants décédés pour interpeller les responsables politiques? The Wall Street Journal nous rapporte que The Shotline utilise l’IA pour générer des appels automatisés qui utilisent les voix recréées d’enfants victimes de violence armée, pour revendiquer des lois plus strictes sur le contrôle des armes. Mais cette initiative est-elle légale?
Les voix de six jeunes victimes de la violence par arme à feu aux États-Unis sont recréées via ElevenLabs, une jeune pousse qui, grâce à des échantillons vocaux, permet de reproduire des voix dans plus de vingt langues. Le père de Joaquin Oliver, Manuel Oliver, a déclaré: «Si nous devons utiliser des choses effrayantes pour y arriver, bienvenue dans l’effrayant». Mais quels sont les risques sur le plan éthique d’employer une telle technologie?
Des enjeux éthiques émergent autour de l’utilisation de l’IA pour générer des voix deepfake de personnes décédées.
Rappelons-nous que l’entreprise ElevenLabs permet de recréer des voix de proches décédés avec les autorisations nécessaires. Toutefois, la légalité de ces actions reste floue, notamment en ce qui concerne les droits liés à l’image des mineurs.
La semaine dernière, la Federal Communications Commission a statué que l’utilisation de voix générées par IA dans des appels automatisés était illégale. Cette décision est tombée peu de temps après que des électeurs dans le New Hampshire ont reçu des appels imitant la voix du président Joe Biden, leur demandant de ne pas voter aux primaires de l’État. Ces deepfakes vocaux de Biden ont été créés, semble-t-il, avec les outils d’ElevenLabs. Mais où s’arrête la liberté d’utiliser les IA et où commence la violation de la vie privée?
Finalement, ai-je le droit de réclamer qu’une IA porte ma voix après ma mort? Jusqu’où les proches endeuillés pourront-ils aller pour que les voix de leurs enfants continuent de résonner, de plaider pour une cause qui leur tient à cœur, longtemps après leur départ? La question reste posée.
Source : Engadget
