Comment l’intelligence artificielle génère-t-elle de nouvelles formes de désinformation ? Alors que les usages répréhensibles de l’IA générative sont multiples, il semble qu’ils s’étendent désormais aux opérations d’influence orchestrées par certains États. Qui sont ces acteurs et quels outils utilisent-ils pour propager leur propagande ?
Un récent rapport de Recorded Future, une entreprise de renseignement basée dans le Massachusetts, révèle l’utilisation probable de technologies d’IA de génération vocale par des campagnes d’influence russes. Pourquoi la startup ElevenLabs est-elle mise en cause dans cette affaire ? Les produits de génération vocale de cette entreprise en pleine croissance auraient servi à crédibiliser des faux reportages vidéo dans les opérations baptisées « Operation Undercut ». De quelles méthodes disposent les chercheurs pour identifier ces fabrications vocales ?
Les vidéos en question, destinées aux publics européens, dénigraient les politiciens ukrainiens et remettaient en question l’aide militaire à l’Ukraine. Ces contenus, vraisemblablement enrichis par l’IA, remettaient en scène des arguments déjà connus mais sous un habillage nouveau qui les rendait étrangement légitimes. Comment ces voix artificielles, sans accent distinctif, ont-elles pu renforcer l’illusion d’authenticité ?
« L’IA ne fait que commencer à redéfinir le paysage de la désinformation à l’échelle mondiale. »
L’agence de Design Social, une organisation basée en Russie et sanctionnée par le gouvernement américain, se cache-t-elle derrière ces manœuvres ? Ce réseau de plus de 60 sites web de contrefaçon d’organismes de presse européens semble avoir été activé au profit du gouvernement russe. Et quels sont les impacts réels de ces opérations sur l’opinion publique européenne ?
Malgré les preuves rassemblées, l’influence globale de cette campagne sur le public européen est jugée limitée par Recorded Future. Cependant, les précédents concernant ElevenLabs attisent la méfiance. Que s’est-il passé lors de l’appel automatisé impersonnant le président Joe Biden et cherchant à dissuader les électeurs de voter en janvier 2024 ? Comment la société a-t-elle réagi face à ces dérives ?
Avec une croissance exponentielle et une prochaine valorisation estimée à 3 milliards de dollars, comment ElevenLabs peut-elle endiguer les abus liés à ses technologies ? S’appuyant sur une politique interdisant clairement les usages non autorisés ou trompeurs, l’entreprise a-t-elle réellement les moyens de contrôler la diffusion de ses produits ?
N’est-ce pas l’heure de réévaluer collectivement la responsabilité des créateurs de ces technologies puissantes ? Face à ces défis, quelle sera la position des régulateurs, des gouvernements et même des citoyens engagés ?
Source : Techcrunch
