Comment les géants de la technologie se préparent-ils à combattre la désinformation à l’ère de l’IA ? Avec les fraudeurs utilisant l’IA générative pour escroquer de l’argent ou ternir une réputation, des entreprises comme OpenAI innovent pour nous aider à démêler le vrai du faux, mais comment ?
Et que dire de cette nouvelle fonctionnalité annoncée dans leur stratégie de lutte contre la désinformation pour 2024 ? OpenAI inclut désormais des métadonnées de provenance dans les images générées par ChatGPT sur le Web et l’API DALL-E 3, une initiative visant à tracer l’origine des contenus. Comment ces métadonnées agissent-elles et quelle confiance pouvons-nous leur accorder ?
La méthode de vérification a beau paraître sophistiquée, elle est impuissante face aux images générées par IA qui ont été dépourvues de leurs métadonnées. Ne serait-ce donc qu’une solution partielle dans la guerre contre les fausses nouvelles ?
La vérifiabilité des images IA dépend de la préservation des métadonnées, une protection fragile dans notre monde numérique.
D’autres géants tech, comme DeepMind de Google avec SynthID et Meta avec ses filigranes invisibles, déploient également leurs propres technologies. Peuvent-ils surpasser la solution d’OpenAI ou au contraire, serons-nous témoins d’une course aux armements technologiques entre ces conglomérats ?
Ces initiatives sont-elles le début d’une nouvelle ère de l’authenticité numérique ou simplement une réponse temporaire à une menace en constante évolution ? Le futur de la vérification du contenu est-il en train de prendre forme ou n’est-ce qu’un pas de plus vers une complexité sans fin ?
Devant une innovation constante et une menace toujours renouvelée, la vraie question demeure : les utilisateurs seront-ils prêts à rechercher et à identifier ces signaux de véracité ou continueront-ils à naviguer dans un océan de contenu sans discernement ?
Source : Engadget
