La technologie IA devient-elle trop puissante pour notre propre bien? La récente mise à jour de la fonctionnalité génératrice d’images de ChatGPT soulève de nouvelles problématiques dans le monde numérique. Alors que cette avancée permet de mieux intégrer du texte dans les images, quelles en sont les répercussions possibles dans le quotidien?
En effet, certains utilisateurs commencent déjà à exploiter cette fonction pour fabriquer de faux tickets de restaurant. Ces faux documents pourraient alimenter les outils déjà nombreux de deepfakes utilisés par les escrocs pour divers types de fraudes. Cette évolution technologique sonne-t-elle la fin d’une ère où la vérification par images de « preuves » était encore fiable?
Sur les réseaux sociaux, des individus comme le capital-risqueur Deedy Das montrent comment il est possible de créer une fausse note d’un restaurant de San Francisco à l’aide de ChatGPT 4o. D’autres ont rapidement pu obtenir des résultats similaires, ajoutant même des détails comme des taches simili-réelles de nourriture ou de boisson, pour rendre ces reçus plus authentiques. Ce scenario incite-t-il des acteurs malveillants à s’en emparer pour réclamer le remboursement de dépenses fictives?
Où se situe la limite entre innovation et eaux troubles de l’éthique numérique?
En France, un utilisateur de LinkedIn a partagé un faux reçu froissé généré par IA d’une chaîne de restaurants locale, illustrant à quel point ces documents artificiels pourraient tromper l’œil le moins averti. Même TechCrunch a testé 4o et réalisé un faux reçu pour un Applebee’s à San Francisco, bien que des indices comme l’utilisation de virgules au lieu de points marquaient le fake d’emblée. Est-ce un avertissement sur les potentielles dérives de l’IA ou simplement une faille à combler?
OpenAI, conscient de ces dangers, affirme que toutes les images générées incluent des métadonnées qui indiquent leur origine. L’entreprise annonce également qu’elle réagit lorsque ses politiques d’utilisation sont violées, s’appuyant sur des feedbacks du terrain pour s’améliorer. Mais, est-ce vraiment suffisant quand vient le moment de s’interroger sur les limites créatives à ne pas franchir?
En réponse à cette problématique, OpenAI justifie que sa technologie peut être utilisée pour enseigner, stimuler la créativité, et même promouvoir l’art. La liberté créative est présentée comme une priorité malgré les risques d’utilisation frauduleuse. Alors, faisons-nous le choix de glorifier la créativité au détriment de l’éthique?
En fin de compte, l’émergence de ces outils IA pose une question cruciale: dans quelle direction irons-nous, et quelles limites devrons-nous fixer pour ne pas transformer les avancées technologiques en armes de destruction? Jusqu’où ira-t-on pour réconcilier innovation et éthique?
Source : Techcrunch
