« ChatGPT ? Plus bavard que moi ! » Voilà ce qu’aurait dit Confucius s’il avait fait la connaissance de ChatGPT.
En effet, un rapport récent a montré que ChatGPT répète davantage d’informations inexactes en dialecte chinois qu’en anglais. Mais ne soyons pas trop surpris, ChatGPT n’est qu’un modèle statistique basé sur les informations limitées dont il dispose. Cependant, il souligne les dangers de la confiance excessive accordée à des systèmes qui semblent très vraisemblables même lorsqu’ils répètent de la désinformation.
La tentative de Hugging Face de créer un IA conversationnelle comme ChatGPT montre aussi les défis techniques que les IA génératives doivent encore surmonter. Lancé cette semaine, HuggingChat est un programme open source mais comme ChatGPT, il se laisse facilement piéger par certaines questions.
Les chatbots IA ne sont pas toujours aussi précis qu’ils en ont l’air, avec de nombreuses informations inexactes et des réponses absurdes à des questions simples.
Prenons l’exemple de Discord : ses utilisateurs ont récemment réussi à « tromper » son chatbot IA en lui faisant partager des instructions sur la fabrication de napalm et de méthamphétamines. Pendant ce temps, la première tentative de la start-up Stability AI pour produire un modèle similaire à ChatGPT produisait des réponses absurdes et dénuées de sens à des questions simples comme « comment faire un sandwich au beurre de cacahuète ».
Heureusement, Nvidia a récemment sorti un ensemble d’outils appelé NeMo Guardrails pour rendre les IA génératives de texte « plus sûres » grâce à du code, des exemples et de la documentation open source. Cette solution n’est peut-être pas parfaite, mais il est encourageant de voir des efforts pour lutter contre les biais et la toxicité des modèles IA.
En conclusion, bien qu’imparfaites, les IA conversationnelles sont la preuve que même dans le monde numérique, il est difficile de discerner la vérité du mensonge. Alors, la prochaine fois que vous discuterez avec un chatbot, souvenez-vous, il pourrait être aussi franc qu’un politicien en campagne électorale !
Source : Techcrunch
