Quel est l’impact d’un modèle d’intelligence artificielle chinois intégré dans un produit américain tel qu’un lecteur électronique très populaire ? C’est la question que soulève aujourd’hui une situation étrange, illustrant comment des algorithmes développés en Chine peuvent involontairement véhiculer une propagande outre-Atlantique. Quels sont les enjeux et les risques liés à cette technologie mondialement utilisée ?
Boox, un concurrent du Kindle, a récemment été au cœur d’une controverse. La raison ? L’utilisation d’un modèle de langage chinois (LLM) créé par ByteDance, maison mère de TikTok, qui a intégré un assistant AI débordant de propagande. Les utilisateurs ont eu la surprise de constater que l’appareil répliquait des discours politiques émanant directement du gouvernement chinois. Pourquoi ces contenus se trouvent-ils dans une technologie censée être neutre et informative ?
Un porte-parole de ByteDance a clarifié que leur modèle, Doubao, fourni par la division de services cloud Volcano Engine, devait être utilisé strictement en Chine continentale. Cette explication ne semble pas suffire à dissiper l’inquiétude des utilisateurs occidentaux, déconcertés par l’absence de commentaires de la part du fabricant d’Onyx International, basé en Chine, qui commercialise ses e-readers à la fois en Chine et aux États-Unis. Comment se fait-il qu’un produit vendu à l’international continue d’héberger des outils si lourds de sens ?
La situation montre à quel point les outils d’IA génératifs chinois peuvent être problématiques en dehors de leurs frontières d’origine.
Les controverses sont allées encore plus loin lorsque l’AI de Boox a dénié l’existence de « massacres » comme celui de Tiananmen, et refusé de critiquer des pays comme la Corée du Nord ou la Russie, tenant des propos positifs sur ces nations tout en ne ménageant pas des critiques sur les pays occidentaux. Ce type d’information délivré par une intelligence artificielle soulève des inquiétudes : que faire lorsqu’une IA véhicule des messages dépendants d’un agenda politique particulier ? Doit-on s’interroger sur l’accessibilité de ces technologies et leur impact ?
L’incident a généré un vif émoi et une large couverture médiatique, amplifiée par des discussions sur Reddit et reprises par divers médias comme The Decoder. TechCrunch a d’ailleurs découvert que le même modèle Doubao, sollicité pour des questions similaires, produisait exactement le même type de réponses biaisées et conformes à la ligne du gouvernement chinois. Alors, quelles précautions doivent être prises pour éviter que de tels systèmes ne débordent hors de leur cadre initial et culturel ?
La réaction face à ces événements a entraîné, selon une nouvelle publication Reddit, un retour à la technologie GPT-3 d’OpenAI via Microsoft Azure. Il reste cependant incertain quel LLM est actuellement employé par Boox. Tandis que ByteDance indique qu’une utilisation incorrecte de Doubao est à l’origine de ce cafouillage, aucun commentaire n’a été offert par Microsoft ou OpenAI. Quelles leçons faut-il tirer, et quelles solutions envisager pour harmoniser l’usage de l’IA à l’international ?
Face à ces révélations, les interrogations s’intensifient sur la montée en puissance de la Chine dans le domaine des IA génératrices. Des voix s’élèvent pour avertir des dangers potentiels d’accueillir des modèles culturels divergents à travers ces technologies. Clément Delangue, PDG de HuggingFace, soulignait déjà en septembre 2024 que la suprématie de la Chine en matière d’IA pourrait introduire des éléments culturels non désirés dans le monde occidental. Le monde de demain sera-t-il façonné par les algorithmes développés sous des régimes politiques spécifiques, aux valeurs qui diffèrent de celles d’autres régions du globe ?
Source : Techcrunch
