Comment la désinformation s’infiltre-t-elle dans le monde académique avec l’essor de l’IA générative?
La semaine dernière, des professeurs ont découvert que des revues académiques sont inondées d’articles générés par IA. La désinformation prend-elle de nouvelles formes menaçantes? Sur Blog Retraction Watch, Tomasz Żuradzk et Leszek Wroński ont révélé que trois journaux publiés par Addleton Academic Publishers semblent être entièrement composés d’articles générés par IA. Est-ce la première fois que nous voyons cela dans le domaine académique?
Ces journaux partagent tous un même modèle rédactionnel, bourré de mots-clés comme « blockchain », « métavers », « internet des objets » et « apprentissage profond ». Pourquoi ces termes précis? De plus, les comités de rédaction de ces journaux comprennent des membres décédés, et l’adresse indiquée à New York semble être une simple maison. Comment une telle fraude peut-elle passer inaperçue?
Pourquoi est-ce si important? La normalisation de contenus générés par IA pourrait accroitre les manipulations dans l’évaluation des chercheurs pour les promotions et les embauches, montrant un précédent inquiétant pour le futur. Sur la plateforme d’évaluation CiteScore, ces journaux se classent parmi les dix meilleurs pour la recherche en philosophie grâce à des citations croisées massives.
« Les classements de qualité déterminent les prix, les embauches et les promotions académiques. » – Żuradzk et Wroński
Est-ce que CiteScore est le véritable problème? Si ce système d’évaluation est défaillant, quel est le rôle de l’IA générative dans cette perturbation? Il semble que l’IA bouleverse des systèmes sur lesquels reposent des carrières, et cela de manière inattendue et potentiellement destructrice.
Y a-t-il un futur où nous réinventons des systèmes comme CiteScore pour les rendre plus équitables et inclusifs? Le scénario le plus sombre serait de continuer sur cette voie où l’IA générative sème le chaos, ruinant des vies professionnelles. Alors, allons-nous rectifier le tir à temps?
Source : Techcrunch
