« Si vous pensez que la technologie peut résoudre tous vos problèmes, alors vous n’avez probablement pas compris les problèmes… ni la technologie ! » – Un penseur anonyme du 21ème siècle, probablement.

Imaginez-vous au beau milieu d’une réunion virtuelle où votre assistante AI convoque joyeusement des participants imaginaires et rédige un compte-rendu sur une utopie financière qui n’a jamais été discutée. Bienvenue dans le monde fascinant des hallucinations AI, un problème sérieux pour les entreprises désirant digitaliser leurs pantoufles d’entreprise à l’aide de cette technologie.

Construites sur des châteaux de sable, ces IA, n’ayant rien d’intelligent sauf le nom, prédisent parfois des mots, des images, voire des symphonies entières basées sur des shémas privés tout droit sortis de leur imagination débordante. L’exemple d’un AI de Microsoft inventant des participants à une réunion a de quoi faire sourire… ou frissonner.

La technologie RAG vise à limiter les hallucinations de l’IA, mais le chemin est encore long.

Il est question aujourd’hui d’une approche technique baptisée génération augmentée par récupération (RAG), promise par certains fournisseurs d’IA générateurs comme l’étoile du nord menant au royaume de la précision absolue. Ce système implique que chaque morceau d’information généré par l’IA puisse être tracé jusqu’à une source fiable. Pourtant, sous ce vernis d’infaillibilité se cache une réalité plus nuancée.

Exploré par Patrick Lewis, un chercheur à Meta et à l’University College London, RAG nous propose de récupérer des documents pouvant être pertinents pour une question donnée – pensez à la page Wikipédia de la Super Bowl si vous vous interrogez sur le dernier vainqueur – pour ensuite demander à l’IA de générer des réponses en tenant compte de ce contexte additionnel. L’idée semble brillante, sauf quand ça ne l’est pas.

La méthode RAG, aussi géniale soit-elle, ne peut empêcher une IA de partir en croisade imaginaire. Elle se heurte à des limitations, notamment sur des tâches demandant plus de réflexion que de mémorisation. Vouloir trouver la poule aux œufs d’or dans un tas de données ressemble parfois plus à une chasse au trésor sans carte ni boussole.

De surcroît, même pour des questions basiques, nos chers modèles peuvent se laisser distraire par le contenu flamboyant mais inutile de certains documents, ou pire, décider de les ignorer royalement. Ajoutez à cela le coût matériel de cette charmante aventure et vous obtenez une fête qui pourrait coûter cher en soufflés électroniques.

En somme, si RAG est un baume sur les hallucinations de nos IA, il ne faut pas encore chanter victoire. Les efforts continuent pour affiner cette technologie, et peut-être qu’un jour, les AI seront aussi fiables que nos vieilles encyclopédies poussiéreuses. D’ici là, prenez les promesses d’absence d’hallucinations avec un grain de sel… ou un shaker entier!