Comme disait un jour un grand philosophe de l’informatique : « Quelque soit le problème, ajouter une couche d’intelligence artificielle dessus le rendra certainement pire. » Après des années à observer les grands acteurs de l’intelligence artificielle tels que Google, Microsoft et OpenAI, je commence malheureusement à voir une vérité dans cette boutade.
Prenons par exemple, le modèle de la ‘boîte noire’ adoptée par ces entreprises. Dans cette structure, une question est mise à un bout, une réponse est crachée de l’autre, sans aucune idée de la data ou du raisonnement utilisé par l’IA. Ceux d’entre vous qui ont passé du temps à résoudre des problèmes de maths dans votre enfance comprennent, comme moi, que ce n’est pas de cette façon qu’on résout un problème.
« D’accord avec le résultat, mais comment l’IA y est-elle parvenue ? »
Le problème ici est que ces systèmes IA fonctionnent sur des « réseaux neuronaux » vieux de plusieurs décennies. En réalité, ces modèles sont de simples représentations résumées des énormes quantités de données sur lesquelles ils ont été formés. C’est un peu comme si je décidais de prendre une décision importante basée sur les 3 dernières nouvelles que j’ai lues sur Twitter – cela ne va certainement pas bien se passer.
Inévitablement, avec ce système, l’IA finit par « halluciner » (et je ne parle pas du genre d’hallucination sympathique que l’on obtient après une soirée trop arrosée). Comme les IA boîte noire ne peuvent pas être directement liées à leurs données de formation, elles infèrent et extrapolent en fonction de ce qu’elles pensent être la réponse la plus probable, et non des données réelles. C’est un peu comme essayer de deviner le repas que votre conjoint(e) veut pour le dîner, basé sur votre connaissance de ses repas préférés, au lieu de simplement lui demander.
Qu’est-ce que nous faisons alors? Heureusement, un autre cadre pour l’IA commence à sortir de l’ombre : l’apprentissage basé sur les instances (IBL). IBL est l’IA que les utilisateurs peuvent auditer, expliquer et, surtout, faire confiance. IBL retrace chaque décision prise à la donnée de formation utilisée pour arriver à cette conclusion. En d’autres termes, il « montre son travail ».
Imaginez que vous décidiez de tout mémoriser pour votre prochain quiz de trivial pursuit, c’est un peu de cela dont il s’agit. IBL stocke toutes les données de formation (« instances ») en mémoire et fait des prédictions sur de nouvelles instances en fonction de leur relation spatiale avec les instances existantes. Ce modèle peut nous permettre d’utiliser l’IA d’une manière qui respecte les normes de conformité et de réglementation, tout en restant transparent.
Alors la prochaine fois que vous vous trouvez face à une décision prises par une IA, demandez-vous, cela a-t-il du sens ou est-ce une autre hallucination de la boîte noire? Dans tous les cas, rappelons-nous toujours qu’entre les mains d’un utilisateur mal informé, même l’IA la plus évoluée n’est rien de plus qu’une boîte très intelligente de bêtises.
Source : Techcrunch
