Comment une entreprise aussi influente que Google peut-elle laisser échapper des erreurs aussi grossières dans ses réponses basées sur l’IA ? Liz Reid, Directrice de la Recherche chez Google, a récemment admis que le moteur de recherche de la société a renvoyé des résultats « bizarres, inexacts ou non pertinents » après avoir déployé leurs « Aperçus IA » à l’échelle nationale aux États-Unis.
Quelle est la véritable raison derrière ces ratés de l’IA ? Reid a tenté de justifier cela dans un article de blog, affirmant que certains des exemples les plus frappants, tels que les affirmations selon lesquelles il serait sûr de laisser des chiens dans les voitures, étaient des canulars. Elle ajoute que des réponses étranges, comme celle sur « combien de pierres devrais-je manger ? », sont apparues parce que des sites satiriques avaient traité ce sujet de façon humoristique.
Face à ces dérives, quelles mesures Google a-t-il mises en place ? Reid admet que l’Aperçu IA avait bien suggéré de coller du fromage sur une pizza avec de la colle, en se basant sur un contenu de forum. Elle souligne que bien que les forums puissent offrir des informations authentiques et de première main, ils peuvent aussi entraîner des conseils médiocres ou dangereux. Pourtant, les exemples médiatisés ne s’arrêtent pas là : selon The Washington Post, la technologie AI a également affirmé que Barack Obama était musulman et qu’il fallait boire beaucoup d’urine pour faire passer un calcul rénal.
Google ajuste son IA pour mieux détecter l’humour et les contenus satiriques.
Malgré des tests exhaustifs avant le lancement, Reid admet que rien ne vaut la véritable utilisation par des millions de personnes, ce qui a permis à Google de repérer des schémas où leur technologie échouait. En réponse, la société a mis en place des protections, notamment en ajustant son IA pour mieux détecter les contenus humoristiques ou satiriques. De plus, ils ont restreint l’utilisation des réponses générées par les utilisateurs dans les Aperçus, comme celles provenant des réseaux sociaux et des forums, afin d’éviter les conseils trompeurs ou dangereux.
Des restrictions ont également été ajoutées pour les requêtes où les Aperçus IA se sont avérés peu utiles, et Google a cessé de montrer des réponses générées par l’IA pour certains sujets de santé. Avec ces nouvelles mesures en place, peut-on espérer que Google sera à la hauteur des attentes de ses utilisateurs, ou verrons-nous encore des cas d’IA déraillant ?
Source : Engadget
