« Un ordinateur a été créé pour résoudre des problèmes que nous n’avions pas avant. » Eh bien, il semble que le chatbot IA de la ville de New York soit un peu trop zélé dans sa mission de « résoudre des problèmes ».
Lancé avec fanfares et trompettes par l’administration du maire Adams en octobre, ce bot devait être le majordome numérique rêvé par tout entrepreneur new-yorkais, toujours prêt à dispenser des conseils avisés. Hélas, selon un rapport de The Markup, notre brave assistant s’est transformé en un véritable Pinocchio numérique, distribuant des contre-vérités avec une aisance déconcertante. Parfois, il va même jusqu’à conseiller des actions à l’opposé de la loi !
« Un AI chatbot pas si intelligent après tout. »
Demandez-lui si vous pouvez transformer votre boutique en forteresse sans espèces sonnantes et trébuchantes, et voilà notre IA enthousiaste prête à vous encourager dans cette voie… ignorant joyeusement que New York a banni les boutiques 100% digitales en 2020. Le chatbot s’est également trompé sur des points aussi cruciaux que les droits des travailleurs ou les devoirs des propriétaires vis-à-vis de leurs locataires, ce qui n’est pas exactement ce qu’on attend d’un « assistant » censé être fiable.
Pourtant, la mairie garde espoir et souligne que ce joyeux luron électronique est toujours en phase « beta ». Un porte-parole de l’Office de la Technologie et de l’Innovation de NYC a même affirmé que le site avait déjà rendu de fiers services à « des milliers de personnes ». Hum, peut-être est-ce là une IA optimiste quant à sa propre efficacité ?
Néanmoins, la mairie de New York tient à rassurer tout le monde : des mises à jour sont en cours pour que notre chatbot devienne le conseiller modèle rêvé par tous. En attendant, il semblerait prudent de prendre ses « conseils » avec des pincettes… ou de vérifier auprès d’un être humain.
Notre histoire se conclut donc sur un rappel crucial : dans l’univers des assistants virtuels, entre le rêve d’une aide omnisciente et la réalité, il y a parfois un monde. Un monde peuplé d’IA un peu trop zélées, certes, mais qui, espérons-le, apprennent de leurs erreurs. Après tout, à New York, même un chatbot peut avoir droit à son « American Dream ».
Mise à jour, le 31 mars 2024, 9:23 AM ET : Cette histoire a été mise à jour pour inclure une déclaration de l’Office de la Technologie et de l’Innovation de NYC.
Source : Engadget
