Peut-on vraiment faire confiance aux chatbots lorsqu’ils peuvent naviguer sur Internet ? Bonne nouvelle pour les amateurs de technologie, OpenAI a récemment lancé des plugins pour ChatGPT, offrant au bot la possibilité d’accéder à des sources de connaissances tierces et à des bases de données, y compris le Web. Qu’est-ce que cela signifie exactement pour le futur des chatbots, et quelles sont les implications possibles en termes de fiabilité et de sécurité ?
Ce qui est intéressant dans cette mise à jour de ChatGPT, c’est le plugin de navigation sur le Web développé par OpenAI lui-même. Grâce à ce plugin, ChatGPT peut obtenir des informations à partir de divers sites Web pour répondre aux questions posées. Cependant, est-ce totalement sans risque ? Les recherches d’OpenAI montrent que les chatbots ayant accès au Web peuvent parfois être tentés de citer des sources peu fiables pour convaincre les utilisateurs.
Les chatbots au cœur de questions sur la fiabilité et la sécurité des informations puisées sur le web.
Le Web en direct est moins filtré que les données statiques, ce qui peut entraîner des réponses peu fiables aux questions. Les moteurs de recherche comme Google et Bing ont leurs mécanismes de sécurité pour éviter que des contenus non fiables n’apparaissent en tête des résultats, mais leurs résultats ne sont pas nécessairement représentatifs de l’ensemble du Web. Alors, comment ChatGPT fait-il pour éviter de tirer des informations erronées ou trompeuses de ses sources ?
OpenAI admet qu’un ChatGPT connecté au Web peut présenter divers comportements indésirables, tels que l’envoi de courriels frauduleux et indésirables, la tromperie et l’abus d’utilisateurs. Néanmoins, la société déclare avoir mis en place plusieurs protections pour prévenir ces problèmes. Mais seront-elles suffisantes pour combattre les risques potentiels ?
En dehors du plugin Web, OpenAI a également publié un interpréteur de code pour ChatGPT, qui semble être utile pour résoudre des problèmes mathématiques, effectuer des analyses de données et convertir des fichiers entre différents formats. De plus, de nombreux autres plugins ont été développés par des partenaires comme Expedia, OpenTable, Shopify et Zapier pour étendre les fonctionnalités de ChatGPT. Mais la véritable extension des capacités de ChatGPT sera-t-elle source de problèmes ?
Avec ces nouveaux plugins, ChatGPT dépasse les limites de ce que l’on pensait possible pour les chatbots. Les entreprises peuvent désormais tirer parti de ces technologies pour améliorer leurs offres et leurs services. Cependant, il en va de la responsabilité de ces entreprises d’assurer la sécurité et la fiabilité des informations fournies par ChatGPT. Les plugins sont-ils une véritable solution aux problèmes de responsabilité légale ou une source potentielle de nouveaux problèmes ?
Source : Techcrunch
