« En matière de technologie, mieux vaut tard que jamais… Mais parfois, c’est juste tard. » La semaine dernière, Meta a lancé la phase de test de son chatbot IA en Inde sur WhatsApp, Instagram et Messenger. Cependant, avec le début des élections générales indiennes aujourd’hui, l’entreprise bloque déjà certaines requêtes spécifiques dans son chatbot.
L’entreprise a confirmé qu’elle restreint certains mots-clés liés aux élections pour l’IA pendant la phase de test. Elle a également mentionné travailler à l’amélioration du système de réponse de l’IA.
«Cette technologie est nouvelle, et il se peut qu’elle ne fournisse pas toujours la réponse attendue, ce qui est le cas pour tous les systèmes d’IA générative. Depuis son lancement, nous avons constamment publié des mises à jour et améliorations de nos modèles, et nous continuons à travailler pour les rendre meilleurs», a déclaré un porte-parole de l’entreprise à TechCrunch.
Meta joue la prudence avec son chatbot IA en période électorale.
Meta devient ainsi la dernière grande entreprise technologique à limiter proactivement la portée de ses services d’IA générative à l’approche d’une grande série d’élections.
Une grande préoccupation des critiques est que l’IA générative pourrait fournir des informations trompeuses ou carrément fausses aux utilisateurs, jouant un rôle illégal et indésirable dans le processus démocratique.
Le mois dernier, Google a commencé à bloquer les requêtes liées aux élections dans son expérience de chatbot Gemini en Inde et dans d’autres marchés où des élections ont lieu cette année.
L’approche de Meta suit un effort plus large de l’entreprise annoncé concernant ce qu’elle autorise ou non sur sa plateforme à l’approche des élections. Elle s’est engagée à bloquer les publicités politiques durant la semaine précédant une élection dans n’importe quel pays et travaille à identifier et révéler quand les images dans les publicités ou d’autres contenus ont été créées par IA.
Le traitement des requêtes par l’IA de Meta semble être basé sur une liste de blocage. Lorsque vous interrogez l’IA de Meta sur des politiciens spécifiques, des candidats, des titulaires de mandats et certains autres termes, elle vous redirige vers le site web de la Commission électorale.
« Cette question peut concerner une figure politique durant les élections générales. Veuillez vous référer au lien https://elections24.eci.gov.in, » dit la réponse.
Toutefois, tout comme d’autres systèmes alimentés par l’IA, l’IA de Meta a quelques incohérences. Par exemple, lorsque TechCrunch a demandé des informations sur « l’Alliance Indi » – une alliance politique de plusieurs partis luttant contre le parti au pouvoir Bharatiya Janata Party (BJP) – elle a répondu avec des informations contenant le nom d’un politicien. Cependant, quand nous avons posé une question sur ce politicien dans une requête séparée, le chatbot n’a fourni aucune information.
Cette semaine, l’entreprise a déployé un nouveau chatbot IA alimenté par Llama-3 dans plus d’une douzaine de pays, y compris les États-Unis, mais l’Inde était absente de la liste. Meta a indiqué que le chatbot serait en phase de test dans le pays pour le moment.
« Nous continuons à apprendre de nos tests utilisateurs en Inde. Comme nous le faisons pour bon nombre de nos produits et fonctionnalités IA, nous les testons publiquement dans différentes phases et de manière limitée, » a déclaré un porte-parole de l’entreprise à TechCrunch dans un communiqué.
À l’heure actuelle, Meta AI ne bloque pas les requêtes sur les élections pour les termes liés aux États-Unis, tels que « Parlez-moi de Joe Biden ». Nous avons demandé à Meta si l’entreprise prévoyait de restreindre ces requêtes pour les élections américaines ou d’autres marchés. Nous mettrons à jour l’histoire si nous recevons une réponse.
Source : Techcrunch
