Quels sont les limites éthiques et juridiques dans l’utilisation des technologies de l’intelligence artificielle en politique? OpenAI vient de suspendre un développeur ayant créé Dean.Bot, un chatbot alimenté par ChatGPT qui imitait le candidat démocrate Dean Phillips. Ce chatbot a été développé par la startup Delphi pour le super PAC We Deserve Better, selon The Washington Post. Mais, cette utilisation va-t-elle à l’encontre de la politique d’OpenAI?
Dean.Bot ne prétendait pas directement être Phillips lui-même ; en effet, avant de converser, un avertissement était affiché pour clarifier que l’interlocuteur était un chatbot. Pourtant, cette pratique est-elle transparente pour les utilisateurs et respectueuse de la réglementation d’OpenAI? Peut-être pas, si l’on en croit la récente publication d’OpenAI qui met en lumière les mesures prises contre l’abus de sa technologie, en particulier en ce qui concerne les « chatbots qui imitent les candidats ».
La politique d’OpenAI interdit explicitement l’utilisation de ses applications pour le lobbying politique.
OpenAI a également souligné qu’il n’autorise pas les gens à construire des applications pour des campagnes politiques et le lobbying. Est-ce que le cas de Dean.Bot montre une zone grise dans l’application de cette politique, ou est-ce un manquement clair et net aux règles établies par la compagnie? D’après une autre article de The Washington Post, l’intention derrière Dean.Bot était d’engager des électeurs potentiels et de propager le message du candidat. Est-ce une tentative honorable d’innovation ou une transgression des principes éthiques dans l’utilisation de la technologie ?
Ironiquement, est-ce que l’arrêt de Dean.Bot, après l’intervention d’OpenAI, reflète une attitude proactive de la part de la firme pour garder le contrôle de ses créations, ou est-ce plutôt un aveu que les technologies IA peuvent échapper à la vigilance de leurs créateurs? Maintenant, si on visite le site de Dean.Bot, un message indique que le chatbot est indisponible à cause de « difficultés techniques ». Travailleraient-ils à une version conforme aux directives d’OpenAI ou est-ce la fin de l’expérience Dean.Bot? Engadget a contacté OpenAI pour obtenir plus d’informations.
Source : Engadget
