« La démocratie appliquée à l’IA, ça va être comme demander aux robots de passer leur temps à débattre plutôt qu’à conquérir le monde ! »
OpenAI a récemment annoncé le lancement d’un programme visant à attribuer dix subventions de 100 000 $ pour financer des expériences démocratiques visant à déterminer les règles que les systèmes d’IA devraient suivre – et ce, dans les limites définies par la loi.
Cette décision fait suite aux appels d’OpenAI en faveur d’un organe de réglementation international pour l’IA similaire à celui qui régit l’énergie nucléaire. Ses cofondateurs Sam Altman, Greg Brockman et Ilya Sutskever estiment que l’innovation en matière d’IA évolue si rapidement que les autorités actuelles sont incapables de réguler efficacement cette technologie.
OpenAI souhaite financer des expériences démocratiques pour les règles de l’IA.
Concrètement, OpenAI cherche à financer des individus, des équipes et des organisations pour développer des preuves de concept d’un « processus démocratique » capable de répondre aux questions sur les limites à imposer à l’IA. L’entreprise espère tirer des enseignements de ces expériences pour établir un processus plus mondial et plus ambitieux.
Grâce à ces subventions, fournies par l’organisation à but non lucratif d’OpenAI, la société espère établir un processus démocratique « largement représentatif », favorisant des discussions « réfléchies » et aboutissant à une prise de décision transparente. L’idée est de répondre à des questions telles que « Dans quelles conditions les systèmes d’IA devraient-ils condamner ou critiquer des personnalités publiques, compte tenu des différentes opinions sur ces personnes ? » et « Comment représenter les opinions controversées dans les résultats de l’IA ? ».
Cependant, il est difficile de croire que ce programme soit totalement indépendant des intérêts commerciaux d’OpenAI, d’autant plus que Sam Altman a récemment critiqué la régulation de l’IA proposée par l’Union européenne. Par ailleurs, il y a peu, ce dernier a témoigné devant le Comité sénatorial américain en plaidant pour un type de régulation de l’IA ayant un impact minimal sur les technologies d’OpenAI telles qu’elles existent aujourd’hui.
Quoi qu’il en soit, même si le programme s’avère finalement être un moyen de servir les intérêts d’OpenAI, il constitue une direction intéressante pour l’élaboration des politiques en matière d’IA. Il sera passionnant de voir quelles idées de « processus démocratiques » émergeront et quels candidats OpenAI choisira finalement.
Les candidatures au programme de subventions d’OpenAI sont ouvertes jusqu’au 24 juin à 21h PDT. Dix destinataires seront sélectionnés, qui devront présenter un concept impliquant au moins 500 participants, publier un rapport public sur leurs résultats d’ici au 20 octobre et partager le code source de leur travail.
Source : Techcrunch
