La régulation de l’intelligence artificielle (IA) est-elle vraiment nécessaire? Dans le domaine de l’IA, le développement rapide et les dangers potentiels sont évidents, comme le souligne l’équipe de direction d’OpenAI. Ils estiment que le monde a besoin d’un organisme de réglementation international similaire à celui qui régit l’énergie nucléaire, et cela rapidement. Mais pas trop rapidement.
Le fondateur d’OpenAI, Sam Altman, le président Greg Brockman et le scientifique en chef Ilya Sutskever ont expliqué dans un article de blog que l’innovation en matière d’IA est si rapide qu’on ne peut pas s’attendre à ce que les autorités existantes puissent réguler la technologie de manière adéquate. Mais quelle est la solution à ce problème ?
Il est évident que la technologie, notamment l’agent conversationnel ChatGPT d’OpenAI, très populaire, représente à la fois une menace unique et un atout inestimable. Alors, comment concilier les deux aspects?
Il est probable que nous aurons finalement besoin de quelque chose comme une [Agence internationale de l’énergie atomique] pour les efforts de superintelligence.
L’AIEA, qui est l’organe officiel des Nations Unies pour la coopération internationale sur les questions d’énergie nucléaire, pourrait servir de modèle pour la création d’un organisme de gouvernance de l’IA. Un tel organisme pourrait établir et suivre des normes et des accords internationaux, ce qui constituerait un point de départ.
L’article d’OpenAI mentionne que le suivi de la puissance de calcul et de l’utilisation de l’énergie consacrée à la recherche en IA pourrait être l’un des rares critères objectifs à suivre. Pourquoi ne pas surveiller et auditer les ressources dédiées à l’IA, comme d’autres industries ?
Timnit Gebru, chercheur et critique en IA de premier plan, a déclaré aujourd’hui dans une interview pour The Guardian : « À moins qu’il y ait une pression extérieure pour faire quelque chose de différent, les entreprises ne vont pas s’autoréguler. Nous avons besoin de réglementation et de quelque chose de mieux que seulement un motif de profit ».
OpenAI, en tant que leader sur le marché de l’IA, appelle à de véritables actions en matière de gouvernance au-delà des simples auditions. Cependant, malgré le soutien de la société à la création d’un mécanisme de surveillance publique, ils avouent ne pas encore savoir comment le concevoir. Alors, quelle sera la prochaine étape dans la régulation de l’IA?
Source : Techcrunch
