Le monde de l’intelligence artificielle s’apprête-t-il à franchir un cap décisif avec l’arrivée de la superintelligence ? OpenAI annonce la formation d’une équipe dédiée pour gérer les risques de cette IA hypothétique, plus intelligente que tout être humain. Dotée d’une pluridisciplinarité contrairement aux modèles de générations précédentes. Mais un tel projet est-il justifié ? Ne s’agit-il pas d’une dérive potentiellement inquiétante ?
Ce superintelligence, selon OpenAI, pourrait apparaître d’ici la fin de la décennie : une avancée majeure avec des impacts inédits. OpenAI estime que la superintelligence pourrait contribuer à résoudre de nombreux problèmes mondiaux. Mais ces promesses ne masquent-t-elles pas des dangers insoupçonnés ? En effet, l’organisation admet que le vaste pouvoir de cette superintelligence pourrait être très dangereux et même conduire à la disparition de l’humanité.
« Le véritable enjeu ne serait-il pas de garder le contrôle de cette superintelligence pour éviter un scénario catastrophe ? »
L’équipe nouvellement formée, co-dirigée par Ilya Sutskever, scientifique en chef chez OpenAI et Jan Leike, sera en charge de l’alignement de cette IA. OpenAI espère développer un chercheur d’alignement automatisé pour garantir la sécurité et l’alignement de cette superintelligence avec les valeurs humaines. Un tel objectif est-il réalisable, ou ne s’agit-il que d’une ambition démesurée ?
Alors que des gouvernements du monde entier s’interrogent sur la régulation de l’IA, Sam Altman, le PDG d’OpenAI, a rencontré au moins 100 législateurs fédéraux ces derniers mois. Mais est-ce qu’OpenAI ne détournerait-elle pas l’attention du public vers des risques hypothétiques pour éviter d’être régulée dès maintenant ? Il existe en effet des problèmes bien plus immédiats liés à l’IA que les gouvernements doivent résoudre aujourd’hui, et non demain.
En conclusion, la course à la superintelligence est réellement enclenchée et soulève des enjeux majeurs, tant en termes d’opportunités que de risques. Mais ne faut-t-il pas avant tout apprendre à maîtriser l’IA d’aujourd’hui avant de se lancer dans la conquête de celle de demain ?
Source : Engadget
