« La technologie c’est comme une pizza, quand c’est bon, tout le monde est heureux, mais quand ça tourne mal, ça peut vraiment être indigeste. »
Deux anciens chercheurs d’OpenAI, Daniel Kokotajlo et William Saunders, qui ont quitté le navire cette année à cause de préoccupations sur la sécurité, sont revenus sur le devant de la scène. Ils sont peinés mais pas franchement surpris par la décision d’OpenAI de s’opposer au projet de loi californien SB 1047, censé prévenir les catastrophes liées à l’IA. Dans une course effrénée pour la domination, OpenAI semble ignorer les freins et contrepoids nécessaires pour éviter un potentiel naufrage technologique.
Les deux acolytes ont rappelé que Sam Altman, leur ancien capitaine, avait maintes fois réclamé une régulation de l’IA. Pourtant, lorsque la régulation débarque enfin, il semble avoir pris un virage à 180 degrés, s’opposant à la loi. Kokotajlo et Saunders, dans une lettre partagée avec Politico, incitent le Gouverneur de Californie, Gavin Newsom, à signer le projet de loi. Ils espèrent que, grâce à une régulation appropriée, OpenAI pourra encore accomplir sa mission de développer l’AGI (Intelligence Artificielle Générale) de manière sûre.
Quand la régulation se présente enfin, Sam Altman fait demi-tour comme un robot surchauffé.
De son côté, la rivale d’OpenAI, Anthropic, a soutenu l’initiative législative tout en exprimant des réserves spécifiques et en proposant des amendements. Certains de ces amendements ont été intégrés, et jeudi dernier, le PDG d’Anthropic, Dario Amodei, a écrit à Newsom pour signaler que les « avantages du projet de loi l’emportent probablement sur ses coûts », bien qu’il n’ait pas donné une approbation complète.
En résumé, la soupe à la grimace est servie chez OpenAI, tandis qu’Anthropic y voit une opportunité de rendre l’IA plus sûre, même si le chemin semble encore semé d’embûches. Les promesses de la régulation sont éblouissantes, mais entre discours et actions, il semble y avoir un gouffre techno-logique.
N’oublions jamais que réguler l’IA, c’est comme essayer de maîtriser un hurleur de Spaghetti-Monster : un picotement constant, sauf si vous avez le bon algorithme saucier.
Source : Techcrunch
