« Pourquoi se contenter d’être un mouton quand on peut être un loup dans le monde de l’IA ? »
Jan Leike, un chercheur de pointe dans le domaine de l’IA, a récemment quitté OpenAI avec fracas pour rejoindre Anthropic, un concurrent d’OpenAI, afin de diriger une équipe de « superalignment ». La mission? S’assurer que les intelligences artificielles ne se transforment pas en Terminators. Rien que ça!
Sur X (anciennement connu sous le nom de Twitter), Leike a annoncé que son équipe chez Anthropic se concentrera sur la supervision évolutive, la généralisation faible-à-forte, et la recherche d’alignement automatisé. On dirait presque une recette gastronomique, mais plus savoureuse pour les geeks! Si cela vous parle, ses DM sont ouverts pour toute candidature.
Le but ultime? Prévenir toute apocalypse technologique en gardant nos IA sur le droit chemin.
D’après une source bien placée, Leike relèvera directement de Jared Kaplan, le directeur scientifique d’Anthropic, et les chercheurs actuellement en poste sur la supervision évolutive lui rapporteront à mesure que sa nouvelle équipe se mettra en place. On pourrait presque dire que c’est une véritable partie de chaises musicales autour de l’IA.
Il est intéressant de noter que la mission de l’équipe de Leike chez Anthropic ressemble beaucoup à celle de l’équipe Superalignment d’OpenAI, récemment dissoute. Cette dernière, co-dirigée par Leike, visait à résoudre les défis techniques pour contrôler l’IA superintelligente dans les quatre ans à venir, mais s’est souvent retrouvée freinée par la direction d’OpenAI. Chez Anthropic, la sécurité semble être une priorité de tous les instants.
Anthropic essaye depuis longtemps de se présenter comme étant plus axé sur la sécurité comparé à OpenAI. Dario Amodei, le PDG d’Anthropic, avait quitté OpenAI en raison de désaccords sur la direction commerciale de la société, emmenant avec lui un bataillon d’anciens employés d’OpenAI, notamment Jack Clark, l’ancien responsable des politiques.
En fin de compte, ce jeu de chaises musicales entre ces deux géants de l’IA prouve bien que dans le monde de l’intelligence artificielle, il faut savoir s’aligner correctement. Autrement, on risque de sortir de la route et de de finir comme un bot en panne.
Source : Techcrunch
