Qu’est-ce qui pousse un scientifique éminent à quitter une entreprise de renommée mondiale pour en créer une nouvelle ? Ilya Sutskever, co-fondateur d’OpenAI et ancien directeur scientifique, a surpris le monde de la tech en lançant Safe Superintelligence Inc. (SSI) seulement un mois après avoir formellement quitté OpenAI. Pourquoi cette décision soudaine?
Sutskever, aux côtés de l’ex-partenaire de Y Combinator, Daniel Gross, et de l’ex-ingénieur d’OpenAI, Daniel Levy, a jeté les bases d’une nouvelle entité avec une mission claire : créer une superintelligence sûre. Est-ce une réaction directe à son départ controversé d’OpenAI? En effet, Sutskever et Jan Leike, qui co-dirigeait l’équipe de Superalignment d’OpenAI, ont quitté l’entreprise en mai à la suite de désaccords majeurs avec la direction sur la manière d’aborder la sécurité de l’IA. Quelles étaient ces divergences précises qui ont mené à ce schisme?
Dans un blog post de 2023, Sutskever et Leike prévoyaient que l’IA superintelligente, supérieure à l’intelligence humaine, pourrait apparaître dans la décennie. Ils soulignaient qu’une telle IA ne serait pas nécessairement bienveillante, d’où l’importance cruciale de la recherche pour la contrôler. Est-ce ce sentiment d’urgence qui a motivé Sutskever à démarrer SSI? Dans un tweet récent, il a affirmé que la mission de SSI est de résoudre les problèmes techniques de la sécurité et des capacités de l’IA par des avancées scientifiques révolutionnaires.
Sutskever croit fermement que la course à la superintelligence doit avoir la sécurité comme priorité absolue.
À la différence d’OpenAI, SSI est conçu dès le départ comme une entité à but lucratif. Est-ce cette approche axée sur le profit qui rendra SSI plus effective ou plus vulnérable aux pressions commerciales? Daniel Gross a déclaré à Bloomberg que lever des fonds ne poserait aucun problème pour SSI, une affirmation audacieuse dans un domaine où les ressources sont souvent limitées. Cette confiance en soi est-elle justifiée, étant donné la concurrence féroce dans la course à la superintelligence?
Alors que SSI s’installe à Palo Alto et Tel Aviv, recrutant du talent technique, de nombreuses questions demeurent sans réponse. Quels seront les premiers projets de SSI et comment rivalisera-t-elle avec des géants établis comme OpenAI et Anthropic? Seul l’avenir nous le dira.
Finalement, la question essentielle est : comment SSI parviendra-t-elle à concilier sécurité et rapidité dans une course où chaque erreur pourrait être fatale?
Source : Techcrunch
