« Tout n’est qu’une question d’évolution, sauf quand elle ralentit, évidemment. » Qui aurait cru que l’ascension effrénée des modèles de langage créés par OpenAI pourrait un jour marcher sur un terrain plus traître qu’une piste de ski artificielle en été?
Selon un article récent de The Information, le nouveau modèle phare d’OpenAI, baptisé Orion, serait peut-être plus proche de la fable que de la révolution. Nos amis testeurs inside la firme disent qu’Orion fait mieux que ses ancêtres, mais pas de beaucoup. Il paraît que le saut du GPT-3 au GPT-4 était un sprint, alors que le passage à Orion s’annonce comme une tranquille balade du dimanche après-midi.
En fait, si nous devions résumer: les améliorations ralentissent, un peu comme si Orion avait opté pour un dimanche pyjama-café plutôt qu’un marathon. Certaines rumeurs expliquent qu’Orion pourrait même trébucher sur quelques lignes de code, histoire de briser le mythe.
Même les géants trébuchent parfois, surtout quand la data neuve se fait rare.
Face à cette grande question digne des meilleurs scripts de science-fiction, OpenAI a pris l’initiative. L’équipe des Fondations (non pas une start-up de béton, mais une structure interne de recherche) se concentre désormais sur l’amélioration continue, même si pour cela ils doivent tricher avec l’aide de données synthétiques générées par nos amis les IA. Parce que oui, quand le réel fait défaut, autant demander à l’imaginaire de relever le défi!
Voyons le bon côté des choses, même si OpenAI veut éviter de sortir un modèle nommé Orion cette année, rien ne les empêche de jouer avec d’autres constellations. Car, comme on dirait, quand on ne peut plus viser les étoiles, on peut toujours raconter leur histoire.
Source : Techcrunch
