Les modèles d’IA atteindront-ils un jour un niveau de raisonnement humain ? Avec l’annonce par OpenAI de sa nouvelle famille de modèles de raisonnement, o3, nous sommes peut-être plus proches de la réponse que nous le pensons. Mais comment cette innovation s’inscrit-elle dans le paysage actuel de l’intelligence artificielle ?
Les modèles o3 d’OpenAI sont-ils vraiment aussi avancés que l’entreprise le prétend ? Selon OpenAI, les progrès de o3 par rapport aux anciens modèles, comme o1, proviennent en partie de l’augmentation des capacités de calcul durant les tests. Mais l’entreprise souligne également un nouveau paradigme de sécurité pour former sa série o : l’alignement délibératif.
Mais qu’est-ce que l’alignement délibératif ? OpenAI a récemment publié une recherche sur cette méthode qui permettrait de mieux aligner les modèles d’intelligence artificielle avec les valeurs humaines. L’alignement délibératif amène les modèles comme o1 et o3 à « penser » aux politiques de sécurité d’OpenAI lorsqu’ils répondent à une requête. Comment ce processus de réflexion influence-t-il réellement les réponses de l’IA ?
Le secret de l’amélioration réside dans l’alignement délibératif : un modèle qui pense à la sécurité.
Les critiques ne sont pas loin : alors que ces recherches visent à diminuer les réponses « dangereuses » de l’IA, elles soulèvent également des accusations de « censure ». Autrement dit, quelles sont les limites entre sécurité et restriction ? Est-il possible de développer un modèle qui puisse naviguer ces questions sans être taxé de biais ou de partialité ?
La notion de « raisonnement » des modèles ne serait-elle qu’un artifice ? Parfois décrits comme capables de raisonnements complexes, les modèles o1 et o3 ne font, en réalité, que prédire le prochain mot dans une phrase. Pourtant, leur capacité à re-formuler les questions et à décomposer les problèmes en étapes plus petites est intrigante.
Une question cruciale demeure : dans quelle mesure ces innovations permettent-elles réellement d’empêcher l’IA de fournir des informations dangereuses ? OpenAI affirme avoir entraîné ses modèles à éviter de répondre à des demandes potentiellement nuisibles. Mais cette capacité s’accompagne de défis techniques, notamment un calcul plus coûteux et une latence accrue.
Alors que le déploiement de o3 est prévu pour 2025, une question persiste : les efforts pour rendre l’IA conforme aux valeurs humaines pourront-ils réellement hisser la technologie vers une éthique infaillible, ou ces modèles resteront-ils des outils imparfaits sous la supervision humaine ?
Source : Techcrunch
