Comment une entreprise peut-elle réinventer l’accès à l’intelligence artificielle générative tout en gardant le contrôle sur ses données ? OctoAI, anciennement connu sous le nom d’OctoML, semble avoir trouvé une réponse à cette question en annonçant OctoStack, sa nouvelle solution complète pour déployer des modèles d’IA générative dans le cloud privé d’une entreprise. Est-ce le début d’une nouvelle ère pour l’IA dans les espaces privés ?
Au départ, le focus d’OctoAI était principalement axé sur l’optimisation des modèles pour leur fonctionnement plus efficace. Basée sur le cadre de travail de compilateur machine learning Apache TVM, l’entreprise a ensuite élargi son offre à une plateforme de service complet associant son expertise en optimisation avec une plateforme DevOps. Mais quelle différence cela fait-il réellement avec l’arrivée de l’IA générative ?
OctoStack transforme OctoAI en une plateforme managée mais pour des déploiements privés.
Le PDG et cofondateur d’OctoAI, Luis Ceze, a révélé que la plateforme compte plus de 25,000 développeurs et des centaines de clients payants utilisant ses services en production. Avec un marché des entreprises traditionnelles désireux d’adopter l’IA générative grandissant, n’est-il pas surprenant qu’OctoAI vise maintenant aussi ce segment avec OctoStack ?
Ceze a souligné que les entreprises expriment une nette préférence pour un contrôle accru lors du déploiement de l’IA, en partie en raison de la réticence à envoyer des données via une API, et en outre, beaucoup disposent déjà de leurs propres ressources informatiques. Comment OctoAI compte-t-il surmonter ces défis avec OctoStack, tout en capitalisant sur ses forces en matière d’optimisation?
OctoStack promet d’être simple à déployer pour la plupart des entreprises, offrant des conteneurs prêts à l’emploi et leurs graphiques Helm associés. Mais permettra-t-il réellement d’unifier l’expérience développeur, que l’objectif soit le produit SaaS d’OctoAI ou une déploie dans le cloud privé d’une entreprise ?
Des cas d’utilisation comme la summarisation de texte et RAG permettrait aux entreprises de permettre à leurs utilisateurs de dialoguer avec leurs documents internes, mais le faire dans un environnement sécurisé et contrôlé est-il ce qui convaincra les entreprises de franchir le pas vers la mise en production pour leurs employés et clients ?
Pour Dalí Kaafar, fondateur et PDG d’Apate AI, la flexibilité, l’échelle, et la sécurité que OctoStack promet sont cruciales pour des cas d’utilisation sensibles à la performance et à la sécurité. Mais cette nouvelle solution sera-t-elle à la hauteur des promesses d’efficacité, de personnalisation et de mise à l’échelle pour les clients ?
Source : Techcrunch
