L’intelligence artificielle générative est-elle en train de séduire de plus en plus d’entreprises, malgré les obstacles et défis qu’elle présente ? Selon une enquête récente de KPMG, 90% des entreprises expriment des inquiétudes « modérées à très importantes » quant aux risques de l’IA générative et doutent de leur capacité à atténuer ces risques. Alors, comment ces entreprises abordent-elles cette problématique ?
C’est pour répondre à ces problématiques que Neil Serebryany a fondé CalypsoAI, une start-up qui développe des logiciels pour tester, valider et surveiller les applications IA internes ainsi que celles de tiers avant leur déploiement. Mais, est-ce que leurs solutions sont-elles suffisamment fiables et sécurisées pour emporter la confiance des investisseurs ?
CalypsoAI vise à offrir la puissance et l’avantage concurrentiel de l’IA dans un cadre sûr, sécurisé et fiable.
Il semble que oui. La startup a annoncé avoir levé 23 millions de dollars lors d’un tour de série A-1 mené par Paladin Capital Group, avec la participation de Lockheed Martin Ventures, Hakluyt Capital et Expeditions Fund. Est-ce le signe de la capacité de CalypsoAI à respecter ses promesses ambitieuses ?
CalypsoAI prétend que ses outils permettent aux entreprises de surveiller et de modeler l’utilisation de grands modèles linguistiques tels que ChatGPT via des tableaux de bord qui affichent des statistiques relatives à la toxicité des modèles, à l’engagement des utilisateurs, etc. Les entreprises peuvent donc bénéficier des avantages de l’IA générative sans craindre de cyberattaques. Mais ces affirmations sont-elles vérifiables et les entreprises sont-elles vraiment prêtes à adopter ces solutions ?
L’industrie semble s’être levée pour répondre à la demande. Microsoft propose l’Azure OpenAI Service, qui offre des capacités de gouvernance et de conformité sur les modèles d’IA générative d’OpenAI, dont ChatGPT. Ailleurs, Salesforce a récemment lancé l’Einstein Trust Layer, qui tente d’empêcher les modèles générant du texte de retenir des données sensibles. Mais ces garde-fous fonctionnent-ils vraiment en pratique ?
Serebryany insiste sur le fait que les produits de CalypsoAI sont robustes face aux attaques et révèle que CalypsoAI ne détient aucune donnée de ses clients, ne facilitant que le flux d’informations des employés vers le modèle de choix de l’entreprise. Avec cette nouvelle levée de fonds, la startup prévoit d’accélérer le développement de ses produits, le recrutement et ses initiatives de mise sur le marché. Mais ces efforts suffiront-ils pour asseoir la position de CalypsoAI parmi les leaders du secteur ?
Alors, face à tous ces défis et enjeux, les entreprises vont-elles continuer à adopter l’IA générative ? Il reste à voir comment le secteur va évoluer, comment les entreprises vont surmonter ces obstacles et quels seront les prochains développement de solutions telles que celle proposée par CalypsoAI. Mais la question que tous se posent est : l’IA générative est-elle vraiment l’avenir des entreprises malgré tous ses défis ?
Source : Techcrunch
