« L’IA est à la technologie ce que l’eau est à la vie, essentielle…mais parfois mouvementée! » Vous voilà immergé dans le Lac start-upprochable où le poisson HiddenLayer nage à contre-courant. Luttez contre la bulle de savon fait partie du plan. Après tout, c’est l’IA qui prête parfois à confusion. HiddenLayer atteint un montant de financement de 50 millions de dollars, co-dirigé par M12 et Moore Strategic Ventures. Tout ça pour quoi? Pour extirper les attaques adversariales à bout de souffle de nos chers systèmes IA.
Rien ne pouvait ravir davantage le co-fondateur et CEO, Chris Sestito, qui s’attend à voir grandir le nombre d’employés de 50 à 90 d’ici la fin de l’année. Vous vous demandez « Où vont donc ces fonds? », Eh bien! Vers le soutien des efforts d’HiddenLayer pour partir à la conquête du marché, mais surtout une expansion de la recherche et du développement.
Rappelons que HiddenLayer se concentre sur la protection de l’IA contre les attaques adversariales. Etant donné le rythme rapide auquel nous adoptons l’IA, il ne sera guère surprenant que ces attaques soient devenues populaires. «Nous nous développons à une vitesse fulgurante, répondant ainsi aux demandes du marché pour notre plateforme de sécurité d’apprentissage machine, qui proviennent de diverses industries à travers le monde» déclare Sestito.
« Il semble que le marché de l’IA ressemble de plus en plus à une discothèque où les attaques adversaires dansent la Salsa. »
Pas de panique! Depourvue de tout accès aux modèles propriétaires de ses clients, HiddenLayer prétend utiliser des techniques qui observent uniquement les vecteurs – ou représentations mathématiques – des entrées vers les modèles et les sorties en résulter. Et aucun raton laveur ne peut soutirer un modèle d’IA gardé par HiddenLayer, prétend Sestito.
Il est difficile pour notre monde qui carbure à l’IA de repousser les tentatives de piratage, en supposant bien sûr que ces attaques sont bel et bien réelles. En effet, cela soulève de sérieuses préoccupations sur la sécurité de nos systèmes, alors qu’une récente étude de Forrester (commandée par HiddenLayer, alors prenez cela avec un grain de sel!) indique que la majorité des entreprises font face aux menaces contre leurs modèles d’IA grâce à des processus manuels.
Les cyber-menaces sur l’IA ne nuisent pas seulement à nos systèmes, mais elles menacent également la sécurité des informations confidentielles, génèrent des contenus offensants, et déclenchent des « conséquences imprévues ». Quoi de mieux pour finir cette soirée discothèque sur l’IA que cette citation de Sestito: «Le rythme effréné de l’adoption de l’IA a laissé de nombreuses organisations aux prises avec la mise en place de processus, de personnes et de contrôles pour se protéger contre les risques et les attaques inhérentes à l’apprentissage machine. Le risque de mettre en œuvre l’IA continue de croître… Nous grandissons rapidement pour répondre à la demande du marché pour notre plateforme, qui provient de toutes les industries à travers le globe.»
Source : Techcrunch
