« Un grand pouvoir implique de grandes responsabilités » – Cette citation de l’oncle Ben prend tout son sens lorsqu’on parle de l’intelligence artificielle générative. Beaucoup y voient un outil formidable, mais gare aux surprises! L’entreprise suisse, Lakera, a justement levé 20 millions de dollars pour protéger ces génies virtuels des mauvais esprits. Menée par le fonds européen Atomico, cette ronde de financement est un coup de pouce inespéré.
Avec des applications comme ChatGPT qui font le buzz, l’IA générative a le vent en poupe. Cependant, en entreprise, les soucis de sécurité et de confidentialité des données refroidissent parfois les enthousiasmes. Imaginez demander à une IA de rédiger un poème et qu’elle vous livre en prime les secrets commerciaux de votre voisin – pas très discret!
Les modèles linguistiques à large échelle (LLMs) sont les cerveaux derrière ces IA et acceptent des directives, ou « prompts », pour générer du texte. Mais ces prompts peuvent être malhonnêtement tournés pour faire dérailler la machine. C’est là qu’intervient Lakera, spécialisée dans la protection contre ces fameuses « injections de prompts ».
Lakera s’attaque aux failles de sécurité des IA génératives avec brio.
Née à Zurich en 2021, Lakera n’a pas attendu pour se lancer dans l’arène. L’année dernière, elle a démarré avec une promesse alléchante: protéger les entreprises des fuites de données et d’injections de prompts. Que ce soit GPT-X d’OpenAI, Bard de Google ou LLaMA de Meta, Lakera répond présent.
Leur produit phare, Lakera Guard, se base sur une base de données enrichie grâce à des sources variées, y compris des jeux interactifs comme Gandalf. Ce jeu incite les utilisateurs à piéger le système, permettant à Lakera de raffiner ses défenses contre les attaques.
Le co-fondateur et PDG de Lakera, David Haber, explique que leur technologie apprend sans cesse des interactions pour mieux détecter les attaques malveillantes en temps réel. L’intégration de Lakera Guard garantit une couche de protection supplémentaire pour les entreprises.
Munie de ses nouveaux trésors financiers, Lakera vise à élargir sa présence mondiale, notamment aux États-Unis. Avec des clients prestigieux comme Respell et Cohere, la startup prouve que la sécurité reste une priorité pour tous, surtout dans un paysage technologique en perpétuelle évolution.
Entreprises, soyez rassurées : la garde est levée, et avec Lakera, vous pourrez dire adieu aux prompts farceurs. Après tout, rien ne vous protège mieux qu’une bonne dose de tech suisse pour gagner en sécurité! Alors, plus qu’à intégrer cette protection et, qui sait, peut-être transformer un prompt foireux en idée de génie.
Source : Techcrunch
