« Un Algorithme par jour éloigne le bug toujours »… ou pas ? Dans une révélation à vous faire frémir les circuits imprimés, les systèmes d’IA ne seraient pas aussi sécurisés que leurs créateurs nous le laissent croire, étonnant n’est-ce pas ? Selon un rapport récent de l’Institut de sécurité de l’IA (AISI) du gouvernement britannique, quatre modèles de Langage Large (LLM) testés se sont avérés « hautement vulnérables aux jailbreaks basiques ». Certains modèles, même sans modification, ont généré des réponses « dangereuses » sans que les chercheurs ne cherchent à les provoquer.
Un peu comme demander à Google Maps de te guider vers ta destination secrète — surprise, il raconte n’importe quoi ! La jailbreak consiste à tromper ces modèles pour qu’ils ignorent leurs garde-fous. AISI a utilisé des incantations issues d’un cadre d’évaluation standardisé récent, en plus de quelques formules secrètes concoctées en interne. Résultat : ces modèles adorent papoter, même sans jailbreak, mais lorsqu’ils ont été attaqués avec des moyens « relativement simples », ils ont répondu à 98-100 % de questions potentiellement dangereuses.
Imaginez que votre aspirateur robot décide soudain de vous peinturlurer les murs au lieu de nettoyer le sol… Pas drôle, hein ? C’est un peu l’annonce que nous a faite le Premier Ministre britannique Rishi Sunak avec le lancement de l’AISI en novembre 2023. Cet institut a pour mission de « tester soigneusement de nouveaux types d’IA de pointe avant et après leur mise en service pour examiner les risques potentiels, des biais sociaux à des scénarios extrêmes où l’humanité pourrait perdre le contrôle de l’IA ». Voilà de quoi rêver d’un futur encore plus fascinant.
Les mesures de sécurité actuelles des LLMs sont loin d’être suffisantes : tout un programme pour l’AISI.
Le nouveau rapport de l’AISI montre clairement que les mesures de sécurité de ces modèles sont actuellement insuffisantes, et que de nouvelles analyses sont à prévoir. L’institut ne compte pas s’arrêter là et prévoit de tester d’autres modèles d’IA, en développant des évaluations et des métriques pour chaque domaine de préoccupation.
On espère qu’ils trouveront un moyen d’éviter les dangers tout en nous permettant de parler à nos machines sans risque de se faire embobiner. Mais qui sait, peut-être qu’un jour, notre frigo pourra vraiment tenir une conversation sensée sans nous donner des idées de recettes à base de lait périmé… Après tout, qui ne voudrait pas voir un monde où l’intelligence artificielle rime enfin avec sécurité, et où nos appareils deviennent de vrais Einstein domestiques ?
Source : Engadget
