Comment pouvons-nous pousser une intelligence artificielle à répondre à une question qu’elle n’est pas censée aborder? Une nouvelle technique de «jailbreak» découle des travaux des chercheurs de chez Anthropic, qui ont mis en lumière une méthode permettant de contourner les limitations imposées à ces systèmes. Est-ce que demander une succession de questions moins nuisibles pourrait réellement amener une AI à nous révéler comment fabriquer une bombe?
Cette stratégie porte le nom de «many-shot jailbreaking». Les professionnels d’Anthropic l’ont non seulement documentée dans un rapport, mais ils ont aussi alerté la communauté de l’IA afin de trouver ensemble des solutions pour pallier cette vulnérabilité. Mais quelle est au juste cette vulnérabilité exploitée par le «many-shot jailbreaking»?
Elle résulte directement de l’élargissement du «fenêtre de contexte» des modèles linguistiques de dernière génération. Ces intelligences artificielles, capables auparavant de retenir seulement quelques phrases, peuvent maintenant mémoriser des milliers de mots, voire des livres entiers. Cet aspect les rend plus performants sur diverses tâches, mais ouvre-t-il également la porte à des utilisations malveillantes?
Peut-on réellement apprendre à une IA à surmonter ses propres garde-fous?
Il s’avère que oui, d’après l’étude d’Anthropic. En introduisant une vaste quantité d’exemples d’une tâche spécifique dans le prompt, les modèles affichent une meilleure performance. Si, par exemple, un grand nombre de questions de trivia sont posées, la précision des réponses s’améliore avec le temps. Et si cette technique peut être manipulée pour obtenir des réponses à des questions, disons, moins innocentes?
L’équipe Anthropic a révélé ce mode opératoire, espérant ainsi encourager un échange ouvert sur de telles vulnérabilités entre les fournisseurs et chercheurs en IA. Mais comment prévenir efficacement de telles dérives sans compromettre la performance du modèle?
La réduction de la fenêtre de contexte semble aider, mais diminue également la capacité du modèle à accomplir ses tâches de manière optimale. Actuellement, la solution envisagée consiste à classer et contextualiser les requêtes avant de les soumettre au modèle. Néanmoins, cette lutte contre l’utilisation malveillante des IA semble loin d’être terminée. Où placerons-nous le curseur entre sécurité et performance?
Source : Techcrunch
