Dans l’univers en constante évolution de la sécurité des IA, les attaques par injection de prompts indirects représentent une menace croissante. Une nouvelle méthode, baptisée ‘Fun-Tuning’, permet désormais de générer des attaques plus efficaces contre les modèles de langage comme Gemini, marquant un tournant dans la manière dont ces vulnérabilités sont exploitées.
Une nouvelle méthode algorithmique
Pour la première fois, des chercheurs ont développé une technique permettant de créer des injections de prompts générées par ordinateur, avec un taux de réussite bien supérieur à celles conçues manuellement. Cette méthode exploite le fine-tuning, une fonctionnalité offerte par certains modèles pour les adapter à des données spécifiques.
Le fonctionnement de Fun-Tuning
Fun-Tuning optimise les injections de prompts en ajoutant des préfixes et suffixes pseudo-aléatoires, augmentant ainsi leur efficacité. Cette approche méthodique et algorithmique représente une avancée significative dans le domaine des attaques contre les modèles de langage propriétaires.
Les implications pour la sécurité
Avec un coût minimal et un temps de calcul d’environ 60 heures, cette technique ouvre la porte à des attaques plus sophistiquées et difficiles à contrer. Les chercheurs ont démontré son efficacité contre Gemini, avec des taux de réussite allant jusqu’à 82%.
Les défis pour les développeurs
Google, comme d’autres, est confronté à la difficile tâche de sécuriser ses modèles contre ces nouvelles attaques sans compromettre l’utilité du fine-tuning pour les développeurs légitimes. Cette situation soulève des questions importantes sur l’équilibre entre sécurité et fonctionnalité.
