Sleeper Agent : la tactique furtive qui dissimule des malwares dans les modèles d’IA open-weight
Imaginez un modèle d’intelligence artificielle open-weight que vous téléchargez depuis un registre public. Vous l’intégrez dans votre application, le déployez en production. Tout semble normal : les performances sont conformes, les réponses cohérentes. Pourtant, à l’insu de tous, une charge malveillante sommeille dans moins d’un dix-millième de pour cent de ses paramètres. Cette menace, baptisée Sleeper Agent, exploite la structure même des réseaux neuronaux pour passer inaperçue. Selon les travaux de recherche récents (Dark Reading, 2025), il suffit de modifier 0,00001 % des poids d’un réseau neuronal pour y dissimuler un malware fonctionnel. Mais comment un utilisateur peut-il détecter une aiguille dans une botte de foin de plusieurs milliards de paramètres ? Cet article vous explique le fonctionnement de cette attaque émergente, ses implications pour la sécurité des systèmes d’IA et les mesures concrètes à adopter pour s’en prémunir.
By Célestine Rochefour
lire plus