Infiltration de requête

Extrait.

L’infiltration de requête (de l’anglais prompt injection) est un code d’exploitation lié à la cybersécurité dans lequel sont créées des requêtes qui semblent légitimes mais qui sont conçues pour provoquer un comportement inattendu des modèles d’apprentissage automatique, en particulier les grands modèles de langage (LLM). Cette attaque exploite l’incapacité d’un modèle à faire la distinction entre les prompts d’un développeur et ceux de l’utilisateur.