Aussi appelé : injection de prompt, injection d'instructions
Comment fonctionne une prompt injection
Un modèle d'IA ne fait pas toujours la différence entre les consignes de son utilisateur et le contenu qu'il est en train de lire. Si un document contient une phrase qui ressemble à une instruction, le modèle peut la suivre.
L'OWASP, organisation de référence en sécurité applicative, classe la prompt injection en tête de ses risques pour les applications utilisant des modèles de langage. Elle la décrit comme une vulnérabilité qui survient quand des entrées modifient le comportement du modèle de façon non prévue.
On distingue deux formes. L'injection directe, où l'utilisateur lui-même tente de détourner l'assistant. Et l'injection indirecte, la plus dangereuse en entreprise, où les instructions sont cachées dans un contenu externe que l'IA lit : un site web, un fichier, un e-mail. L'OWASP précise que ces instructions n'ont pas besoin d'être visibles pour un humain.
En pratique dans une PME
Un distributeur B2B confie à un agent IA le tri des e-mails fournisseurs : l'agent lit les messages, met à jour les commandes et peut envoyer des réponses.
Un e-mail reçu contient, dans une partie invisible à l'écran, une instruction qui demande à l'agent de transmettre des informations à une adresse extérieure. Si l'agent a le droit d'envoyer des e-mails sans validation, il risque d'exécuter cette instruction.
Le problème ne vient pas d'un piratage du système, mais d'un document lu par l'agent. C'est ce qui rend ce risque difficile à percevoir.
Les protections usuelles
Limiter les droits de l'agent. Un agent ne doit avoir accès qu'à ce dont il a besoin pour sa tâche. L'OWASP recommande d'appliquer le principe du moindre privilège et de gérer les fonctions sensibles dans le code plutôt que de les confier au modèle.
Garder une validation humaine sur les actions sensibles. Envoyer un e-mail à l'extérieur, effectuer un paiement, supprimer des données : ces actions demandent une confirmation.
Séparer les sources de confiance. Les contenus venant de l'extérieur, e-mails, pages web, pièces jointes, sont traités comme des données à analyser, jamais comme des consignes.
Surveiller et journaliser. Garder une trace des actions de l'agent permet de détecter un comportement anormal et d'en comprendre l'origine.
Choisir des modèles et des outils qui prennent ce risque en compte. Les éditeurs publient des mesures de résistance à ces attaques, à vérifier dans leur documentation.
Ce que ça change pour votre entreprise
Tant qu'une IA se contente de répondre à des questions, une prompt injection a des effets limités. Dès qu'elle peut agir, envoyer, modifier, acheter, le risque change de nature.
C'est un point à intégrer dès la conception d'un projet d'agent IA : quels contenus l'agent lira-t-il, quelles actions pourra-t-il faire seul, lesquelles demandent une validation. Ces choix se décident avant le déploiement, pas après un incident.
Il n'existe pas aujourd'hui de protection qui élimine complètement ce risque. La réponse passe par une combinaison de mesures, et par des droits limités.
À ne pas confondre avec
Le jailbreak cherche à faire sortir un modèle des règles fixées par son éditeur, par exemple pour obtenir un contenu interdit. La prompt injection vise plutôt à détourner une application précise vers une action non prévue.
Le shadow AI désigne l'usage d'outils d'IA non autorisés par les collaborateurs. C'est un risque de gouvernance, pas une attaque, même si les deux peuvent se cumuler.
Questions fréquentes
Un assistant IA sans accès à mes outils est-il concerné ?
Moins. Un assistant qui se contente de répondre peut être induit en erreur par un document piégé, mais il ne peut rien faire seul. Le risque devient sérieux quand l'IA peut agir : envoyer des e-mails, modifier des données, utiliser des outils. C'est pourquoi les droits d'un agent doivent être limités.
Peut-on se protéger complètement de la prompt injection ?
Pas complètement aujourd'hui. On réduit fortement le risque en limitant les droits de l'agent, en gardant une validation humaine sur les actions sensibles, en traitant les contenus externes comme des données et en surveillant les actions. La combinaison de ces mesures compte plus qu'une protection unique.
Qui est responsable en cas d'incident ?
L'entreprise qui déploie l'agent reste responsable de ce qu'il fait avec ses outils et ses données. D'où l'importance de documenter les droits accordés, les validations prévues et les journaux d'activité dès la mise en service.