Sécurité et gouvernance 4 min de lecture

Prompt injection : définition

La prompt injection est une attaque qui consiste à glisser des instructions dans un contenu lu par une IA, pour modifier son comportement à l'insu de son utilisateur. Elle devient un risque sérieux dès qu'un assistant ou un agent IA est connecté à des e-mails, des documents ou des outils.

Aussi appelé : injection de prompt, injection d'instructions

Comment fonctionne une prompt injection

Un modèle d'IA ne fait pas toujours la différence entre les consignes de son utilisateur et le contenu qu'il est en train de lire. Si un document contient une phrase qui ressemble à une instruction, le modèle peut la suivre.

L'OWASP, organisation de référence en sécurité applicative, classe la prompt injection en tête de ses risques pour les applications utilisant des modèles de langage. Elle la décrit comme une vulnérabilité qui survient quand des entrées modifient le comportement du modèle de façon non prévue.

On distingue deux formes. L'injection directe, où l'utilisateur lui-même tente de détourner l'assistant. Et l'injection indirecte, la plus dangereuse en entreprise, où les instructions sont cachées dans un contenu externe que l'IA lit : un site web, un fichier, un e-mail. L'OWASP précise que ces instructions n'ont pas besoin d'être visibles pour un humain.

En pratique dans une PME

Un distributeur B2B confie à un agent IA le tri des e-mails fournisseurs : l'agent lit les messages, met à jour les commandes et peut envoyer des réponses.

Un e-mail reçu contient, dans une partie invisible à l'écran, une instruction qui demande à l'agent de transmettre des informations à une adresse extérieure. Si l'agent a le droit d'envoyer des e-mails sans validation, il risque d'exécuter cette instruction.

Le problème ne vient pas d'un piratage du système, mais d'un document lu par l'agent. C'est ce qui rend ce risque difficile à percevoir.

Les protections usuelles

Limiter les droits de l'agent. Un agent ne doit avoir accès qu'à ce dont il a besoin pour sa tâche. L'OWASP recommande d'appliquer le principe du moindre privilège et de gérer les fonctions sensibles dans le code plutôt que de les confier au modèle.

Garder une validation humaine sur les actions sensibles. Envoyer un e-mail à l'extérieur, effectuer un paiement, supprimer des données : ces actions demandent une confirmation.

Séparer les sources de confiance. Les contenus venant de l'extérieur, e-mails, pages web, pièces jointes, sont traités comme des données à analyser, jamais comme des consignes.

Surveiller et journaliser. Garder une trace des actions de l'agent permet de détecter un comportement anormal et d'en comprendre l'origine.

Choisir des modèles et des outils qui prennent ce risque en compte. Les éditeurs publient des mesures de résistance à ces attaques, à vérifier dans leur documentation.

Ce que ça change pour votre entreprise

Tant qu'une IA se contente de répondre à des questions, une prompt injection a des effets limités. Dès qu'elle peut agir, envoyer, modifier, acheter, le risque change de nature.

C'est un point à intégrer dès la conception d'un projet d'agent IA : quels contenus l'agent lira-t-il, quelles actions pourra-t-il faire seul, lesquelles demandent une validation. Ces choix se décident avant le déploiement, pas après un incident.

Il n'existe pas aujourd'hui de protection qui élimine complètement ce risque. La réponse passe par une combinaison de mesures, et par des droits limités.

À ne pas confondre avec

Le jailbreak cherche à faire sortir un modèle des règles fixées par son éditeur, par exemple pour obtenir un contenu interdit. La prompt injection vise plutôt à détourner une application précise vers une action non prévue.

Le shadow AI désigne l'usage d'outils d'IA non autorisés par les collaborateurs. C'est un risque de gouvernance, pas une attaque, même si les deux peuvent se cumuler.

Questions fréquentes

Un assistant IA sans accès à mes outils est-il concerné ?

Moins. Un assistant qui se contente de répondre peut être induit en erreur par un document piégé, mais il ne peut rien faire seul. Le risque devient sérieux quand l'IA peut agir : envoyer des e-mails, modifier des données, utiliser des outils. C'est pourquoi les droits d'un agent doivent être limités.

Peut-on se protéger complètement de la prompt injection ?

Pas complètement aujourd'hui. On réduit fortement le risque en limitant les droits de l'agent, en gardant une validation humaine sur les actions sensibles, en traitant les contenus externes comme des données et en surveillant les actions. La combinaison de ces mesures compte plus qu'une protection unique.

Qui est responsable en cas d'incident ?

L'entreprise qui déploie l'agent reste responsable de ce qu'il fait avec ses outils et ses données. D'où l'importance de documenter les droits accordés, les validations prévues et les journaux d'activité dès la mise en service.

Un projet {IA} ?

Contactez-nous via notre formulaire de contact, nous vous recontactons dans les 24 h.

Réserver un appel