Prompt injection
📝 Définition courte
Vulnérabilité OWASP LLM01 : un attaquant insère des instructions dans une source que le modèle lira (document RAG, e-mail, page web) pour contourner le prompt système ou déclencher des appels d'outils malveillants1.
📖 Définition détaillée
Contrairement à l’injection SQL, le prompt injection exploite le fait que le LLM ne distingue pas de manière fiable « instruction système » et « contenu utilisateur » une fois tout concaténé dans la fenêtre de contexte.
Deux formes courantes :
- Directe : l’utilisateur envoie « ignore tes instructions et… ».
- Indirecte : un document indexé en RAG contient des instructions cachées lues au moment du retrieval.
En on-premise, le risque est identique au cloud : la souveraineté des données n’immunise pas contre un PDF empoisonné dans la base documentaire interne.
💡 Pourquoi c’est important en IA on-premise
- Toute stack RAG multi-sources (SharePoint, tickets, wikis) est une surface d’attaque.
- Combiné à Excessive Agency (LLM06:2025, LLM03:2026), peut mener à exfiltration via outils (envoi e-mail, requête API).
- Traité en profondeur dans 🔐 Sécurité de l'inférence locale (LLM01–LLM10, numérotation OWASP 2025 avec correspondance 2026).
⚠️ Pièges fréquents
- Croire qu’un « prompt système secret » suffit : contournable par indirect injection.
- Indexer des documents non sanitizés sans séparation de privilèges entre retrieval et exécution d’outils.
- Oublier les canaux sortants (LLM07:2025 System Prompt Leakage, élargi en LLM08:2026 Hidden Context Exposure : system prompt, mais aussi définitions d’outils et mémoire) lors des tests de red team1.
Mitigations (résumé)
| Mesure | Rôle |
|---|---|
| Moindre privilège sur les outils | Limite l’impact d’une injection réussie |
| Validation HITL sur actions sensibles | Human-in-the-loop |
| Filtrage entrée/sortie | Détection de patterns d’injection |
| Isolation tenant RAG | Multi-tenant sans fuite inter-organisation |
🔗 Voir aussi
Footnotes
-
OWASP GenAI Security Project, LLM01:2025 Prompt Injection (genai.owasp.org/llm-top-10/) ; reconduit en tête de l’édition 2026 (publiée le 2026-08-03) avec un périmètre étendu aux entrées image/audio et à la mémoire persistante, LLM07 System Prompt Leakage y devenant LLM08:2026 Hidden Context Exposure. https://genai.owasp.org/resource/owasp-genai-llm-top-10-2026/ ↩ ↩2