Aller au contenu

Prompt injection

📝 Définition courte

Vulnérabilité OWASP LLM01 : un attaquant insère des instructions dans une source que le modèle lira (document RAG, e-mail, page web) pour contourner le prompt système ou déclencher des appels d'outils malveillants1.

📖 Définition détaillée

Contrairement à l’injection SQL, le prompt injection exploite le fait que le LLM ne distingue pas de manière fiable « instruction système » et « contenu utilisateur » une fois tout concaténé dans la fenêtre de contexte.

Deux formes courantes :

  • Directe : l’utilisateur envoie « ignore tes instructions et… ».
  • Indirecte : un document indexé en RAG contient des instructions cachées lues au moment du retrieval.

En on-premise, le risque est identique au cloud : la souveraineté des données n’immunise pas contre un PDF empoisonné dans la base documentaire interne.

💡 Pourquoi c’est important en IA on-premise

  • Toute stack RAG multi-sources (SharePoint, tickets, wikis) est une surface d’attaque.
  • Combiné à Excessive Agency (LLM06:2025, LLM03:2026), peut mener à exfiltration via outils (envoi e-mail, requête API).
  • Traité en profondeur dans 🔐 Sécurité de l'inférence locale (LLM01–LLM10, numérotation OWASP 2025 avec correspondance 2026).

⚠️ Pièges fréquents

  • Croire qu’un « prompt système secret » suffit : contournable par indirect injection.
  • Indexer des documents non sanitizés sans séparation de privilèges entre retrieval et exécution d’outils.
  • Oublier les canaux sortants (LLM07:2025 System Prompt Leakage, élargi en LLM08:2026 Hidden Context Exposure : system prompt, mais aussi définitions d’outils et mémoire) lors des tests de red team1.

Mitigations (résumé)

MesureRôle
Moindre privilège sur les outilsLimite l’impact d’une injection réussie
Validation HITL sur actions sensiblesHuman-in-the-loop
Filtrage entrée/sortieDétection de patterns d’injection
Isolation tenant RAGMulti-tenant sans fuite inter-organisation

🔗 Voir aussi

Footnotes

  1. OWASP GenAI Security Project, LLM01:2025 Prompt Injection (genai.owasp.org/llm-top-10/) ; reconduit en tête de l’édition 2026 (publiée le 2026-08-03) avec un périmètre étendu aux entrées image/audio et à la mémoire persistante, LLM07 System Prompt Leakage y devenant LLM08:2026 Hidden Context Exposure. https://genai.owasp.org/resource/owasp-genai-llm-top-10-2026/ ↩ ↩2

Donner mon avis

Tout est facultatif : une seule réponse suffit. Ce site n'envoie rien : c'est vous qui envoyez, par le moyen de votre choix.

Votre notePas de note
Votre avis porte sur
Sur quoi ? (plusieurs choix possibles)
Ce qui sera envoyé
Envoyer par e-mail

Privé, sans compte : ouvre votre messagerie avec le message prêt, pour ia-on-prem@damien.becherini.fr.

Ouvrir un ticket GitHub ↗

Public, avec un compte GitHub. Vous relisez le ticket avant de le publier.

Pour le coller où vous voulez.

Donnez au moins une note, un sujet ou un message pour pouvoir envoyer.