Excessive Agency
Définition courte
Vulnérabilité LLM06:2025, devenue LLM03:2026 dans l’édition 2026 du Top 10 OWASP pour les applications LLM — remontée au 3e rang parce que les incidents réels impliquant des agents outillés se multiplient1 : un agent reçoit plus de fonctionnalités, de permissions ou d’autonomie qu’il n’en a besoin, rendant possible des actions dommageables même en l’absence d’attaque délibérée.
Définition détaillée
OWASP identifie trois axes d’exposition :
- Fonctionnalité excessive — l’agent a accès à plus d’outils que nécessaire (ex. plugin mail avec
readetsendalors qu’on ne demande que la lecture). - Permissions excessives — l’agent opère avec des droits élevés (root, admin DB, accès filesystem complet) non justifiés par sa tâche.
- Autonomie excessive — l’agent prend des décisions à fort impact sans validation humaine (HITL).
L’Excessive Agency est dangereuse même sans attaquant : une hallucination ou un prompt injection indirecte suffit à déclencher une action réelle. Par exemple, un agent custodien vulnérable peut exécuter une commande destructrice lue dans une issue GitHub malveillante.
Pourquoi c’est important en IA on-premise
Les agents on-premise ont souvent un accès direct à des ressources critiques : filesystem, base de données, API internes, dépôts Git. Une mauvaise configuration des droits peut transformer un agent d’assistance en vecteur d’attaque interne, sans passage par le réseau externe.
Pièges fréquents
- Donner à un agent un accès shell général (
subprocess,bash) alors qu’une seule commande suffit. - Ne pas appliquer le principe du moindre privilège sur les volumes Docker montés.
- Permettre à l’agent de pousser sur
maindirectement, sans validation humaine. - Oublier que les outils
fetchd’un agent héritent des permissions réseau de la machine hôte.
Voir aussi
- 🔒 Sécurité de l'inférence locale — §5 (LLM06:2025 Excessive Agency, LLM03:2026) et §6 (isolation des agents)
- Human-in-the-loop — validation humaine des actions critiques
- Agent autonome — architecture et risques
- 📖 Glossaire IA
Footnotes
-
OWASP GenAI Security Project, OWASP GenAI LLM Top 10 — 2026 Edition (publiée le 2026-08-03) et annonce du 2026-09-01 (« Excessive Agency, now number three »). https://genai.owasp.org/resource/owasp-genai-llm-top-10-2026/ · https://genai.owasp.org/2026/09/01/owasp-genai-security-project-unveils-2026-top-10-for-llm-applications-new-agent-control-standard-and-sponsors-as-community-tops-30000-members/ ↩