Aller au contenu

Excessive Agency

Définition courte

Vulnérabilité LLM06:2025, devenue LLM03:2026 dans l’édition 2026 du Top 10 OWASP pour les applications LLM — remontée au 3e rang parce que les incidents réels impliquant des agents outillés se multiplient1 : un agent reçoit plus de fonctionnalités, de permissions ou d’autonomie qu’il n’en a besoin, rendant possible des actions dommageables même en l’absence d’attaque délibérée.

Définition détaillée

OWASP identifie trois axes d’exposition :

  • Fonctionnalité excessive — l’agent a accès à plus d’outils que nécessaire (ex. plugin mail avec read et send alors qu’on ne demande que la lecture).
  • Permissions excessives — l’agent opère avec des droits élevés (root, admin DB, accès filesystem complet) non justifiés par sa tâche.
  • Autonomie excessive — l’agent prend des décisions à fort impact sans validation humaine (HITL).

L’Excessive Agency est dangereuse même sans attaquant : une hallucination ou un prompt injection indirecte suffit à déclencher une action réelle. Par exemple, un agent custodien vulnérable peut exécuter une commande destructrice lue dans une issue GitHub malveillante.

Pourquoi c’est important en IA on-premise

Les agents on-premise ont souvent un accès direct à des ressources critiques : filesystem, base de données, API internes, dépôts Git. Une mauvaise configuration des droits peut transformer un agent d’assistance en vecteur d’attaque interne, sans passage par le réseau externe.

Pièges fréquents

  • Donner à un agent un accès shell général (subprocess, bash) alors qu’une seule commande suffit.
  • Ne pas appliquer le principe du moindre privilège sur les volumes Docker montés.
  • Permettre à l’agent de pousser sur main directement, sans validation humaine.
  • Oublier que les outils fetch d’un agent héritent des permissions réseau de la machine hôte.

Voir aussi

Footnotes

  1. OWASP GenAI Security Project, OWASP GenAI LLM Top 10 — 2026 Edition (publiée le 2026-08-03) et annonce du 2026-09-01 (« Excessive Agency, now number three »). https://genai.owasp.org/resource/owasp-genai-llm-top-10-2026/ · https://genai.owasp.org/2026/09/01/owasp-genai-security-project-unveils-2026-top-10-for-llm-applications-new-agent-control-standard-and-sponsors-as-community-tops-30000-members/ ↩

Donner mon avis

Tout est facultatif : une seule réponse suffit. Ce site n'envoie rien : c'est vous qui envoyez, par le moyen de votre choix.

Votre notePas de note
Votre avis porte sur
Sur quoi ? (plusieurs choix possibles)
Ce qui sera envoyé
Envoyer par e-mail

Privé, sans compte : ouvre votre messagerie avec le message prêt, pour ia-on-prem@damien.becherini.fr.

Ouvrir un ticket GitHub ↗

Public, avec un compte GitHub. Vous relisez le ticket avant de le publier.

Pour le coller où vous voulez.

Donnez au moins une note, un sujet ou un message pour pouvoir envoyer.