Aller au contenu

🤖 Agents Custodiens On-Premise

Un agent custodien n’est pas un assistant : on ne lui parle pas pour lui poser des questions. On lui confie des tâches récurrentes ou événementielles — maintenir un vault à jour, détecter du code obsolète, proposer des corrections sourcées — et il travaille de manière autonome, en laissant la décision finale à un humain.


🧭 Concept clé : Human-in-the-loop

Un agent custodien souverain ne “commit” pas, ne “merge” pas, ne “publie” pas sans validation humaine.

Le cycle type est :

  1. Déclencheur — planifié (cron) ou événementiel (nouveau fichier, PR ouverte)
  2. Exécution — l’agent lit, analyse, génère des propositions
  3. Branche + diff — les changements sont isolés dans une branche Git dédiée
  4. Rapport — l’agent produit un résumé lisible (PR description, email, message)
  5. Validation humaine — vous fusionnez, ou non
  6. Publication — uniquement si approuvé

Les niveaux d’autonomie varient : de “rapport seulement” jusqu’à “commit automatique en branche feature” — mais jamais de merge ou de publication automatique sur main sans accord explicite.

La validation humaine protège la sortie (merge, publication), pas l’entrée : ce que l’agent lit et exécute avant la revue reste le maillon faible. L’OWASP place désormais l’« Excessive Agency » au 3e rang de son Top 10 pour les applications LLM (édition 2026, selon son annonce du 2026-09-01), la CNIL et le Conseil de l’IA et du Numérique ont publié en juillet 2026 une note exploratoire sur l’IA agentique et les données personnelles, et une faille Ollama (CVE-2026-102697, corrigée en 0.31.2) a montré qu’une commande shell approuvée par l’humain pouvait être prolongée par le modèle. Voir Vision et Excessive agency123.


📋 Pages de référence

Comprendre

Aller plus loin


🛠️ Fiches solution

OutilRôle dans la stackSouveraineté
AiderAgent code, terminal-first, supporte Ollama — développement gelé (voir fiche)✅ si local, ⚠️ non maintenu
OpenHandsAgent Docker/sandbox, Agent Canvas (automatisations planifiées, agents tiers via ACP), modèles locaux supportés4⚠️ configurable
LiteLLM / lexiqueProxy unificateur (Ollama, vLLM, cloud) ; failles exploitées en 2026, à patcher chaque mois5✅ si local-only et à jour
SearXNGMéta-search auto-hébergé, sans API key✅ web privacy
Cursor CLIMVP puissant, mais routage cloud Cursor (SpaceX depuis août 2026)6❌ strict

🔗 Voir aussi

📚 Sources

Footnotes

  1. OWASP GenAI Security Project, OWASP GenAI LLM Top 10 — 2026 Edition (publiée le 2026-08-03) et annonce du 2026-09-01 (« Excessive Agency, now number three »). https://genai.owasp.org/resource/owasp-genai-llm-top-10-2026/ · https://genai.owasp.org/2026/09/01/owasp-genai-security-project-unveils-2026-top-10-for-llm-applications-new-agent-control-standard-and-sponsors-as-community-tops-30000-members/ ↩

  2. CNIL et Conseil de l’IA et du Numérique, IA agentique et données personnelles : note exploratoire (autonomie décisionnelle accrue, responsabilités diluées, risques cyber étendus à tous les services connectés), 2026-07-20. https://www.cnil.fr/fr/ia-agentique-cnil-cianum-note ↩

  3. MITRE, CVE-2026-102697 (Ollama 0.14.0 → < 0.31.2 : opérateurs de contrôle shell ajoutés à une commande approuvée en mode agent, CVSS 3.1 7.8 / 4.0 8.5), publiée le 2026-09-29. https://cveawg.mitre.org/api/cve/CVE-2026-102697 ↩

  4. OpenHands GitHub README (dépôt présenté comme « Agent Canvas (beta) », MIT), consulté le 2026-10-10 ; OpenHands, Introducing Agent Canvas (2026-06-16) et Use any coding agent in OpenHands with ACP (2026-06-18). https://github.com/OpenHands/OpenHands · https://www.openhands.dev/blog/introducing-agent-canvas · https://www.openhands.dev/blog/use-any-coding-agent-in-openhands-with-acp ↩

  5. CISA, Known Exploited Vulnerabilities Catalog (CVE-2026-42208, CVE-2026-42271, CVE-2026-59822 LiteLLM), catalogue daté 2026-10-08 ; LiteLLM, Version Support Policy (quatre lignes mineures maintenues depuis le 2026-06-29), 2026-06-20. https://www.cisa.gov/sites/default/files/feeds/known_exploited_vulnerabilities.json · https://docs.litellm.ai/blog/version-support ↩

  6. Cursor, Cursor is now a part of SpaceX, 2026-08-14. https://cursor.com/blog/joining-spacex ↩

Donner mon avis

Tout est facultatif : une seule réponse suffit. Ce site n'envoie rien : c'est vous qui envoyez, par le moyen de votre choix.

Votre notePas de note
Votre avis porte sur
Sur quoi ? (plusieurs choix possibles)
Ce qui sera envoyé
Envoyer par e-mail

Privé, sans compte : ouvre votre messagerie avec le message prêt, pour ia-on-prem@damien.becherini.fr.

Ouvrir un ticket GitHub ↗

Public, avec un compte GitHub. Vous relisez le ticket avant de le publier.

Pour le coller où vous voulez.

Donnez au moins une note, un sujet ou un message pour pouvoir envoyer.