Aller au contenu

Human-in-the-loop

📝 Définition courte

Principe selon lequel un agent ou système automatisé peut analyser et proposer, mais doit attendre une validation humaine avant une action critique : merge, publication, suppression, accès à une donnée sensible.

📖 Définition détaillée

Dans un workflow agentique, le LLM peut lire des fichiers, appeler des outils, produire un patch ou ouvrir une PR. Le human-in-the-loop place l’humain comme point de contrôle avant l’étape irréversible.

Ce principe se distingue du human-on-the-loop, où l’humain supervise après coup. Pour un vault documentaire ou un dépôt Git, le modèle recommandé est hybride : l’agent peut travailler en branche, mais le merge reste humain.

💡 Pourquoi c’est important en IA on-premise

Le on-premise ne suffit pas à garantir la sécurité : un agent local peut quand même supprimer, publier ou modifier trop largement. Le human-in-the-loop limite le risque opérationnel tout en gardant les gains d’automatisation.

⚠️ Pièges fréquents

  • Confondre notification et validation : recevoir un rapport ne veut pas dire approuver l’action.
  • Autoriser le merge automatique sur main pour des tâches éditoriales.
  • Laisser un agent lire des plans archivés et exécuter des TODOs obsolètes.

📚 Pour comprendre en profondeur

  1. Workflow Human-in-the-loop
  2. Vision : agent custodien

🔗 Voir aussi

Donner mon avis

Tout est facultatif : une seule réponse suffit. Ce site n'envoie rien : c'est vous qui envoyez, par le moyen de votre choix.

Votre notePas de note
Votre avis porte sur
Sur quoi ? (plusieurs choix possibles)
Ce qui sera envoyé
Envoyer par e-mail

Privé, sans compte : ouvre votre messagerie avec le message prêt, pour ia-on-prem@damien.becherini.fr.

Ouvrir un ticket GitHub ↗

Public, avec un compte GitHub. Vous relisez le ticket avant de le publier.

Pour le coller où vous voulez.

Donnez au moins une note, un sujet ou un message pour pouvoir envoyer.