Human-in-the-loop
📝 Définition courte
Principe selon lequel un agent ou système automatisé peut analyser et proposer, mais doit attendre une validation humaine avant une action critique : merge, publication, suppression, accès à une donnée sensible.
📖 Définition détaillée
Dans un workflow agentique, le LLM peut lire des fichiers, appeler des outils, produire un patch ou ouvrir une PR. Le human-in-the-loop place l’humain comme point de contrôle avant l’étape irréversible.
Ce principe se distingue du human-on-the-loop, où l’humain supervise après coup. Pour un vault documentaire ou un dépôt Git, le modèle recommandé est hybride : l’agent peut travailler en branche, mais le merge reste humain.
💡 Pourquoi c’est important en IA on-premise
Le on-premise ne suffit pas à garantir la sécurité : un agent local peut quand même supprimer, publier ou modifier trop largement. Le human-in-the-loop limite le risque opérationnel tout en gardant les gains d’automatisation.
⚠️ Pièges fréquents
- Confondre notification et validation : recevoir un rapport ne veut pas dire approuver l’action.
- Autoriser le merge automatique sur
mainpour des tâches éditoriales. - Laisser un agent lire des plans archivés et exécuter des TODOs obsolètes.