Aller au contenu

Appel d'outils (Tool / Function Calling)

📝 Définition courte

Mécanisme où le LLM choisit et paramètre une fonction externe (schéma JSON) au lieu de répondre directement : recherche, calcul, requête BDD, exécution script1.

📖 Définition détaillée

L’appel d’outils (function calling / tool calling) transforme le LLM en orchestrateur : le modèle reçoit une liste d’outils décrits (nom, paramètres, types), décide lequel invoquer, produit un payload structuré, puis intègre le résultat dans la suite du raisonnement.

En stack on-premise, le moteur (vLLM, Ollama, SGLang) expose souvent une API compatible OpenAI « tools » ; l’application exécute réellement l’outil côté serveur (jamais en confiance aveugle).

Pattern typique : petit modèle rapide pour le routage d’outils, gros modèle pour la synthèse finale — voir 🧩 RAG & Agents.

💡 Pourquoi c’est important en IA on-premise

  • Base des agents autonomes et du RAG agentique (retrieve, filter, rewrite).
  • Permet de connecter le LLM au SI interne sans fine-tuning : contrats d’outils = frontière de sécurité.
  • Lié à OWASP LLM06 (Excessive Agency) : surface d’attaque si trop d’outils ou droits excessifs.

⚠️ Pièges fréquents

  • Donner à l’agent des outils destructifs (shell, DELETE SQL) sans sandbox ni validation HITL.
  • Parser du JSON « presque valide » sans validateur aval — préférer SGLang ou contraintes strictes pour les sorties structurées.
  • Ignorer la latence : chaque tour outil = nouveau préfill ; optimiser le contexte partagé (RadixAttention).

📚 Pour comprendre en profondeur

  1. 🧩 RAG & Agents
  2. 🔐 Sécurité inférence — LLM06 Excessive Agency
  3. LangGraph — orchestration multi-étapes

🔗 Voir aussi

Footnotes

  1. OpenAI API — Function calling (pattern de facto repris par vLLM/Ollama). https://developers.openai.com/api/docs/guides/function-calling ↩

Donner mon avis

Tout est facultatif : une seule réponse suffit. Ce site n'envoie rien : c'est vous qui envoyez, par le moyen de votre choix.

Votre notePas de note
Votre avis porte sur
Sur quoi ? (plusieurs choix possibles)
Ce qui sera envoyé
Envoyer par e-mail

Privé, sans compte : ouvre votre messagerie avec le message prêt, pour ia-on-prem@damien.becherini.fr.

Ouvrir un ticket GitHub ↗

Public, avec un compte GitHub. Vous relisez le ticket avant de le publier.

Pour le coller où vous voulez.

Donnez au moins une note, un sujet ou un message pour pouvoir envoyer.