Skip to main content
Avec un LLM généraliste, le routage consiste généralement à lui demander de générer un nom de destination, puis à valider et analyser le texte produit. Avec GLiDE, vous définissez les routes autorisées et recevez une route sélectionnée ainsi qu’une probabilité pour chaque option. Utilisez ce modèle pour les files d’attente du support, les outils d’agent, les workflows, les modèles ou toute autre décision de routage où une seule option doit être retenue. Ajoutez une route other ou human_review lorsque les destinations listées ne sont pas exhaustives.

Router un ticket de support

choice est toujours l’une de vos clés criteria. probabilities présente la distribution complète, tandis que confidence correspond à l’écart entre les deux routes les plus probables. Ajustez le seuil de repli sur un trafic représentatif plutôt que de considérer 0.5 comme une valeur universelle.

Ce qui change par rapport à un routeur LLM

  • La destination est limitée aux clés que vous définissez ; il n’y a aucun texte généré à analyser.
  • Vous recevez la distribution complète des routes, et pas seulement un libellé.
  • Vous pouvez envoyer les cas incertains ou hors périmètre vers une solution de repli explicite.
  • Vous pouvez poser plusieurs questions de routage ou de scoring sur le même state en une seule requête.
Consultez Inférence GLiDE pour l’authentification, les limites, les erreurs et le contrat de réponse complet.