Skip to main content
Enrutar con un LLM de propósito general suele implicar pedirle que genere el nombre de un destino y, después, validar y analizar el texto. Con GLiDE, defines las rutas permitidas y recibes una ruta seleccionada más una probabilidad para cada opción. Usa este patrón para colas de soporte, herramientas de agentes, flujos de trabajo, modelos o cualquier otra decisión de enrutamiento en la que haya que elegir una sola opción. Añade una ruta other o human_review cuando los destinos de la lista no sean exhaustivos.

Enruta un ticket de soporte

choice siempre es una de tus claves de criteria. probabilities muestra la distribución completa, mientras que confidence es el margen entre las dos rutas más probables. Ajusta el umbral de respaldo con tráfico representativo en lugar de tratar 0.5 como un valor universal.

Qué cambia respecto a un enrutador basado en LLM

  • El destino está limitado a las claves que defines; no hay texto generado que analizar.
  • Recibes la distribución completa de rutas, no solo una etiqueta.
  • Puedes enviar los casos inciertos o fuera de alcance a una ruta de respaldo explícita.
  • Puedes hacer varias preguntas de enrutamiento o puntuación sobre el mismo state en una sola solicitud.
Consulta Inferencia de GLiDE para ver la autenticación, los límites, los errores y el contrato de respuesta completo.