other 或 human_review 路由。
路由支持工单
choice 始终是你的 criteria 键之一。probabilities 显示完整的分布,而 confidence 是可能性最高的两个路由之间的差值。请在具有代表性的流量上调整兜底阈值,而不要将 0.5 视为通用值。
与 LLM 路由器相比有何不同
- 目标被限定为你定义的键;无需解析生成的文本。
- 你获得的是完整的路由分布,而不仅仅是一个标签。
- 你可以将不确定或超出范围的情况发送到明确的兜底路由。
- 你可以在一个请求中针对同一个 state 提出多个路由或评分问题。

