为段落评分并重新排序
score 都是 true 条件成立的 Noul 概率。按降序排序可以将最强的匹配排在最前面;当下游生成只应接收足够相关的上下文时,请应用一个阈值。
此示例中的所有 Noul 问题共享同一个
state,因此 GLiDE 会在一个请求中为整个候选列表评分。完整的 state 会包含在每个内部渲染的问题中;请将其控制在每个问题 65,536 个 token 的限制以内。请将较大的候选列表拆分为数量有限的并发请求,并对 425、429 和 503 使用退避重试。每个请求为一个段落评分
当段落是独立到达时,请使用这种更简单的结构:与 LLM 重新排序相比有何不同
- 二元相关性是一个从
0到1的概率,而不是生成的整数。 - 你可以对同一个值进行排序和设定阈值,无需解析模型文本。
- criteria 准确说明了在你的应用中“相关”的含义。

