跳转到主要内容
这是 GLiDE 的推理端点。发送 state 以及一个或多个命名的类型化 questions；从 answers 中读取结构化决策。当问题本身包含全部上下文时，state 可以为空。GLiDE 不使用 /v1/chat/completions、messages 或 GLiNER schema。 GLiDE 的价格为每 100 万输入 token 0.04 美元。输出 token 免费（0 美元）。 有关当前推理费率，请参阅定价。

查看 API 契约

查看 POST /v1/systemone 完整的请求和响应 schema。

GLiDE 实战示例

经过测试的端到端请求，涵盖工单分诊、智能体操作把关和提示词注入筛查。

设置你的 API 密钥

  1. 创建一个 Fastino 账号
  2. 获取你的 API 密钥，前往 Settings
将密钥设置为环境变量，这样下面的示例可以直接运行：

选择问题类型

每个问题都是单标签的，并返回概率。请根据代码所需的答案形式选择基本类型： 不存在多标签基本类型。当你需要对同一个 state 做出多个判断时，请在一个请求中提出多个独立命名的问题。

请求

string
必填
使用 fastino/GLiDE，或你部署的 GLiDE 模型的模型 ID。省略该参数将返回 422 'model' must be provided。响应会以 glide 回显引擎名称。
string | object | array
必填
要评估的情境。单个段落使用字符串，带标签的字段使用对象，有序的消息或记录序列使用数组。 当问题本身包含全部上下文时，可以使用空字符串、空对象或空数组。
object
必填
一个非空对象，键为你自定义的名称。每个值必须包含 type 和 instructions；Choice 和 Score 还需要 criteria。相同的键会出现在响应的 answers 下。 各类型完整的请求和响应结构，请参阅 Noul、Choice 和 Score。
boolean
默认值:"true"
Fastino 是否保留此请求的输入和输出。设置为 false 则两者都不保留。请参阅 让请求不进入存储。

State 形状

state 是评估每个问题所依据的材料。可以把它理解为在请专家小组做出判断之前交给他们的资料。 当决策依赖于比较多个命名部分时（例如一张工单及用于评估它的策略），请使用对象，这样每个部分都有标签，彼此之间的关系也更清晰。当案例是单个独立的段落时，纯字符串就足够了。同一请求中的所有问题看到的是同一个 state，并分别独立地针对它进行评估。

图片输入

数组可以混合字符串或文本部分，以及最多四个 image_url 部分。每个图片 URL 可以是 HTTPS URL，也可以是 base64 data URL：
data URL 直接在请求中携带图片，格式为 data:<media type>;base64,<data>：
要从本地文件构建该请求，请先编码文件，再把请求体写入磁盘。使用 -d @body.json 发送， 因为数 MB 的图片可能超出命令行参数的长度限制：
每张图片都必须符合以下限制：
  • 大小限制只计算逗号之后的 base64，不包括 data: 前缀。
  • 大小限制针对字节而非像素。嵌入的元数据和填充也会计入，因此填充到 5 MiB 的 800×600 图片会被拒绝。
  • Fastino 会读取每张图片的字节，并与声明的媒体类型进行核对。以 data:image/jpeg 发送的 PNG 会被拒绝。
  • Fastino 会自行下载 URL 图片。主机必须直接返回 200，不能重定向，而且有些主机会拒绝 自动下载。如果 URL 失败，请改用 data URL 发送图片。
GLiDE 在读取图片前，会把每张图片缩放到 65,536 到 1,048,576 像素之间（约 1 百万像素）。 因此每张图片会增加 64 到 1,024 个输入 token。图片 token 按问题计算，因为 GLiDE 会针对整个 state 分别评估每个问题。例如，同一张 2048×1280 的照片在一个问题时使用了 1,087 个输入 token，在四个问题时使用了 4,302 个。图片 token 也会计入每个问题 65,536 个 token 的提示词限制。
发送前请把图片缩放到约 1 百万像素，例如 1280×800。更大的图片消耗的 token 相同，但上传 更慢。在 Fastino 的测试中，一张 5388×3368 的照片与其 1280×800 副本使用的 token 相同， 返回的答案也相同。
各图片错误消息及修复方法，请参阅 GLiDE 图片错误。

完整请求

响应

answers 使用你请求中的问题键。对于这个 Noul：
  • noul 是 true 条件成立的概率。它不是布尔值。
  • confidence 是对任一结果的确定程度：|2 × noul − 1|。
  • 请在具有代表性的数据上调整行动阈值。不要假定 0.5 就是合适的业务阈值。
Choice 和 Score 返回的字段不同。确切的响应结构和集成示例，请参阅各自的基本类型页面。

让请求不进入存储

在请求体中添加 "store": false。Fastino 随后既不会保留你发送的 state 和 questions，也不会保留它返回的 answers：
  • 你的推理历史中不会出现该条目。
  • 载荷不会进入 Fastino 的日志、错误报告和追踪记录。
  • 无论你的训练退出设置如何，该请求都绝不会用于平台训练或你的任务模型的持续适配。
Fastino 仍会记录用于计费的使用元数据：模型、token 数量、延迟、状态和费用。X-Fastino-Data-Retention 响应头会报告实际应用的保留方式：

组合多个问题

在单次调用中，针对同一个 state 提出多个不同类型的问题。所有问题会在一次往返中一并评估。
响应：

限制与不支持的结构

  • 每个渲染后的问题提示词（state 加上该问题）必须控制在 65,536 个 token 以内。
  • Choice 要求 2 到 255 个选项；单个选项无法表示决策或有意义的置信度差。Score 最多接受 255 个等级。
  • usage.input_tokens 会累加所有问题的内部推理轮次，因此即使每个单独渲染的提示词都在限制内， 该值也可能超过 65,536。
  • state 最多接受 4 张图片，每张不超过 3.75 MiB 和 25,000,000 像素，格式为 JPEG、PNG、GIF 或 WebP。请参阅图片输入。
  • 一个请求评估一个共享的 state；请将多个问题放在 questions 下。
  • /v1/systemone 不支持流式传输，也不接受一批相互独立的 state。
  • 要调用你训练的 GLiDE 模型，请将其部署后的模型 ID 作为 model 发送，并使用纯文本 state。参见训练 GLiDE。
关于置信度公式和基于置信度的路由，请参阅置信度与不确定性。

从 TypeSafe 迁移

TypeSafe 的 Jev 与 Fastino 的 GLiDE 使用相同的 System One 结构：state、命名的 questions 以及对应的 answers。大多数请求都可以顺利迁移，但该集成并不能直接替换。 请按照以下清单安全地完成迁移：
1

保留 System One 请求结构

保留 state、问题键和基本类型。当问题本身包含全部上下文时，state 可以为空。 每个 instructions 值可以是非空字符串或非空 JSON 对象；GLiDE 会将对象序列化为紧凑的 JSON 文本。请将省略、为 null 或数组形式的 instructions 转换为字符串或对象。Choice 的 criteria 保持为对象。Noul 的 criteria 是可选的，但其 true 和 false 值必须是字符串。 Score 的 criteria 优先使用有序数组。 只发送你的集成所需的、文档中列出的请求字段。不支持的顶层字段会返回 422，因此不要将任意 TypeSafe 客户端选项复制到 JSON 请求体中。
2

更改端点、凭据和模型

将请求指向 Fastino，读取 FASTINO_API_KEY，通过 X-API-Key 发送，并将 model 设置为 fastino/GLiDE。如果保留 Bearer 请求头能让直接 HTTP 迁移更简单，Fastino 也接受该请求头。 响应中应为 model: "glide"。
3

更新 Score 响应处理

TypeSafe 的 score 是按概率加权的浮点数，其在 GLiDE 中的对应字段是 expected_level。 而 GLiDE 的 score 是概率最高的等级的整数索引。GLiDE 以字符串形式返回 Score 的 legend 描述，因此请更新那些期望结构化 legend 值的使用方代码。 对于 Score 请求，GLiDE 也接受以数字字符串为键的 criteria 对象，例如 {"1": "low", "3": "medium", "5": "high"}。这些键会被排序后丢弃，响应会从 0 到 N-1 重新编号。如果原始数值不能与返回的等级索引混淆，请使用有序数组。
4

检查等级键和重试行为

GLiDE 返回的 Score probabilities 和 legend 使用字符串键，例如 "0" 和 "1"。 TypeSafe 的原始 HTTP 响应也是如此，但其 Python SDK 可能会暴露整数键。仅当应用需要以整数为键的 映射时才转换键。将 TypeSafe 的 529 重试处理替换为 Fastino 的 425 和 503 处理，并对 429 保留有上限的退避。存在 Retry-After 时请遵循它，并对传输故障应用相同的重试预算。
5

重新验证决策阈值

移植期间保持现有业务操作不变，然后在部署前用具有代表性的案例测试 GLiDE。不要假定为 Jev 校准的阈值可以原封不动地用于另一个模型。
不要将 TypeSafe 的浮点 score 映射到 GLiDE 的 score。当现有代码期望加权分数时，请读取 answers.&lt;key&gt;.expected_level。仅当代码需要单个胜出等级的索引时，才读取 answers.&lt;key&gt;.score。

替换 TypeSafe SDK 的用法

如果项目使用了 TypeSafe SDK：
  1. 在清单文件、导入语句、应用代码和测试中查找 typesafe-sdk、@typesafe-ai/sdk、 TypeSafeClient、AsyncTypeSafeClient 以及 TypeSafe 问题构造器。
  2. 将 SDK 构造器和类型化响应访问替换为项目自身的 HTTP 客户端和解码后的 JSON。
  3. 仅在不再有任何引用之后，才移除 TypeSafe 包和导入。
上述端点、校验、重试和 Score 规则仍然适用。

错误

首次请求冷启动的模型时，可能会在模型预热期间返回 425 model_warming；请在约 60 秒后重试。 请将读取超时设置为至少 300 秒，并对 425、429 和 503 使用有上限的退避重试。 对于 401、402、403、404 或 422，请在解决根本问题之前不要重试。

继续学习

GLiDE 概览

了解 GLiDE 是什么、何时使用它，以及如何开始构建。

Noul

集成是/否概率。

Choice

路由到某个命名选项。

Score

按有序评分标准进行评估。