跳转到主要内容
通过两种 API 约定之一使用 Fastino 模型运行推理。每种约定都有自己的请求和响应结构， 二者的字段不可互换。

使用 GLiDE 做出决策

使用 state 和带类型的 questions 调用 POST /v1/systemone。获得带有概率和置信度的 Noul、Choice 或 Score 答案。

运行 GLiNER

使用 messages 调用 POST /v1/chat/completions。添加 schema 即可进行 GLiNER 提取、 分类、结构化提取或关系抽取。
有关 GLiDE 概念和基本类型选择，请从决策模型开始。 GLiDE 推理指南介绍了 HTTP 集成。

​
API 契约

GLiDE / System One

决策模型推理的完整请求和响应架构。

GLiNER / Chat Completions

完整的 OpenAI 兼容 GLiNER 契约。

原生 GLiNER

同步、异步和任务状态契约。

Responses

OpenAI Responses 兼容推理契约。

Messages

Anthropic Messages 兼容推理契约。

模型

列出兼容模型 ID。

​
确认路由和数据保留

对 POST /v1/systemone、/v1/chat/completions、/v1/responses、/v1/messages 和 /v1/gliner-2 的成功调用会返回两个诊断响应头：
  • X-Fastino-Data-Retention：团队启用零数据保留（Zero Data Retention）时为 zero， 请求选择不保存推理历史时为 not-stored，其他情况为 stored。
  • X-Fastino-Served-Model：实际处理该调用的规范模型。由微调模型处理请求时为微调模型 ID， 否则为基础模型 ID。
验证集成时可检查这些响应头：
错误响应以及在分派到提供方之前就失败的流式响应不包含这些响应头。在分派之后才失败的流式响应 会保留这些响应头，并在流内报告错误。

​
冷启动与重试

空闲或新部署的模型可能会冷启动。请将读取超时设置为至少 300 秒，并对 425、429 和 503 响应使用有上限的退避重试。当响应中包含 Retry-After 时，请遵循该值。 已超时的请求仍可能预热部署，从而让下一次请求成功。对于身份验证、计费、校验或未知模型等错误， 请在解决根本问题之前不要重试。