Skip to main content
通过两种 API 约定之一使用 Fastino 模型运行推理。每种约定都有自己的请求和响应结构, 二者的字段不可互换。

使用 GLiDE 做出决策

使用 state 和带类型的 questions 调用 POST /v1/systemone。获得带有概率和置信度的 Noul、Choice 或 Score 答案。

运行 GLiNER

使用 messages 调用 POST /v1/chat/completions。添加 schema 即可进行 GLiNER 提取、 分类、结构化提取或关系抽取。
有关 GLiDE 概念和基本类型选择,请从决策模型开始。 GLiDE 推理指南介绍了 HTTP 集成。

冷启动与重试

空闲或新部署的模型可能会冷启动。请将读取超时设置为至少 300 秒,并对 425、429 和 503 响应使用有上限的退避重试。当响应中包含 Retry-After 时,请遵循该值。 已超时的请求仍可能预热部署,从而让下一次请求成功。对于身份验证、计费、校验或未知模型等错误, 请在解决根本问题之前不要重试。