Skip to main content
Fastino 提供兼容 Anthropic 的 Messages 端点,让你可以通过 Anthropic SDK 运行 GLiNER 模型。将 base_url 设置为 https://api.fastino.ai,使用 Fastino API 密钥进行认证,并将 GET /v1/models 返回的 GLiNER 模型 ID 或 GLiNER 训练任务 ID 用作模型名称。Anthropic SDK 会自行追加 /v1/messages。

支持的 SDK 功能

GLiNER 推理返回一个结构化结果,不支持 stream=True 或 client.messages.stream(...)。Fastino 并未实现所有 Anthropic API 或 SDK 资源。

配置 Anthropic SDK

在构造客户端时传入你的 Fastino API 密钥和基础 URL:

创建消息

POST /v1/messages 接受 Anthropic Messages 的核心字段。将 model 设置为受支持的 GLiNER 模型 ID,包含 messages 数组,并通过 extra_body 传入抽取或分类 schema。

请求参数

string
必填
训练任务 ID(例如 job_abc123)或基础模型 ID。这是处理你请求的模型。
number
必填
Anthropic SDK 为保持请求兼容性而要求此字段。GLiNER 返回结构化输出,而不是生成 token。
object[]
必填
对话消息。每个对象包含一个 role("user" 或 "assistant")和一个 content 字符串。
object
Fastino 特有的抽取 schema。定义 entities、classifications、structures 或 relations 以控制模型抽取的内容。完整的 schema 文档请参阅 Fastino 推理。

示例

流式传输

GLiNER 推理不支持流式传输。请使用不带 stream=True 的 client.messages.create(...);API 会在处理输入后返回完整的结构化结果。

相关内容