base_url 设置为 https://api.fastino.ai,使用 Fastino API 密钥进行认证,并将 GET /v1/models 返回的 GLiNER 模型 ID 或 GLiNER 训练任务 ID 用作模型名称。Anthropic SDK 会自行追加 /v1/messages。
支持的 SDK 功能
配置 Anthropic SDK
在构造客户端时传入你的 Fastino API 密钥和基础 URL:创建消息
POST /v1/messages 接受 Anthropic Messages 的核心字段。将 model 设置为受支持的 GLiNER 模型 ID,包含 messages 数组,并通过 extra_body 传入抽取或分类 schema。
请求参数
string
必填
训练任务 ID(例如
job_abc123)或基础模型 ID。这是处理你请求的模型。number
必填
Anthropic SDK 为保持请求兼容性而要求此字段。GLiNER 返回结构化输出,而不是生成 token。
object[]
必填
对话消息。每个对象包含一个
role("user" 或 "assistant")和一个 content 字符串。object
Fastino 特有的抽取 schema。定义
entities、classifications、structures 或 relations 以控制模型抽取的内容。完整的 schema 文档请参阅 Fastino 推理。示例
流式传输
GLiNER 推理不支持流式传输。请使用不带stream=True 的 client.messages.create(...);API 会在处理输入后返回完整的结构化结果。
相关内容
- Fastino 原生推理 - 直接调用 Fastino 端点,附完整的 schema 文档
- 兼容 OpenAI 的推理 - 改用 OpenAI SDK
- 推理历史与反馈 - 获取过往结果并提交更正

