API 参考 - Fastino API Docs

本指南将带你以最快的方式完成可用的 Fastino 集成。完成后，你将成功发起一次推理调用，并了解 API 的整体结构。你只需要一个 Fastino 账户和一个终端。

注册并获取 API 密钥

在 Fastino 创建账户。登录后，前往 Settings → API Keys 并生成新密钥。请将其复制并妥善保存，因为关闭对话框后将无法再次查看。将密钥设置为环境变量，以便下面的示例可以直接运行：

export FASTINO_API_KEY="your_api_key_here"

列出可用的基础模型（可选）

使用 GET /v1/base-models 浏览 Fastino 提供的模型。

curl https://api.fastino.ai/v1/base-models \
  -H "X-API-Key: $FASTINO_API_KEY"

import os
import requests

response = requests.get(
    "https://api.fastino.ai/v1/base-models",
    headers={"X-API-Key": os.environ["FASTINO_API_KEY"]},
)
response.raise_for_status()
print(response.json())

const response = await fetch(
  "https://api.fastino.ai/v1/base-models",
  {
    headers: {
      "X-API-Key": process.env.FASTINO_API_KEY
    }
  }
);

if (!response.ok) {
  throw new Error(`Model request failed: ${response.status}`);
}

console.log(await response.json());

响应会列出可传递给 /v1/chat/completions 的模型 ID。例如，fastino/gliner2-base-v1 是用于抽取任务的 GLiNER 基础模型。

发起第一次推理调用

调用 POST /v1/chat/completions，并传入模型、消息以及定义抽取内容的 schema。本示例使用 GLiNER 从一个句子中抽取命名实体。

curl -X POST "https://api.fastino.ai/v1/chat/completions" \
  -H "Authorization: Bearer $FASTINO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "fastino/gliner2.5-multi-v1",
    "messages": [
      {
        "role": "user",
        "content": "Apple announced the MacBook Pro at WWDC in Cupertino."
      }
    ],
    "schema": {
      "entities": [
        {
          "name": "organization",
          "description": "business or institution name"
        },
        {
          "name": "product",
          "description": "named commercial product"
        },
        {
          "name": "event",
          "description": "named conference or event"
        },
        {
          "name": "location",
          "description": "city, region, or place"
        }
      ]
    },
    "threshold": 0.5
  }'

import json
import os

import requests

response = requests.post(
    "https://api.fastino.ai/v1/chat/completions",
    headers={
        "Authorization": f"Bearer {os.environ['FASTINO_API_KEY']}",
        "Content-Type": "application/json",
    },
    json={
        "model": "fastino/gliner2.5-multi-v1",
        "messages": [
            {
                "role": "user",
                "content": "Apple announced the MacBook Pro at WWDC in Cupertino.",
            }
        ],
        "schema": {
            "entities": [
                {"name": "organization", "description": "business or institution name"},
                {"name": "product", "description": "named commercial product"},
                {"name": "event", "description": "named conference or event"},
                {"name": "location", "description": "city, region, or place"},
            ]
        },
        "threshold": 0.5,
    },
)
response.raise_for_status()

result = response.json()
entities = json.loads(result["choices"][0]["message"]["content"])
print(json.dumps(entities, indent=2))

const response = await fetch(
  "https://api.fastino.ai/v1/chat/completions",
  {
    method: "POST",
    headers: {
      Authorization: `Bearer ${process.env.FASTINO_API_KEY}`,
      "Content-Type": "application/json",
    },
    body: JSON.stringify({
      model: "fastino/gliner2.5-multi-v1",
      messages: [
        {
          role: "user",
          content: "Apple announced the MacBook Pro at WWDC in Cupertino.",
        },
      ],
      schema: {
        entities: [
          { name: "organization", description: "business or institution name" },
          { name: "product", description: "named commercial product" },
          { name: "event", description: "named conference or event" },
          { name: "location", description: "city, region, or place" },
        ],
      },
      threshold: 0.5,
    }),
  }
);

if (!response.ok) {
  throw new Error(`Inference failed: ${response.status} ${await response.text()}`);
}

const result = await response.json();
const entities = JSON.parse(result.choices[0].message.content);
console.log(JSON.stringify(entities, null, 2));

对于 GLiNER 等编码器模型，schema 对象用于定义任务，可包含：

entities - 用于命名实体抽取的实体定义
classifications - 用于文本分类的 {task, labels} 定义
structures - 用于 JSON 抽取的结构化记录定义
relations - 关系定义

对于解码器模型，请省略 schema，并发送普通的聊天消息。

model 必须是支持推理的基础模型 ID，或者是已完成且可部署的训练任务的 UUID。训练完成后，请先部署所选工件，再使用该任务 UUID 进行推理。

启动训练任务（可选）

当你准备好使用自己的数据进行微调时，请启动训练任务：

curl -X POST https://api.fastino.ai/v1/training/jobs \
  -H "X-API-Key: $FASTINO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model_name": "my-gliner-model",
    "base_model": "fastino/gliner2-base-v1",
    "datasets": [{"name": "my-dataset"}],
    "training_type": "lora",
    "nr_epochs": 5,
    "learning_rate": 5e-5
  }'

import os
import requests

response = requests.post(
    "https://api.fastino.ai/v1/training/jobs",
    headers={
        "X-API-Key": os.environ["FASTINO_API_KEY"],
        "Content-Type": "application/json",
    },
    json={
        "model_name": "my-gliner-model",
        "base_model": "fastino/gliner2-base-v1",
        "datasets": [{"name": "my-dataset"}],
        "training_type": "lora",
        "nr_epochs": 5,
        "learning_rate": 5e-5,
    },
)
response.raise_for_status()
print(response.json())

响应中包含任务 id。轮询 GET /v1/training/jobs/{id} 以检查其状态。任务达到 complete 后，请先部署所选工件，再将任务 ID 作为 /v1/chat/completions 中的 model 使用。原生 JSON 客户端使用 OpenAPI 中 /v1/training/jobs 和 /v1/training/usage 下的公共操作。现有 Tinker 客户端保留 tinker==0.32.0，并仅设置 TINKER_BASE_URL=https://api.fastino.ai/v1/training/compat/tinker 和 TINKER_CREDENTIAL_CMD。持久化任务状态依次为 requested → running → complete，或以 errored 或 stopped 结束。规范化轮询状态以 failed 表示最终失败状态。

后续步骤

训练 API

使用 Fastino 训练 API 端到端微调模型。

推理 API

通过 Fastino API 使用基础模型或微调模型运行推理。

从 Pioneer API 源迁移

训练路由现在使用 /v1 前缀。例如，/felix/training-jobs 现在变为 /v1/training/jobs，其针对特定任务的操作也保留在这一新路由族下。直接 API 集成应使用 FASTINO_API_KEY 并搭配新生成的 fast_sk_ 密钥；旧版 pio_sk_ 密钥已停用。X-API-Key 和 Bearer 认证方式均继续有效。

​后续步骤

训练 API

推理 API

​从 Pioneer API 源迁移

后续步骤

从 Pioneer API 源迁移