Einen Checkpoint eines interaktiven Jobs bereitstellen

POST

https://api.fastino.ai

training

jobs

{job_id}

checkpoints

sampler_weights

{name}

deploy

curl -X POST "https://api.fastino.ai/v1/training/jobs/$TRAINING_JOB_ID/checkpoints/sampler_weights/step-000100/deploy" \
  -H "X-API-Key: $FASTINO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model_name": "support-replies-v1"}'

{
  "model_id": "MODEL_ID",
  "job_id": "SESSION_ID:train:0",
  "checkpoint_id": "sampler_weights/step-000100",
  "base_model": "nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16",
  "project_id": null,
  "status": "deploying"
}

POST /v1/training/jobs/{job_id}/checkpoints/sampler_weights/{name}/deploy Liefert einen Sampler-Checkpoint des Jobs als trainiertes Modell aus. Rufen Sie es mit POST /v1/chat/completions und "model": "<model_id>" auf. Das Deployment ist für unterstützte Basismodelle verfügbar; andere Basismodelle geben 400 zurück. Der status des Modells ist deploying, bis die Serving-Engine es geladen hat, danach deployed. Ein erneutes Deployment desselben Checkpoints gibt dasselbe Modell mit seinem aktuellen Status zurück; Sie können den Aufruf also wiederholen, um den Fortschritt zu prüfen. Ist ein früherer Versuch fehlgeschlagen, wiederholt der Aufruf ihn.

string

erforderlich

Ihr Fastino-API-Schlüssel.

string

erforderlich

ID des interaktiven Jobs.

string

erforderlich

Name eines mit save-weights-for-sampler gespeicherten Sampler-Checkpoints.

string

Bis zu 64 Buchstaben, Ziffern, Bindestriche und Unterstriche, beginnend und endend mit einem Buchstaben oder einer Ziffer. Wird ohne Angabe aus dem Checkpoint-Namen abgeleitet. Der Body ist optional.

curl -X POST "https://api.fastino.ai/v1/training/jobs/$TRAINING_JOB_ID/checkpoints/sampler_weights/step-000100/deploy" \
  -H "X-API-Key: $FASTINO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model_name": "support-replies-v1"}'

string

ID des trainierten Modells. Übergeben Sie sie für die Inferenz als model.

string

Der interaktive Job, der den Checkpoint gespeichert hat.

string

sampler_weights/<name>.

string

Das Basismodell des Modells.

string | null

Das Projekt des Jobs, falls vorhanden.

string

deploying oder deployed.

{
  "model_id": "MODEL_ID",
  "job_id": "SESSION_ID:train:0",
  "checkpoint_id": "sampler_weights/step-000100",
  "base_model": "nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16",
  "project_id": null,
  "status": "deploying"
}

Status	Bedeutung
`400`	Serving ist für das Basismodell des Jobs noch nicht verfügbar, oder der Checkpoint ist kein PEFT-Adapter, den die Serving-Engine akzeptiert.
`404`	Der Job oder Sampler-Checkpoint existiert nicht, gehört zu einem anderen Team oder hat keine Dateien.
`409`	Ein anderes Modell verwendet `model_name` bereits, oder das aus diesem Checkpoint ausgelieferte Modell wurde gelöscht. Speichern Sie die Gewichte unter einem neuen Namen, um sie erneut bereitzustellen.
`422`	`model_name` ist ungültig oder der Body enthält ein unbekanntes Feld.

⌘I

curl -X POST "https://api.fastino.ai/v1/training/jobs/$TRAINING_JOB_ID/checkpoints/sampler_weights/step-000100/deploy" \
  -H "X-API-Key: $FASTINO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model_name": "support-replies-v1"}'

{
  "model_id": "MODEL_ID",
  "job_id": "SESSION_ID:train:0",
  "checkpoint_id": "sampler_weights/step-000100",
  "base_model": "nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16",
  "project_id": null,
  "status": "deploying"
}