Interaktive Checkpoints
Einen Checkpoint eines interaktiven Jobs bereitstellen
Rufen Sie POST /v1/training/jobs//checkpoints/sampler_weights//deploy auf, um einen Sampler-Checkpoint als trainiertes Modell auszuliefern.
POST
POST /v1/training/jobs/{job_id}/checkpoints/sampler_weights/{name}/deploy
Stellt einen Sampler-Checkpoint des Jobs als trainiertes Modell bereit. Rufen Sie es mit POST /v1/chat/completions und "model": "<model_id>" auf. Die Deployment-Verfügbarkeit wird pro Modell und Umgebung gesteuert. Nemotron 3.5 Super VL (nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4) und Nemotron 3.5 Lightning (nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16) sind derzeit aktiviert. Qwen3.6-35B-A3B (Qwen/Qwen3.6-35B-A3B) muss für die schrittweise Einführung aktiviert werden; ohne diese Aktivierung gibt die Bereitstellung 400 mit serving for Qwen/Qwen3.6-35B-A3B is not available yet zurück. Ein GLiDE-Checkpoint (fastino/GLiDE) wird als Entscheidungsmodell bereitgestellt: Rufen Sie es mit POST /v1/systemone und "model": "<model_id>" auf.
Der status des Modells ist deploying, bis die Serving-Engine es geladen hat,
danach deployed. Ein erneutes Deployment desselben Checkpoints gibt dasselbe
Modell mit seinem aktuellen Status zurück; Sie können den Aufruf also
wiederholen, um den Fortschritt zu prüfen. Ist ein früherer Versuch
fehlgeschlagen, wiederholt der erneute Aufruf ihn.
Anfrage
string
erforderlich
Ihr Fastino-API-Schlüssel.
string
erforderlich
ID des interaktiven Jobs.
string
erforderlich
Name eines Sampler-Checkpoints, der mit
save-weights-for-sampler
gespeichert wurde.string
Bis zu 64 Buchstaben, Ziffern, Bindestriche und Unterstriche, beginnend und
endend mit einem Buchstaben oder einer Ziffer. Wird ohne Angabe aus dem
Checkpoint-Namen abgeleitet. Der Body ist optional.
string
Die Systemnachricht, mit der der Checkpoint trainiert wurde. Die Inferenz
sendet sie zuerst, wenn ein Aufrufer keine Systemnachricht sendet. Legen Sie
sie einmal pro Checkpoint fest: Wird derselbe Checkpoint mit einem anderen
system_prompt bereitgestellt, wird 409 zurückgegeben. Ein GLiDE-Checkpoint
nimmt keinen entgegen und gibt 400 zurück.Antwort
string
Die ID des trainierten Modells. Übergeben Sie sie für die Inferenz als
model.string
Der interaktive Job, der den Checkpoint gespeichert hat.
string
sampler_weights/<name>.string
Das Basismodell des Modells.
string | null
Das Projekt des Jobs, falls vorhanden.
string
deploying oder deployed.
