Zum Hauptinhalt springen
POST
POST /v1/training/jobs/{job_id}/checkpoints/sampler_weights/{name}/deploy Stellt einen Sampler-Checkpoint des Jobs als trainiertes Modell bereit. Rufen Sie es mit POST /v1/chat/completions und "model": "<model_id>" auf. Die Deployment-Verfügbarkeit wird pro Modell und Umgebung gesteuert. Nemotron 3.5 Super VL (nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4) und Nemotron 3.5 Lightning (nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16) sind derzeit aktiviert. Qwen3.6-35B-A3B (Qwen/Qwen3.6-35B-A3B) muss für die schrittweise Einführung aktiviert werden; ohne diese Aktivierung gibt die Bereitstellung 400 mit serving for Qwen/Qwen3.6-35B-A3B is not available yet zurück. Ein GLiDE-Checkpoint (fastino/GLiDE) wird als Entscheidungsmodell bereitgestellt: Rufen Sie es mit POST /v1/systemone und "model": "<model_id>" auf. Der status des Modells ist deploying, bis die Serving-Engine es geladen hat, danach deployed. Ein erneutes Deployment desselben Checkpoints gibt dasselbe Modell mit seinem aktuellen Status zurück; Sie können den Aufruf also wiederholen, um den Fortschritt zu prüfen. Ist ein früherer Versuch fehlgeschlagen, wiederholt der erneute Aufruf ihn.

Anfrage

string
erforderlich
Ihr Fastino-API-Schlüssel.
string
erforderlich
ID des interaktiven Jobs.
string
erforderlich
Name eines Sampler-Checkpoints, der mit save-weights-for-sampler gespeichert wurde.
string
Bis zu 64 Buchstaben, Ziffern, Bindestriche und Unterstriche, beginnend und endend mit einem Buchstaben oder einer Ziffer. Wird ohne Angabe aus dem Checkpoint-Namen abgeleitet. Der Body ist optional.
string
Die Systemnachricht, mit der der Checkpoint trainiert wurde. Die Inferenz sendet sie zuerst, wenn ein Aufrufer keine Systemnachricht sendet. Legen Sie sie einmal pro Checkpoint fest: Wird derselbe Checkpoint mit einem anderen system_prompt bereitgestellt, wird 409 zurückgegeben. Ein GLiDE-Checkpoint nimmt keinen entgegen und gibt 400 zurück.

Antwort

string
Die ID des trainierten Modells. Übergeben Sie sie für die Inferenz als model.
string
Der interaktive Job, der den Checkpoint gespeichert hat.
string
sampler_weights/<name>.
string
Das Basismodell des Modells.
string | null
Das Projekt des Jobs, falls vorhanden.
string
deploying oder deployed.