Desplegar un checkpoint de un trabajo interactivo

POST

https://api.fastino.ai

training

jobs

{job_id}

checkpoints

sampler_weights

{name}

deploy

curl -X POST "https://api.fastino.ai/v1/training/jobs/$TRAINING_JOB_ID/checkpoints/sampler_weights/step-000100/deploy" \
  -H "X-API-Key: $FASTINO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model_name": "support-replies-v1"}'

{
  "model_id": "MODEL_ID",
  "job_id": "SESSION_ID:train:0",
  "checkpoint_id": "sampler_weights/step-000100",
  "base_model": "nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16",
  "project_id": null,
  "status": "deploying"
}

POST /v1/training/jobs/{job_id}/checkpoints/sampler_weights/{name}/deploy Sirve uno de los checkpoints sampler del trabajo como modelo entrenado. Llámalo con POST /v1/chat/completions y "model": "<model_id>". El despliegue está disponible para los modelos base compatibles; las demás bases devuelven 400. El status del modelo es deploying hasta que el motor de serving lo carga, y luego deployed. Desplegar de nuevo el mismo checkpoint devuelve el mismo modelo y su estado actual, así que puedes repetir la llamada para ver el progreso. Si un intento anterior falló, la llamada repetida lo reintenta.

string

requerido

Tu clave de API de Fastino.

string

requerido

ID del trabajo interactivo.

string

requerido

Nombre de un checkpoint sampler guardado con save-weights-for-sampler.

string

Hasta 64 letras, dígitos, guiones y guiones bajos, que empiecen y terminen con una letra o un dígito. Si se omite, se deriva del nombre del checkpoint. El cuerpo es opcional.

curl -X POST "https://api.fastino.ai/v1/training/jobs/$TRAINING_JOB_ID/checkpoints/sampler_weights/step-000100/deploy" \
  -H "X-API-Key: $FASTINO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model_name": "support-replies-v1"}'

string

ID del modelo entrenado. Pásalo como model para la inferencia.

string

El trabajo interactivo que guardó el checkpoint.

string

sampler_weights/<name>.

string

El modelo base del modelo.

string | null

El proyecto del trabajo, si tiene uno.

string

deploying o deployed.

{
  "model_id": "MODEL_ID",
  "job_id": "SESSION_ID:train:0",
  "checkpoint_id": "sampler_weights/step-000100",
  "base_model": "nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16",
  "project_id": null,
  "status": "deploying"
}

Estado	Significado
`400`	El serving aún no está disponible para el modelo base del trabajo, o el checkpoint no es un adaptador PEFT que acepte el motor de serving.
`404`	El trabajo o el checkpoint sampler no existe, pertenece a otro equipo o no tiene archivos.
`409`	Otro modelo ya usa `model_name`, o se eliminó el modelo servido desde este checkpoint. Guarda los pesos con un nombre nuevo para desplegarlos otra vez.
`422`	`model_name` no es válido o el cuerpo tiene un campo desconocido.

⌘I

curl -X POST "https://api.fastino.ai/v1/training/jobs/$TRAINING_JOB_ID/checkpoints/sampler_weights/step-000100/deploy" \
  -H "X-API-Key: $FASTINO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model_name": "support-replies-v1"}'

{
  "model_id": "MODEL_ID",
  "job_id": "SESSION_ID:train:0",
  "checkpoint_id": "sampler_weights/step-000100",
  "base_model": "nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16",
  "project_id": null,
  "status": "deploying"
}

Inferencia

Entrenamiento

Desplegar un checkpoint de un trabajo interactivo