Vue d'ensemble de l'API d'entraînement

Chaque workload d’entraînement Fastino est un job. Choisissez l’entraînement géré (job config), l’entraînement interactif (job interactive) ou Auto Train, puis utilisez /v1/training/jobs pour inspecter le job.

​

Choisir un type de job

Chaque job a un type : Les deux types partagent la même identité de job. Les lectures canoniques utilisent GET /v1/training/jobs, GET /v1/training/jobs/{job_id} et GET /v1/training/jobs/{job_id}/checkpoints. Les clients JSON natifs utilisent les opérations publiques d’OpenAPI sous /v1/training/jobs. Les clients Tinker existants conservent tinker==0.32.0 et configurent uniquement TINKER_BASE_URL=https://api.fastino.ai/v1/training/compat/tinker et TINKER_CREDENTIAL_CMD.

​

Cycle de vie d’un job de configuration

Les statuts persistés suivants décrivent les jobs config. Un job interactive suit les opérations soumises via ses routes ; ne déduisez pas son cycle de vie à partir de ce tableau. normalized_status fournit la valeur stable d’interrogation, notamment failed en cas d’échec terminal. status reste la valeur persistée, telle que errored.

​

Cycle de vie d’un job interactif

Un job interactif exécute les opérations que vous lui envoyez, dans l’ordre de réception. Chaque appel renvoie un future_id ; lisez son résultat sur GET /v1/training/jobs/{job_id}/futures/{future_id}.

• Vous ne numérotez pas les requêtes et n’envoyez pas de heartbeats.
• Chaque équipe peut avoir au maximum 16 jobs interactifs actifs. Chaque job peut mettre en file jusqu’à 512 opérations, et chaque équipe peut avoir au maximum 2,048 requêtes d’échantillonnage en cours. L’API renvoie 429 lorsque l’une de ces limites est atteinte.
• Un job REST natif sans appel pendant 30 minutes est libéré. Une session du SDK Tinker est libérée après 5 minutes sans heartbeat du SDK ; gardez le ServiceClient actif ou terminez la session. Les checkpoints sont conservés.
• POST /v1/training/jobs/{job_id}/stop répond immédiatement et n’accepte plus de nouveaux appels. Les opérations déjà en file peuvent se terminer avant la libération des ressources. L’utilisation peut continuer jusqu’à cette libération. Les checkpoints sampler restent échantillonnables et téléchargeables ensuite.

​

Facturation des jobs interactifs

Les jobs interactifs facturent les tokens d’entraînement des appels forward et forward/backward, les tokens d’entrée, de lecture du cache et de sortie de l’échantillonnage, ainsi que le stockage des checkpoints. Le stockage est mesuré chaque jour à $0.05 par Go-mois. Consultez les Tarifs pour les prix de préremplissage, de lecture du cache, de sortie Sample et des tokens d’entraînement de chaque modèle. La création d’un modèle, les étapes d’optimisation et l’enregistrement ou le chargement de checkpoints n’ajoutent pas de frais d’utilisation d’entraînement interactif. Les contrôles de dépenses du compte et du projet continuent de s’appliquer au démarrage ou à l’extension du calcul. Utilisez GET /v1/training/usage pour consulter le stockage des checkpoints interactifs de l’équipe et son prix mensuel. Le calcul et la facturation totale sont exclus. L’endpoint de facturation par job concerne uniquement les jobs config.

​

Étapes suivantes

Vous migrez une charge existante du SDK Tinker ? Consultez Migrer depuis Tinker.