Démarrage rapide de l'API d'entraînement

Ce démarrage rapide couvre les deux voies de l’API d’entraînement. Utilisez l’entraînement géré lorsque vous souhaitez que Fastino exécute la boucle. Utilisez une boucle d’entraînement personnalisée lorsque votre application doit contrôler l’échantillonnage, les récompenses et les mises à jour du modèle.

1. S’authentifier

Créez un compte Fastino.
Ouvrez la page des clés API.
Créez une clé et copiez-la lorsqu’elle s’affiche.

Enregistrez la clé dans une variable d’environnement :

export FASTINO_API_KEY="fast_sk_..."

$env:FASTINO_API_KEY = "fast_sk_..."

Envoyez cette clé sous la forme X-API-Key: $FASTINO_API_KEY. Consultez Authentification pour le contrat d’authentification complet.

2. Choisir une voie

Objectif	Voie
Fournir des données et une configuration, puis laisser Fastino exécuter l’entraînement	Entraînement géré
Contrôler l’échantillonnage, les récompenses et les mises à jour dans votre application	Boucle d’entraînement personnalisée

Entraînement géré

3. Préparer un dataset

Importez et traitez un dataset d’entraînement, puis attendez que sa version soit ready.

4. Choisir un modèle

Interrogez le catalogue actif avant la soumission :

curl "https://api.fastino.ai/v1/base-models?supports_training=true" \
  -H "X-API-Key: $FASTINO_API_KEY"

Conservez l’ID du modèle sélectionné.

5. Créer le job

curl -X POST "https://api.fastino.ai/v1/training/jobs" \
  -H "X-API-Key: $FASTINO_API_KEY" \
  -H "Content-Type: application/json" \
  -H "Idempotency-Key: $(uuidgen)" \
  -d '{
    "model_name": "my-trained-model",
    "base_model": "MODEL_ID_FROM_CATALOG",
    "datasets": [
      {"name": "my-ready-dataset", "version": "VERSION_NUMBER"}
    ],
    "training_type": "lora"
  }'

Conservez l’id renvoyé. Il s’agit du job_id utilisé par chaque route propre à un job. Réutilisez la même valeur Idempotency-Key uniquement lorsque vous réessayez exactement cette requête de création.

6. Interroger le job

curl "https://api.fastino.ai/v1/training/jobs/JOB_ID" \
  -H "X-API-Key: $FASTINO_API_KEY"

Pour les jobs de configuration :

status est la valeur persistée du cycle de vie, telle que errored.
normalized_status est la valeur stable d’interrogation, telle que failed.
is_terminal_status indique à votre client quand arrêter les interrogations.
error_message décrit un échec lorsque cette information est disponible.

Continuez jusqu’à ce que is_terminal_status soit true, puis examinez le statut final, les checkpoints, les logs et l’admissibilité au déploiement.

Boucle d’entraînement personnalisée

Les boucles d’entraînement personnalisées nécessitent un accès pour l’équipe et Python 3.11 ou une version ultérieure. Le client SDK pris en charge communique avec l’adaptateur de compatibilité HTTP masqué de Fastino. Utilisez les méthodes du client ci-dessous. Ne construisez pas de requêtes vers l’adaptateur.

3. Installer le client testé

uv init fastino-training
cd fastino-training
uv add "tinker==0.33.1"

mkdir fastino-training && cd fastino-training
python -m venv .venv
source .venv/bin/activate
pip install "tinker==0.33.1"

mkdir fastino-training
cd fastino-training
py -m venv .venv
.\.venv\Scripts\Activate.ps1
pip install "tinker==0.33.1"

4. Configurer le client

TINKER_CREDENTIAL_CMD est exécuté à chaque demande de token et doit afficher un seul identifiant non vide.

export TINKER_BASE_URL="https://api.fastino.ai/v1/training/compat/tinker"
export TINKER_CREDENTIAL_CMD='printf "%s\n" "$FASTINO_API_KEY"'

$env:TINKER_BASE_URL = "https://api.fastino.ai/v1/training/compat/tinker"
$env:TINKER_CREDENTIAL_CMD = 'powershell -NoProfile -Command "[Console]::Out.WriteLine($env:FASTINO_API_KEY)"'

Utilisez une clé Fastino normale commençant par fast_sk_. Les identifiants commençant par tml- sont rejetés. Ne définissez pas TINKER_API_KEY.

5. Choisir un modèle activé

Appelez ServiceClient.get_server_capabilities() et sélectionnez un modèle et un rang LoRA dans sa réponse :

export FASTINO_TRAINING_MODEL="<model from capabilities>"
export FASTINO_TRAINING_LORA_RANK="<supported rank>"

$env:FASTINO_TRAINING_MODEL = "<model from capabilities>"
$env:FASTINO_TRAINING_LORA_RANK = "<supported rank>"

6. Créer le job et échantillonner

Créez quickstart.py :

import os

import tinker


service_client = tinker.ServiceClient()
outcome = "errored"
try:
    capabilities = service_client.get_server_capabilities()
    print(capabilities)

    training_client = service_client.create_lora_training_client(
        base_model=os.environ["FASTINO_TRAINING_MODEL"],
        rank=int(os.environ["FASTINO_TRAINING_LORA_RANK"]),
    )

    job_id = training_client.get_info().model_data.model_id
    print(f"TRAINING_JOB_ID={job_id}")

    checkpoint = training_client.save_weights_for_sampler(
        "quickstart-sampler"
    ).result()
    sampling_client = service_client.create_sampling_client(
        model_path=checkpoint.path
    )

    tokenizer = sampling_client.get_tokenizer()
    prompt_tokens = tokenizer.apply_chat_template(
        conversation=[
            {
                "role": "user",
                "content": "Explain the purpose of a reward function in one sentence.",
            }
        ],
        add_generation_prompt=True,
        return_dict=False,
    )
    result = sampling_client.sample(
        prompt=tinker.types.ModelInput.from_ints(prompt_tokens),
        num_samples=1,
        sampling_params=tinker.types.SamplingParams(max_tokens=64),
    ).result()

    print(tokenizer.decode(result.sequences[0].tokens))
except KeyboardInterrupt:
    outcome = "interrupted"
    raise
else:
    outcome = "success"
finally:
    service_client.close(outcome).result()

Exécutez le script :

python quickstart.py

Copiez la valeur affichée après TRAINING_JOB_ID=.

7. Vérifier le job canonique

export TRAINING_JOB_ID="<ID printed by quickstart.py>"
curl --fail-with-body \
  -H "X-API-Key: $FASTINO_API_KEY" \
  "https://api.fastino.ai/v1/training/jobs/$TRAINING_JOB_ID"

$env:TRAINING_JOB_ID = "<ID printed by quickstart.py>"
Invoke-RestMethod `
  -Headers @{ "X-API-Key" = "$env:FASTINO_API_KEY" } `
  -Uri "https://api.fastino.ai/v1/training/jobs/$env:TRAINING_JOB_ID"

La réponse décrit le même job que celui créé par create_lora_training_client(...). Continuez à utiliser le client SDK pour les opérations sur le modèle et l’API canonique des jobs pour les lectures de jobs documentées.

Continuer

Datasets

Préparez et validez les données d’entraînement.

Référence des jobs

Consultez le contrat complet de requête et de réponse.

Boucle d'entraînement

Ajoutez des récompenses, des mises à jour et la récupération à une boucle personnalisée.

Démarrage

Modèles de décision

Entités et classification

API d'entraînement

API d'inférence

Dépannage

Intégrations SDK

Modèles

Compte

Démarrage rapide de l'API d'entraînement

1. S’authentifier

2. Choisir une voie

Entraînement géré

3. Préparer un dataset

4. Choisir un modèle

5. Créer le job

6. Interroger le job

Boucle d’entraînement personnalisée

3. Installer le client testé

4. Configurer le client

5. Choisir un modèle activé

6. Créer le job et échantillonner

7. Vérifier le job canonique

Continuer

Datasets

Référence des jobs

Boucle d'entraînement

​1. S’authentifier

​2. Choisir une voie

​Entraînement géré

​3. Préparer un dataset

​4. Choisir un modèle

​5. Créer le job

​6. Interroger le job

​Boucle d’entraînement personnalisée

​3. Installer le client testé

​4. Configurer le client

​5. Choisir un modèle activé

​6. Créer le job et échantillonner

​7. Vérifier le job canonique

​Continuer

Datasets

Référence des jobs

Boucle d'entraînement

1. S’authentifier

2. Choisir une voie

Entraînement géré

3. Préparer un dataset

4. Choisir un modèle

5. Créer le job

6. Interroger le job

Boucle d’entraînement personnalisée

3. Installer le client testé

4. Configurer le client

5. Choisir un modèle activé

6. Créer le job et échantillonner

7. Vérifier le job canonique

Continuer