Zum Hauptinhalt springen

Training

Konfigurationsjobs werden nach GPU-Zeit abgerechnet. Interaktive Jobs werden nach Tokens abgerechnet.

Konfigurationsjobs

Der Preis hängt von der GPU ab, die das ausgewählte Modell verwendet:

Interaktive Jobs

Token-Preise sind in USD pro 1 Mio. Tokens angegeben. Train umfasst Forward- sowie Forward-/Backward-Tokens. Beim Sampling werden ungecachte Prefill-, Cache-Read- und generierte Ausgabe-Tokens getrennt abgerechnet. Interaktiver Checkpoint-Speicher kostet $0.05 pro GB-Monat und wird täglich erfasst.

Inferenz

GLiDE-Antworten melden usage.output_tokens für ihre strukturierten Antworten, diese Ausgabe-Tokens kosten jedoch $0; nur Eingabe-Tokens werden zum angegebenen Tarif abgerechnet. Preise pro Modell-ID finden Sie im Modellkatalog. Während Sie Fastino weiter nutzen, können Sie jederzeit Guthaben aufladen, damit Ihre Inferenz- und Trainings-Workflows weiterlaufen.