Zum Hauptinhalt springen

Ihren API-Schlüssel einrichten

  1. Erstellen Sie ein Fastino-Konto
  2. Rufen Sie Ihren API-Schlüssel unter Settings ab
Setzen Sie Ihren Schlüssel als Umgebungsvariable, damit die folgenden Beispiele unverändert funktionieren:

Ihren ersten Inferenzaufruf ausführen

Rufen Sie POST /v1/systemone mit einem model, einem state, der die Situation beschreibt, und einer oder mehreren typisierten questions auf. GLiDE gibt strukturierte Antworten und kalibrierte Wahrscheinlichkeiten direkt zurück. Es gibt keinen generierten Text, der geparst werden muss. Das folgende Beispiel stellt eine einzelne Ja/Nein-Frage (noul). GLiDE kostet 0,04 $ pro 1 Million Eingabe-Tokens. Ausgabe-Tokens sind kostenlos (0 $). Die aktuellen Inferenzpreise finden Sie unter Preise.
So führen Sie einen GLiDE-Entscheidungsaufruf aus:
Eine erfolgreiche Antwort sieht so aus:
answers.refund_allowed.noul ist die Wahrscheinlichkeit, dass die Antwort „Ja“ lautet. Auf drei Dezimalstellen gerundet ist 0.998 ein starkes Signal dafür, dass die Anfrage die Voraussetzungen erfüllt. Fahren Sie mit den Referenzen zu Noul, Choice und Score fort, oder verwenden Sie den Routing-Leitfaden, um Konfidenz in eine Aktion umzusetzen.
Wenn Sie statt einer Entscheidung eine Extraktion auf Span-Ebene benötigen (NER, Klassifikation, strukturierte Datensätze), rufen Sie POST /v1/chat/completions mit einem Modell, einer Nachricht und einem Schema auf, das definiert, was Sie extrahieren möchten:
Bei Encoder-Modellen (GLiNER) definiert das Objekt schema die Aufgabe und kann entities, classifications, structures und relations enthalten. Bei Decoder-Modellen (LLMs) lassen Sie schema weg und senden eine normale Chat-Nachricht. Den vollständigen Vertrag, Python-/JavaScript-Beispiele und Fehlercodes finden Sie in der Inferenz-API.

Einen Decoder-Trainingsjob erstellen

Erstellen Sie einen LoRA-Job für interaktives Training (interactive-Job), bei dem Ihre Anwendung jeden Trainingsschritt steuert: Fragen Sie vor dem Erstellen des Jobs GET /v1/base-models?supports_training=true ab und verwenden Sie eine exakte Decoder-Modell-ID, die für Ihr Team zurückgegeben wird. Ein Kontextlimit für interaktives Training beschreibt diese Trainingsoperation; es kann vom Inferenzkontext des Katalogmodells oder vom Request-Limit eines Inferenzendpunkts abweichen.
Die Antwort enthält die job_id und die zugehörige Create-future_id. Fahren Sie mit dem Decoder-Schnellstart fort, um Forward-Backward- und Optimizer-Operationen auszuführen und einen Checkpoint zu speichern.

Nächste Schritte

Entscheidungsmodelle

Verstehen Sie Entscheidungsmodelle und fahren Sie mit GLiDE oder GLiNER 2.5 Decide fort.

GLiDE Agent Skill

Nutzen Sie diesen Skill, damit Ihr Coding-Agent Entscheidungen mit GLiDE klassifiziert, routet und bewertet.

GLiDE-Inferenz

Sehen Sie sich die vollständige /v1/systemone-Anfrage und -Antwort sowie Limits, Wiederholungsversuche und Fehler an.

Training-API

Trainieren Sie Nemotron 3.5 Super VL End-to-End mit der Training-API.