Skip to main content
Führen Sie Inferenz mit Fastino-Modellen über einen von zwei API-Verträgen aus. Jeder Vertrag hat eine eigene Anfrage- und Antwortform; die Felder sind nicht austauschbar.

Eine Entscheidung mit GLiDE treffen

Rufen Sie POST /v1/systemone mit state und typisierten questions auf. Sie erhalten Noul-, Choice- oder Score-Antworten mit Wahrscheinlichkeiten und Konfidenz.

GLiNER ausführen

Rufen Sie POST /v1/chat/completions mit messages auf. Fügen Sie ein schema für GLiNER-Extraktion, Klassifikation, Strukturen oder Relationen hinzu.
Für GLiDE-Konzepte und die Auswahl der Primitive beginnen Sie mit Entscheidungsmodelle. Der GLiDE-Inferenzleitfaden behandelt die HTTP-Integration.

​
Kaltstarts und Wiederholungsversuche

Ein inaktives oder neu bereitgestelltes Modell kann einen Kaltstart durchführen. Verwenden Sie ein Lese-Timeout von mindestens 300 Sekunden und begrenztes Backoff für Antworten mit 425, 429 und 503. Beachten Sie Retry-After, sofern vorhanden. Eine Anfrage, die in einen Timeout gelaufen ist, kann die Bereitstellung dennoch aufwärmen, sodass die nächste Anfrage erfolgreich sein kann. Wiederholen Sie Fehler bei Authentifizierung, Abrechnung, Validierung oder unbekanntem Modell nicht, ohne das zugrunde liegende Problem zu beheben.