Skip to main content
Dies ist der Inferenzendpunkt für GLiDE. Senden Sie einen nicht leeren state und eine oder mehrere benannte, typisierte questions; lesen Sie strukturierte Entscheidungen aus answers. GLiDE verwendet weder /v1/chat/completions noch messages oder ein GLiNER-schema.

Ihren API-Schlüssel einrichten

  1. Erstellen Sie ein Fastino-Konto
  2. Rufen Sie Ihren API-Schlüssel unter Settings ab
Setzen Sie Ihren Schlüssel als Umgebungsvariable, damit die folgenden Beispiele unverändert funktionieren:

Einen Fragetyp wählen

Jede Frage ist Single-Label und gibt Wahrscheinlichkeiten zurück. Wählen Sie das Primitiv anhand der Antwortform, die Ihr Code benötigt: Es gibt kein Multi-Label-Primitiv. Stellen Sie mehrere unabhängig benannte Fragen in einer Anfrage, wenn Sie mehrere Urteile über denselben State benötigen.

Anfrage

string
erforderlich
Verwenden Sie fastino/GLiDE. Die Antwort gibt den Engine-Namen als glide zurück.
string | object | array
erforderlich
Die nicht leere Situation, die bewertet werden soll. Verwenden Sie einen String für eine Passage, ein Objekt für beschriftete Felder oder ein Array für eine geordnete Abfolge von Nachrichten oder Datensätzen.
object
erforderlich
Ein nicht leeres Objekt mit von Ihnen gewählten Namen als Schlüsseln. Jeder Wert muss type und instructions enthalten; Choice und Score erfordern zusätzlich criteria. Dieselben Schlüssel erscheinen unter answers in der Antwort.

Vollständige Anfrage

Antwort

answers verwendet die Fragenschlüssel aus Ihrer Anfrage. Für dieses Noul gilt:
  • noul ist die Wahrscheinlichkeit, dass das true-Kriterium zutrifft. Es ist kein boolescher Wert.
  • confidence ist die Sicherheit bezüglich eines der beiden Ergebnisse: |2 × noul − 1|.
  • Passen Sie die Schwellenwerte für Aktionen anhand repräsentativer Daten an. Gehen Sie nicht davon aus, dass 0.5 der richtige geschäftliche Schwellenwert ist.
Choice und Score geben andere Felder zurück. Die genauen Antwortformen und Integrationsbeispiele finden Sie auf den jeweiligen Primitiv-Seiten.

Limits und nicht unterstützte Formen

  • Jeder gerenderte Frage-Prompt (state plus die jeweilige Frage) muss in 40.000 Token passen.
  • Choice und Score akzeptieren höchstens 255 Optionen oder Stufen.
  • usage.input_tokens summiert die internen Durchläufe für alle Fragen und kann daher 40.000 überschreiten, obwohl jeder einzelne gerenderte Prompt passt.
  • Eine Anfrage bewertet einen gemeinsamen state; legen Sie mehrere Fragen unter questions ab.
  • /v1/systemone unterstützt kein Streaming und akzeptiert keinen Batch unabhängiger States.
  • GLiDE unterstützt derzeit keine IDs feinabgestimmter Bereitstellungen.
Hinweise zu State-Formen, Konfidenzformeln und eine gemischte Choice/Score-Anfrage finden Sie in der GLiDE-Referenz.

Von TypeSafe migrieren

Jev von TypeSafe und GLiDE von Fastino verwenden dieselbe System-One-Struktur aus state, benannten questions und passenden answers. Die meisten Anfragen lassen sich problemlos übertragen, die Integration ist jedoch kein Drop-in-Ersatz. Verwenden Sie diese Checkliste für eine sichere Migration:
1

System-One-Anfragestruktur beibehalten

Behalten Sie den nicht leeren state, die Fragenschlüssel und die Primitivtypen bei. GLiDE verlangt, dass jeder instructions-Wert ein nicht leerer String ist. Wandeln Sie daher fehlende, null-, Objekt- oder Array-Anweisungen in klaren Text um. Behalten Sie Choice-Kriterien als Objekt bei. Noul-Kriterien sind optional, ihre true- und false-Werte müssen aber Strings sein. Verwenden Sie für Score-Kriterien bevorzugt ein geordnetes Array. Senden Sie nur die dokumentierten Anfragefelder, die Ihre Integration benötigt. Nicht unterstützte Felder auf oberster Ebene geben 422 zurück. Kopieren Sie daher keine beliebigen TypeSafe-Client-Optionen in den JSON-Body.
2

Endpunkt, Zugangsdaten und Modell ändern

Richten Sie die Anfrage an Fastino, lesen Sie FASTINO_API_KEY, senden Sie den Schlüssel mit X-API-Key und setzen Sie model auf fastino/GLiDE. Fastino akzeptiert auch den Bearer-Header, falls die Beibehaltung dieses Stils eine direkte HTTP-Migration vereinfacht. Erwarten Sie model: "glide" in der Antwort.
3

Verarbeitung von Score-Antworten aktualisieren

Der score von TypeSafe ist ein wahrscheinlichkeitsgewichteter Float. Das GLiDE-Äquivalent ist expected_level. Der score von GLiDE ist dagegen der ganzzahlige Index der wahrscheinlichsten Stufe. GLiDE gibt die Legendenbeschreibungen von Score als Strings zurück. Passen Sie daher Konsumenten an, die strukturierte Legendenwerte erwarten. Für Score-Anfragen akzeptiert GLiDE auch Kriterienobjekte mit numerischen String-Schlüsseln, etwa {"1": "low", "3": "medium", "5": "high"}. Die Schlüssel werden sortiert und verworfen, und die Antwort wird von 0 bis N-1 neu indiziert. Verwenden Sie ein geordnetes Array, wenn die ursprünglichen numerischen Werte nicht mit zurückgegebenen Stufenindizes verwechselt werden dürfen.
4

Stufenschlüssel und Wiederholungsverhalten prüfen

GLiDE gibt Score-probabilities und -legend mit String-Schlüsseln wie "0" und "1" zurück. Die rohe HTTP-Antwort von TypeSafe macht das ebenso, das Python-SDK kann jedoch ganzzahlige Schlüssel bereitstellen. Konvertieren Sie Schlüssel nur, wenn die Anwendung Maps mit ganzzahligen Schlüsseln benötigt. Ersetzen Sie die 529-Wiederholungslogik von TypeSafe durch die Behandlung von 425 und 503 bei Fastino und behalten Sie begrenztes Backoff für 429 bei. Beachten Sie Retry-After, sofern vorhanden, und wenden Sie dasselbe Wiederholungsbudget auf Transportfehler an.
5

Entscheidungsschwellenwerte neu validieren

Lassen Sie bestehende Geschäftsaktionen bei der Portierung unverändert und testen Sie GLiDE vor dem Deployment an repräsentativen Fällen. Gehen Sie nicht davon aus, dass für Jev kalibrierte Schwellenwerte unverändert auf ein anderes Modell übertragbar sind.
Bilden Sie den Gleitkomma-score von TypeSafe nicht auf den score von GLiDE ab. Lesen Sie answers.<key>.expected_level, wenn bestehender Code einen gewichteten Score erwartet. Lesen Sie answers.<key>.score nur, wenn der Code den Index der einzelnen gewinnenden Stufe benötigt.

TypeSafe-SDK-Nutzung ersetzen

Wenn das Projekt ein TypeSafe-SDK verwendet:
  1. Suchen Sie typesafe-sdk, @typesafe-ai/sdk, TypeSafeClient, AsyncTypeSafeClient und TypeSafe-Fragekonstruktoren in Manifesten, Imports, Anwendungscode und Tests.
  2. Ersetzen Sie SDK-Konstruktoren und typisierten Antwortzugriff durch den HTTP-Client des Projekts und dekodiertes JSON.
  3. Entfernen Sie TypeSafe-Pakete und -Imports erst, wenn keine Referenzen mehr vorhanden sind.
Die oben genannten Regeln zu Endpunkt, Validierung, Wiederholungen und Score gelten weiterhin.

Fehler

Eine erste Anfrage an ein kaltes Modell kann während des Aufwärmens 425 model_warming zurückgeben; versuchen Sie es nach etwa 60 Sekunden erneut. Verwenden Sie ein Lese-Timeout von mindestens 300 Sekunden und begrenztes Backoff für 425, 429 und 503. Wiederholen Sie 401, 402, 403, 404 oder 422 nicht, ohne das zugrunde liegende Problem zu beheben.

Weiterlernen

GLiDE-Referenz

Verstehen Sie State-Formen, Limits, Konfidenz und das Kombinieren mehrerer Fragen.

Noul

Eine Ja/Nein-Wahrscheinlichkeit integrieren.

Choice

An eine benannte Option weiterleiten.

Score

Eine geordnete Rubrik bewerten.