Zum Hauptinhalt springen
Dies ist der Inferenzendpunkt für GLiDE. Senden Sie einen state und eine oder mehrere benannte, typisierte questions; lesen Sie strukturierte Entscheidungen aus answers. state darf leer sein, wenn die Frage den gesamten Kontext enthält. GLiDE verwendet weder /v1/chat/completions noch messages oder ein GLiNER-schema. GLiDE kostet 0,04 $ pro 1 Million Eingabe-Tokens. Ausgabe-Tokens sind kostenlos (0 $). Die aktuellen Inferenzpreise finden Sie unter Preise.

API-Vertrag ansehen

Sehen Sie sich das vollständige Anfrage- und Antwortschema für POST /v1/systemone an.

GLiDE-Rezepte

Getestete End-to-End-Anfragen für Ticket-Triage, Gates für Agentenaktionen und die Erkennung von Prompt-Injections.

Ihren API-Schlüssel einrichten

  1. Erstellen Sie ein Fastino-Konto
  2. Rufen Sie Ihren API-Schlüssel unter Settings ab
Setzen Sie Ihren Schlüssel als Umgebungsvariable, damit die folgenden Beispiele unverändert funktionieren:

Einen Fragetyp wählen

Jede Frage ist Single-Label und gibt Wahrscheinlichkeiten zurück. Wählen Sie das Primitiv anhand der Antwortform, die Ihr Code benötigt: Es gibt kein Multi-Label-Primitiv. Stellen Sie mehrere unabhängig benannte Fragen in einer Anfrage, wenn Sie mehrere Urteile über denselben State benötigen.

Anfrage

string
erforderlich
Verwenden Sie fastino/GLiDE oder die Modell-ID eines von Ihnen bereitgestellten GLiDE-Modells. Wenn der Parameter fehlt, wird 422 'model' must be provided zurückgegeben. Die Antwort gibt den Engine-Namen als glide zurück.
string | object | array
erforderlich
Die zu bewertende Situation. Verwenden Sie einen String für eine Passage, ein Objekt für beschriftete Felder oder ein Array für eine geordnete Abfolge von Nachrichten oder Datensätzen. Ein leerer String, ein leeres Objekt oder ein leeres Array ist zulässig, wenn die Frage den gesamten Kontext enthält.
object
erforderlich
Ein nicht leeres Objekt mit von Ihnen gewählten Namen als Schlüsseln. Jeder Wert muss type und instructions enthalten; Choice und Score erfordern zusätzlich criteria. Dieselben Schlüssel erscheinen unter answers in der Antwort. Die vollständige Anfrage- und Antwortform je Typ finden Sie unter Noul, Choice und Score.
boolean
Standard:"true"
Legt fest, ob Fastino die Eingabe und Ausgabe dieser Anfrage aufbewahrt. Setzen Sie den Wert auf false, um keines von beiden aufzubewahren. Siehe Eine Anfrage von der Speicherung ausschließen.

State-Formen

state ist das Material, anhand dessen jede Frage bewertet wird. Stellen Sie es sich als das vor, was Sie einem Expertengremium übergeben würden, bevor es ein Urteil fällen soll. Verwenden Sie ein Objekt, wenn die Entscheidung vom Vergleich mehrerer benannter Teile abhängt (zum Beispiel ein Ticket und die Richtlinie, anhand derer es bewertet wird). So bleibt jeder Teil beschriftet und die Beziehungen zwischen den Teilen bleiben klar. Ein einfacher String genügt, wenn der Fall aus einer einzelnen, in sich geschlossenen Passage besteht. Alle Fragen einer Anfrage sehen denselben state und werden unabhängig voneinander anhand dieses States bewertet.

Bildeingabe

Ein Array kann Strings oder Textteile mit bis zu vier image_url-Teilen kombinieren. Jede Bild-URL kann eine HTTPS-URL oder eine Base64-Data-URL sein:
Eine Data-URL überträgt das Bild direkt in der Anfrage, im Format data:<media type>;base64,<data>:
Um diese Anfrage aus einer lokalen Datei zu erstellen, kodieren Sie die Datei und schreiben den Body in eine Datei. Senden Sie ihn mit -d @body.json, denn ein Bild von mehreren Megabyte kann für ein Kommandozeilenargument zu lang sein:
Jedes Bild muss diese Limits einhalten:
  • Das Größenlimit zählt das Base64 nach dem Komma, nicht das Präfix data:.
  • Das Größenlimit gilt für Bytes, nicht für Pixel. Eingebettete Metadaten und Padding zählen mit, daher wird ein auf 5 MiB aufgefülltes 800×600-Bild abgelehnt.
  • Fastino liest die Bytes jedes Bildes und prüft sie gegen den angegebenen Medientyp. Ein PNG, das als data:image/jpeg gesendet wird, wird abgelehnt.
  • Fastino lädt URL-Bilder selbst herunter. Der Host muss ohne Weiterleitung mit 200 antworten, und manche Hosts verweigern automatisierte Downloads. Wenn eine URL fehlschlägt, senden Sie das Bild als Data-URL.
GLiDE skaliert jedes Bild auf 65.536 bis 1.048.576 Pixel (etwa 1 Megapixel), bevor es das Bild liest. Jedes Bild fügt daher 64 bis 1.024 Eingabe-Tokens hinzu. Bild-Tokens zählen einmal pro Frage, weil GLiDE jede Frage separat gegen den gesamten state bewertet. So verbrauchte dasselbe 2048×1280-Foto mit einer Frage 1.087 Eingabe-Tokens und mit vier Fragen 4.302. Bild-Tokens zählen außerdem zum Prompt-Limit von 65.536 Token pro Frage.
Skalieren Sie Bilder vor dem Senden auf etwa 1 Megapixel, zum Beispiel 1280×800. Größere Bilder kosten dieselben Tokens und brauchen länger zum Hochladen. In Fastinos Tests verbrauchten ein 5388×3368-Foto und seine 1280×800-Kopie dieselben Tokens und lieferten dieselben Antworten.
Unter GLiDE-Bildfehler finden Sie jede Fehlermeldung zu Bildern und die passende Behebung.

Vollständige Anfrage

Antwort

answers verwendet die Fragenschlüssel aus Ihrer Anfrage. Für dieses Noul gilt:
  • noul ist die Wahrscheinlichkeit, dass das true-Kriterium zutrifft. Es ist kein boolescher Wert.
  • confidence ist die Sicherheit bezüglich eines der beiden Ergebnisse: |2 × noul − 1|.
  • Passen Sie die Schwellenwerte für Aktionen anhand repräsentativer Daten an. Gehen Sie nicht davon aus, dass 0.5 der richtige geschäftliche Schwellenwert ist.
Choice und Score geben andere Felder zurück. Die genauen Antwortformen und Integrationsbeispiele finden Sie auf den jeweiligen Primitiv-Seiten.

Eine Anfrage von der Speicherung ausschließen

Fügen Sie dem Anfragetext "store": false hinzu. Fastino bewahrt dann weder den gesendeten state und die questions noch die zurückgegebenen answers auf:
  • Es gibt keinen Eintrag in Ihrem Inferenzverlauf.
  • Die Nutzdaten erscheinen nicht in den Logs, Fehlerberichten und Traces von Fastino.
  • Die Anfrage wird niemals für das Plattformtraining oder für die kontinuierliche Anpassung Ihrer Aufgabenmodelle verwendet, unabhängig von Ihrer Opt-out-Einstellung für das Training.
Fastino erfasst weiterhin Nutzungsmetadaten für die Abrechnung: Modell, Token-Anzahl, Latenz, Status und Kosten. Der Antwort-Header X-Fastino-Data-Retention gibt an, was angewendet wurde:

Mehrere Fragen kombinieren

Stellen Sie in einem einzigen Aufruf mehrere Fragen unterschiedlichen Typs zum selben state. Alle Fragen werden gemeinsam in einem einzigen Roundtrip bewertet.
Antwort:

Limits und nicht unterstützte Formen

  • Jeder gerenderte Frage-Prompt (state plus die jeweilige Frage) muss in 65.536 Token passen.
  • Choice erfordert 2 bis 255 Optionen; eine einzelne Option kann weder eine Entscheidung noch einen sinnvollen Konfidenzabstand darstellen. Score akzeptiert höchstens 255 Stufen.
  • usage.input_tokens summiert die internen Durchläufe für alle Fragen und kann daher 65.536 überschreiten, obwohl jeder einzelne gerenderte Prompt passt.
  • state akzeptiert bis zu 4 Bilder mit jeweils höchstens 3,75 MiB und 25.000.000 Pixeln, als JPEG, PNG, GIF oder WebP. Siehe Bildeingabe.
  • Eine Anfrage bewertet einen gemeinsamen state; legen Sie mehrere Fragen unter questions ab.
  • /v1/systemone unterstützt kein Streaming und akzeptiert keinen Batch unabhängiger States.
  • Um ein von Ihnen trainiertes GLiDE-Modell aufzurufen, senden Sie seine bereitgestellte Modell-ID als model mit einem reinen Text-state. Siehe GLiDE trainieren.
Konfidenzformeln und konfidenzbasiertes Routing finden Sie unter Konfidenz und Unsicherheit.

Von TypeSafe migrieren

Jev von TypeSafe und GLiDE von Fastino verwenden dieselbe System-One-Struktur aus state, benannten questions und passenden answers. Die meisten Anfragen lassen sich problemlos übertragen, die Integration ist jedoch kein Drop-in-Ersatz. Verwenden Sie diese Checkliste für eine sichere Migration:
1

System-One-Anfragestruktur beibehalten

Behalten Sie state, die Fragenschlüssel und die Primitivtypen bei. state darf leer sein, wenn die Frage den gesamten Kontext enthält. Jeder instructions-Wert kann ein nicht leerer String oder ein nicht leeres JSON-Objekt sein; GLiDE serialisiert Objekte als kompakten JSON-Text. Wandeln Sie fehlende, null- oder Array-Anweisungen in einen String oder ein Objekt um. Behalten Sie Choice-Kriterien als Objekt bei. Noul-Kriterien sind optional, ihre true- und false-Werte müssen aber Strings sein. Verwenden Sie für Score-Kriterien bevorzugt ein geordnetes Array. Senden Sie nur die dokumentierten Anfragefelder, die Ihre Integration benötigt. Nicht unterstützte Felder auf oberster Ebene geben 422 zurück. Kopieren Sie daher keine beliebigen TypeSafe-Client-Optionen in den JSON-Body.
2

Endpunkt, Zugangsdaten und Modell ändern

Richten Sie die Anfrage an Fastino, lesen Sie FASTINO_API_KEY, senden Sie den Schlüssel mit X-API-Key und setzen Sie model auf fastino/GLiDE. Fastino akzeptiert auch den Bearer-Header, falls die Beibehaltung dieses Stils eine direkte HTTP-Migration vereinfacht. Erwarten Sie model: "glide" in der Antwort.
3

Verarbeitung von Score-Antworten aktualisieren

Der score von TypeSafe ist ein wahrscheinlichkeitsgewichteter Float. Das GLiDE-Äquivalent ist expected_level. Der score von GLiDE ist dagegen der ganzzahlige Index der wahrscheinlichsten Stufe. GLiDE gibt die Legendenbeschreibungen von Score als Strings zurück. Passen Sie daher Konsumenten an, die strukturierte Legendenwerte erwarten. Für Score-Anfragen akzeptiert GLiDE auch Kriterienobjekte mit numerischen String-Schlüsseln, etwa {"1": "low", "3": "medium", "5": "high"}. Die Schlüssel werden sortiert und verworfen, und die Antwort wird von 0 bis N-1 neu indiziert. Verwenden Sie ein geordnetes Array, wenn die ursprünglichen numerischen Werte nicht mit zurückgegebenen Stufenindizes verwechselt werden dürfen.
4

Stufenschlüssel und Wiederholungsverhalten prüfen

GLiDE gibt Score-probabilities und -legend mit String-Schlüsseln wie "0" und "1" zurück. Die rohe HTTP-Antwort von TypeSafe macht das ebenso, das Python-SDK kann jedoch ganzzahlige Schlüssel bereitstellen. Konvertieren Sie Schlüssel nur, wenn die Anwendung Maps mit ganzzahligen Schlüsseln benötigt. Ersetzen Sie die 529-Wiederholungslogik von TypeSafe durch die Behandlung von 425 und 503 bei Fastino und behalten Sie begrenztes Backoff für 429 bei. Beachten Sie Retry-After, sofern vorhanden, und wenden Sie dasselbe Wiederholungsbudget auf Transportfehler an.
5

Entscheidungsschwellenwerte neu validieren

Lassen Sie bestehende Geschäftsaktionen bei der Portierung unverändert und testen Sie GLiDE vor dem Deployment an repräsentativen Fällen. Gehen Sie nicht davon aus, dass für Jev kalibrierte Schwellenwerte unverändert auf ein anderes Modell übertragbar sind.
Bilden Sie den Gleitkomma-score von TypeSafe nicht auf den score von GLiDE ab. Lesen Sie answers.&lt;key&gt;.expected_level, wenn bestehender Code einen gewichteten Score erwartet. Lesen Sie answers.&lt;key&gt;.score nur, wenn der Code den Index der einzelnen gewinnenden Stufe benötigt.

TypeSafe-SDK-Nutzung ersetzen

Wenn das Projekt ein TypeSafe-SDK verwendet:
  1. Suchen Sie typesafe-sdk, @typesafe-ai/sdk, TypeSafeClient, AsyncTypeSafeClient und TypeSafe-Fragekonstruktoren in Manifesten, Imports, Anwendungscode und Tests.
  2. Ersetzen Sie SDK-Konstruktoren und typisierten Antwortzugriff durch den HTTP-Client des Projekts und dekodiertes JSON.
  3. Entfernen Sie TypeSafe-Pakete und -Imports erst, wenn keine Referenzen mehr vorhanden sind.
Die oben genannten Regeln zu Endpunkt, Validierung, Wiederholungen und Score gelten weiterhin.

Fehler

Eine erste Anfrage an ein kaltes Modell kann während des Aufwärmens 425 model_warming zurückgeben; versuchen Sie es nach etwa 60 Sekunden erneut. Verwenden Sie ein Lese-Timeout von mindestens 300 Sekunden und begrenztes Backoff für 425, 429 und 503. Wiederholen Sie 401, 402, 403, 404 oder 422 nicht, ohne das zugrunde liegende Problem zu beheben.

Weiterlernen

GLiDE-Übersicht

Lernen Sie GLiDE kennen, wählen Sie ein Primitiv aus und lesen Sie modellspezifische Hinweise.

Noul

Eine Ja/Nein-Wahrscheinlichkeit integrieren.

Choice

An eine benannte Option weiterleiten.

Score

Eine geordnete Rubrik bewerten.