Skip to main content
Fastino implementiert einen Anthropic-kompatiblen Messages-Endpunkt, über den Sie GLiNER-Modelle mit dem Anthropic SDK ausführen können. Setzen Sie base_url auf https://api.fastino.ai, authentifizieren Sie sich mit Ihrem Fastino-API-Schlüssel und verwenden Sie eine GLiNER-Modell-ID aus GET /v1/models oder Ihre GLiNER-Trainingsjob-ID. Das Anthropic SDK hängt /v1/messages selbst an.

Unterstützte SDK-Oberfläche

GLiNER-Inferenz gibt ein einzelnes strukturiertes Ergebnis zurück und unterstützt weder stream=True noch client.messages.stream(...). Fastino implementiert nicht jede Anthropic-API oder SDK-Ressource.

Das Anthropic SDK konfigurieren

Übergeben Sie beim Erstellen des Clients Ihren Fastino-API-Schlüssel und die Basis-URL:

Eine Nachricht erstellen

POST /v1/messages akzeptiert die zentralen Anthropic-Messages-Felder. Setzen Sie model auf eine unterstützte GLiNER-Modell-ID, fügen Sie messages hinzu und übergeben Sie das schema über extra_body.

Anfrageparameter

string
erforderlich
Trainingsjob-ID (z. B. job_abc123) oder eine Basismodell-ID. Dies ist das Modell, das Ihre Anfrage verarbeitet.
number
erforderlich
Dieses Feld ist für die Anfragekompatibilität mit dem Anthropic SDK erforderlich. GLiNER gibt strukturierte Daten statt generierter Tokens zurück.
object[]
erforderlich
Nachrichten der Konversation. Jedes Objekt hat eine role ("user" oder "assistant") und einen content-String.
object
Fastino-spezifisches Extraktionsschema. Definieren Sie entities, classifications, structures oder relations, um festzulegen, was das Modell extrahiert. Die vollständige Schema-Dokumentation finden Sie unter Fastino-Inferenz.

Beispiele

Streaming

GLiNER-Inferenz unterstützt kein Streaming. Verwenden Sie client.messages.create(...) ohne stream=True; die API gibt das vollständige strukturierte Ergebnis zurück.

Verwandte Themen