base_url auf https://api.fastino.ai, authentifizieren Sie sich mit Ihrem Fastino-API-Schlüssel und verwenden Sie eine GLiNER-Modell-ID aus GET /v1/models oder Ihre GLiNER-Trainingsjob-ID. Das Anthropic SDK hängt /v1/messages selbst an.
Unterstützte SDK-Oberfläche
Das Anthropic SDK konfigurieren
Übergeben Sie beim Erstellen des Clients Ihren Fastino-API-Schlüssel und die Basis-URL:Eine Nachricht erstellen
POST /v1/messages akzeptiert die zentralen Anthropic-Messages-Felder. Setzen Sie model auf eine unterstützte GLiNER-Modell-ID, fügen Sie messages hinzu und übergeben Sie das schema über extra_body.
Anfrageparameter
string
erforderlich
Trainingsjob-ID (z. B.
job_abc123) oder eine Basismodell-ID. Dies ist das Modell, das Ihre Anfrage verarbeitet.number
erforderlich
Dieses Feld ist für die Anfragekompatibilität mit dem Anthropic SDK erforderlich. GLiNER gibt strukturierte Daten statt generierter Tokens zurück.
object[]
erforderlich
Nachrichten der Konversation. Jedes Objekt hat eine
role ("user" oder "assistant") und einen content-String.object
Fastino-spezifisches Extraktionsschema. Definieren Sie
entities, classifications, structures oder relations, um festzulegen, was das Modell extrahiert. Die vollständige Schema-Dokumentation finden Sie unter Fastino-Inferenz.Beispiele
Streaming
GLiNER-Inferenz unterstützt kein Streaming. Verwenden Sieclient.messages.create(...) ohne stream=True; die API gibt das vollständige strukturierte Ergebnis zurück.
Verwandte Themen
- Native Fastino-Inferenz - direkter Fastino-Endpunkt mit vollständiger Schema-Dokumentation
- OpenAI-kompatible Inferenz - verwenden Sie stattdessen das OpenAI SDK
- Inferenzverlauf und Feedback - frühere Ergebnisse abrufen und Korrekturen einreichen

