Skip to main content
Fastino implementa un endpoint Messages compatible con Anthropic para ejecutar modelos GLiNER mediante el SDK de Anthropic. Define base_url como https://api.fastino.ai, autentícate con tu clave de API de Fastino y usa un ID de GLiNER devuelto por GET /v1/models o el ID de tu trabajo de entrenamiento GLiNER. El SDK de Anthropic añade /v1/messages por sí mismo.

Superficie compatible del SDK

La inferencia GLiNER devuelve un único resultado estructurado y no admite stream=True ni client.messages.stream(...). Fastino no implementa todas las API ni todos los recursos del SDK de Anthropic.

Configurar el SDK de Anthropic

Pasa tu clave de API de Fastino y la URL base al construir el cliente:

Crear un mensaje

POST /v1/messages acepta los campos principales de Anthropic Messages. Define model con un ID de modelo GLiNER compatible, incluye tu array messages y pasa el schema de extracción o clasificación mediante extra_body.

Parámetros de la solicitud

string
requerido
ID del trabajo de entrenamiento (por ejemplo job_abc123) o ID de un modelo base. Es el modelo que procesa tu solicitud.
number
requerido
El SDK de Anthropic requiere este campo para la compatibilidad de la solicitud. GLiNER devuelve una salida estructurada en lugar de tokens generados.
object[]
requerido
Mensajes de la conversación. Cada objeto tiene un role ("user" o "assistant") y una cadena content.
object
Esquema de extracción específico de Fastino. Define entities, classifications, structures o relations para controlar qué extrae el modelo. Consulta Inferencia de Fastino para ver la documentación completa del esquema.

Ejemplos

Streaming

La inferencia GLiNER no admite streaming. Usa client.messages.create(...) sin stream=True; la API devuelve el resultado estructurado completo después de procesar la entrada.

Relacionado