Saltar al contenido principal
Ejecuta inferencia con modelos de Fastino mediante uno de los dos contratos de API. Cada contrato tiene su propia forma de solicitud y respuesta, y sus campos no son intercambiables.

Toma una decisión con GLiDE

Llama a POST /v1/systemone con state y questions tipadas. Recibe respuestas Noul, Choice o Score con probabilidades y confianza.

Ejecuta GLiNER

Llama a POST /v1/chat/completions con messages. Añade un schema para extracción, clasificación, estructuras o relaciones con GLiNER.
Para los conceptos de GLiDE y la selección de primitivas, empieza por Modelos de decisión. La guía de inferencia de GLiDE cubre la integración HTTP.

​
Contratos de API

GLiDE / System One

Esquema completo de solicitud y respuesta para inferencia de modelos de decisión.

GLiNER / Chat Completions

Contrato GLiNER completo compatible con OpenAI.

GLiNER nativo

Contratos síncronos, asíncronos y de estado del trabajo.

Responses

Contrato de inferencia compatible con OpenAI Responses.

Messages

Contrato de inferencia compatible con Anthropic Messages.

Modelos

Lista de identificadores de modelos compatibles.

​
Confirma el enrutamiento y la retención

Las llamadas correctas a POST /v1/systemone, /v1/chat/completions, /v1/responses, /v1/messages y /v1/gliner-2 devuelven dos encabezados de diagnóstico:
  • X-Fastino-Data-Retention es zero para Zero Data Retention a nivel de equipo, not-stored cuando la solicitud excluyó el historial de inferencias, o stored en los demás casos.
  • X-Fastino-Served-Model es el modelo canónico que atendió la llamada. Es el ID del modelo con fine-tuning cuando un fine-tune atendió la solicitud y el ID del modelo base en los demás casos.
Revísalos al verificar una integración:
Los encabezados no aparecen en las respuestas de error ni en los streams que fallan antes del envío al proveedor. Un stream que falla después del envío los conserva e informa de su error dentro del propio stream.

​
Arranques en frío y reintentos

Un modelo inactivo o recién desplegado puede tener un arranque en frío. Usa un tiempo de espera de lectura de al menos 300 segundos y un backoff acotado para las respuestas 425, 429 y 503. Respeta Retry-After cuando esté presente. Una solicitud que agota el tiempo aún puede calentar el despliegue, lo que permite que la siguiente solicitud tenga éxito. No reintentes errores de autenticación, facturación, validación ni de modelo desconocido sin corregir el problema subyacente.