Modelo automático (auto)

Con "model": "auto" no eliges el modelo en tu código: lo elige Quipua con la configuración del equipo de la key, que un Responsable ajusta en el panel (Equipos). Así puedes cambiar de modelo, bajar costes al acercarte al presupuesto o tener respaldo ante caídas sin tocar tu aplicación.

Python
raw = client.chat.completions.with_raw_response.create(
    model="auto",
    max_tokens=500,
    messages=[{"role": "user", "content": "Redacta una respuesta amable a este reclamo: …"}],
)
print(raw.headers["x-ci-model-served"], raw.headers["x-ci-route-reason"])
print(raw.parse().choices[0].message.content)

Funciona igual en /v1/chat/completions y en /v1/messages. Si el equipo no tiene el modelo automático configurado, la respuesta es 400 auto_not_configured.

Reglas

Las reglas se aplican en este orden; la de más abajo manda sobre las anteriores:

#ReglaMotivo (x-ci-route-reason)Cuándo
1Modelo por defecto del equipoteam_defaultSiempre, como punto de partida.
2Complejidad (opcional)complexity_simple / complexity_complexSi el equipo la activa: las peticiones sencillas van al modelo económico y las complejas al de más calidad.
3Contexto largolong_contextSi la entrada estimada supera el umbral del equipo.
4Presupuestobudget_80 (o el porcentaje configurado)Si el equipo ya gastó ese % de su presupuesto del mes, el modelo económico.
5CapacidadcapabilitySi el elegido no admite lo que pide la petición (herramientas, imágenes o el tamaño de la ventana), el más barato de los del equipo que sí.

Además se prepara un respaldo con el resto de modelos del equipo (fallback), hasta 3 intentos en total.

Complejidad

La regla de complejidad puntúa el texto de la petición de 0 a 100 (longitud, código, razonamiento, número de pasos o preguntas, vocabulario técnico…): por debajo de 25 es sencilla, desde 60 compleja y en medio se usa el modelo por defecto. Es la única regla que mira el contenido; lo hace en memoria, sin guardarlo. La puntuación vuelve en la cabecera x-ci-complexity.

Respaldo ante fallos

Si el modelo elegido responde con 408, 429, 500, 502, 503, 504 o 529, o no se puede contactar, antes de devolverte nada Quipua prueba con el siguiente modelo de la ruta. Sólo se cobra el modelo que respondió (los intentos fallidos cuestan 0). Una vez que empieza la respuesta (por ejemplo, en streaming) ya no se cambia de modelo.

Con un modelo explícito (no auto) no hay respaldo: recibes el error del proveedor.

Límites que se respetan siempre

  • Sólo elige entre los modelos permitidos de la key.
  • Sólo modelos de chat del catálogo disponibles para tu organización.
  • Si ningún modelo puede atender la petición, 400 auto_no_model.

Cómo saber qué pasó

Cabecera de respuestaContenido
x-ci-model-servedModelo que respondió (es el que se cobra).
x-ci-requested-modelauto.
x-ci-route-reasonRegla que decidió (tabla de arriba).
x-ci-complexityPuntuación de complejidad, si el equipo usa esa regla.

El panel muestra también, en Eficiencia, cuánto ha ahorrado el modelo automático frente a usar siempre el modelo por defecto.

Con la API diferida

En un lote, auto elige un modelo que admita proceso diferido: el del equipo si lo admite, si no el económico, y si no el más barato que lo admita. Ver API diferida.