Modelo automático (auto)
Con "model": "auto" no eliges el modelo en tu código: lo elige Quipua con la configuración del equipo de la key, que un Responsable ajusta en el panel (Equipos). Así puedes cambiar de modelo, bajar costes al acercarte al presupuesto o tener respaldo ante caídas sin tocar tu aplicación.
raw = client.chat.completions.with_raw_response.create(
model="auto",
max_tokens=500,
messages=[{"role": "user", "content": "Redacta una respuesta amable a este reclamo: …"}],
)
print(raw.headers["x-ci-model-served"], raw.headers["x-ci-route-reason"])
print(raw.parse().choices[0].message.content)Funciona igual en /v1/chat/completions y en /v1/messages. Si el equipo no tiene el modelo automático configurado, la respuesta es 400 auto_not_configured.
Reglas
Las reglas se aplican en este orden; la de más abajo manda sobre las anteriores:
| # | Regla | Motivo (x-ci-route-reason) | Cuándo |
|---|---|---|---|
| 1 | Modelo por defecto del equipo | team_default | Siempre, como punto de partida. |
| 2 | Complejidad (opcional) | complexity_simple / complexity_complex | Si el equipo la activa: las peticiones sencillas van al modelo económico y las complejas al de más calidad. |
| 3 | Contexto largo | long_context | Si la entrada estimada supera el umbral del equipo. |
| 4 | Presupuesto | budget_80 (o el porcentaje configurado) | Si el equipo ya gastó ese % de su presupuesto del mes, el modelo económico. |
| 5 | Capacidad | capability | Si el elegido no admite lo que pide la petición (herramientas, imágenes o el tamaño de la ventana), el más barato de los del equipo que sí. |
Además se prepara un respaldo con el resto de modelos del equipo (fallback), hasta 3 intentos en total.
Complejidad
La regla de complejidad puntúa el texto de la petición de 0 a 100 (longitud, código, razonamiento, número de pasos o preguntas, vocabulario técnico…): por debajo de 25 es sencilla, desde 60 compleja y en medio se usa el modelo por defecto. Es la única regla que mira el contenido; lo hace en memoria, sin guardarlo. La puntuación vuelve en la cabecera x-ci-complexity.
Respaldo ante fallos
Si el modelo elegido responde con 408, 429, 500, 502, 503, 504 o 529, o no se puede contactar, antes de devolverte nada Quipua prueba con el siguiente modelo de la ruta. Sólo se cobra el modelo que respondió (los intentos fallidos cuestan 0). Una vez que empieza la respuesta (por ejemplo, en streaming) ya no se cambia de modelo.
Con un modelo explícito (no auto) no hay respaldo: recibes el error del proveedor.
Límites que se respetan siempre
- Sólo elige entre los modelos permitidos de la key.
- Sólo modelos de chat del catálogo disponibles para tu organización.
- Si ningún modelo puede atender la petición,
400 auto_no_model.
Cómo saber qué pasó
| Cabecera de respuesta | Contenido |
|---|---|
x-ci-model-served | Modelo que respondió (es el que se cobra). |
x-ci-requested-model | auto. |
x-ci-route-reason | Regla que decidió (tabla de arriba). |
x-ci-complexity | Puntuación de complejidad, si el equipo usa esa regla. |
El panel muestra también, en Eficiencia, cuánto ha ahorrado el modelo automático frente a usar siempre el modelo por defecto.
Con la API diferida
En un lote, auto elige un modelo que admita proceso diferido: el del equipo si lo admite, si no el económico, y si no el más barato que lo admita. Ver API diferida.