25 octubre 2026 EN ES
The Serving Desk

La infraestructura detrás de tu producto de IA — modelos, servicio y su costo real

Costes

Cuando un modelo insignia de $10/$50 supera a uno de gama media

Rutea por coste por tarea completada, no por precio de etiqueta: un insignia solo gana cuando la eficiencia de tokens, las lecturas de caché y la longitud de contexto compensan la diferencia de precio.

Illustration: When a $10/$50 Flagship Beats a Mid-Tier

La diferencia de precio es el peaje de entrada

Un modelo insignia de $10/$50 es más barato que uno de gama media solo cuando su coste por tarea completada es inferior tras la eficiencia de tokens, las lecturas de caché y las penalizaciones de contexto. Con una diferencia de precio de salida de 2,5 veces, el insignia debe usar aproximadamente el 40 % de los tokens de salida de la gama media para empatar. GPT-6 Astra, el insignia de OpenAI, y Sol, la gama inferior de OpenAI, hacen tangible esa brecha. Compensación: pagar la tarifa de salida más alta y recuperarla mediante respuestas más cortas, lecturas de caché más baratas o menos solicitudes de contexto largo. Usa esa diferencia para establecer la prueba de punto de equilibrio antes de elegir una gama.

La caché y el contexto cambian la aritmética

Fable 5.1, el modelo de Anthropic, ya había establecido la misma tarifa base antes de que Astra se lanzara el 3 de septiembre de 2026. La diferencia útil está en el comportamiento de la caché. Fable 5.1 redujo el precio de lectura de caché en un 75 %, de $1.00 a $0.25. El descuento hace que las cargas de trabajo típicas sean aproximadamente un 25 % menos costosas y puede hacer que las tareas complejas de varios pasos sean hasta un 45 % más económicas frente a los modelos de precios estándar.

Astra tiene otra trampa: su precio de contexto largo por encima de 272 000 tokens es de $20 por millón de tokens de entrada y $75 por millón de tokens de salida. Una tarea que cruza ese umbral puede borrar la eficiencia de tokens rápidamente. Si tu tráfico incluye prompts largos, instrucciones de sistema repetidas o llamadas a herramientas de varios pasos, el comportamiento de caché y contexto puede importar más que la tarifa base. Trata los tokens de lectura de caché como una partida separada, no como una nota al pie.

Si un prompt repite una instrucción de sistema, un documento de política o un esquema de herramienta, la tarifa de lectura de caché puede dominar el coste de entrada. Comprueba en qué lado del umbral cae cada tarea antes de calcular su precio.

Los totales por tarea deciden la ruta

  • Recoge los recuentos de tokens por tarea para cada gama. Elige una tarea representativa del tráfico de producción, como un ticket de soporte resuelto, un informe generado o una revisión de código. Registra por separado los tokens de entrada, tokens de salida, tokens de lectura de caché y tokens de contexto largo para el insignia y la gama media. El resultado es una pequeña tabla donde cada fila es una tarea y cada columna es un recuento de tokens, con la definición de la tarea escrita en lenguaje claro.
  • Calcula el precio de la tarea en cada gama. Multiplica los tokens de entrada por la tarifa de entrada, los tokens de salida por la tarifa de salida, los tokens de lectura de caché por la tarifa de lectura de caché y los tokens de contexto largo por la tarifa de contexto largo. Suma los productos para obtener un coste bruto por tarea. El resultado es un total en dólares por tarea para cada gama, con las tarifas visibles junto a los recuentos de tokens. Advertencia: no compares el precio de etiqueta con el coste por tarea; una gama media más barata aún puede perder cuando el insignia termina en menos tokens.
  • Divide entre tareas completadas, no entre intentos. Si una gama falla, reintenta, trunca o necesita una edición humana, cuenta ese coste contra la misma tarea. Detente cuando el coste por completado exitoso incluya reintentos y fallos en el numerador y solo tareas completadas en el denominador. Este es el paso donde un modelo que parece barato en tokens puede volverse caro en operaciones.

La verificación mantiene la regla honesta

Rutea al insignia solo cuando su total sea menor. Envía una solicitud al insignia cuando su coste proyectado por tarea completada sea inferior al total de la gama media, y envíala a la gama media en caso contrario. La regla usa el tipo de tarea, la longitud de contexto esperada y la tasa de acierto de caché para elegir la gama antes de que se ejecute la solicitud. Si los totales proyectados están cerca, envía la solicitud a la gama media hasta que el siguiente punto de datos cambie la regla.

Revisa la regla cuando cambien las entradas. Vuelve a ejecutar el cálculo cuando cambien las tarifas, las tasas de acierto de caché, la longitud del prompt o la mezcla de tareas hacia trabajo de contexto largo. La verificación deja una tabla de costes con fecha con los totales antiguos y nuevos lado a lado, de modo que el cambio de ruteo sea rastreable hasta una entrada específica. Un pequeño cambio en la longitud del prompt puede cambiar al ganador.

Mantén la definición de la tarea fija. No dejes que el insignia y la gama media resuelvan versiones diferentes del trabajo. Usa el mismo prompt, las mismas herramientas, los mismos criterios de aceptación y la misma política de reintento. La evaluación da a ambas gamas la misma entrada, con la gama del modelo como única variable.

Publicidad