Recalcula tu tabla de enrutamiento: la matemática del punto de equilibrio tras el recorte del 80% de GPT-5.6 Luna
Cuando caen las tarifas de las API de frontera, reconstruye la ruta óptima en costos y la elección de alojamiento a partir de los precios actuales de tokens, la mezcla de tareas y el índice.
El costo mixto decide la ruta tras el recorte de precios
Si tu enrutador aún usa las tarifas del trimestre anterior, el movimiento de precios de GPT-5.6 cambia la ruta antes de cambiar el gasto. La compensación es pagar una tarifa más alta por token por calidad frente a mover el tráfico a un modelo más barato que aún supera la tarea. Aritmética: costo mixto = proporción de entrada x tarifa de entrada + proporción de salida x tarifa de salida. OpenAI redujo el precio de GPT-5.6 Luna en un 80% y el de GPT-5.6 Terra en un 20% el 30 de julio de 2026.
Obtén las tarifas actuales de entrada y salida de cada modelo candidato. Construye la escalera de precios de entrada/salida: una fila por modelo y dos columnas de tarifas. A 20 de agosto de 2026, GPT-5.6 Luna tenía la tarifa de entrada más barata entre las API de LLM de uso general, con $0.20 por millón de tokens de entrada y $1.20 por millón de tokens de salida. GPT-5.6 Sol se cotizaba a $5 por millón de tokens de entrada y $30 por millón de tokens de salida. Esa diferencia es el precio de entrada por calidad.
Comprueba si la longitud de la solicitud cruza un nivel de precio. La tarifa efectiva puede diferir de la tarifa nominal. Si el tráfico de producción se sitúa cerca de un límite, usa la tarifa del nivel para toda la solicitud. Una solicitud de 400,000 tokens a través de GPT-5.6 Terra se cotizó a $4 por millón de tokens de entrada y $18 por millón de tokens de salida para toda la solicitud. El trabajo de contexto largo desplaza el punto de equilibrio en la dirección opuesta.
Pondera cada tarea según su mezcla real de tokens en los registros de producción, no en prompts de demostración. Si una tarea genera más salida que entrada, la tarifa de salida domina. El precio de salida de DeepSeek R1 era de $2.19 por millón de tokens, el más bajo en el conjunto histórico de frontera seleccionado por BenchLM. El precio de salida del modelo o3 cayó de $40 a $8 por millón de tokens, una reducción del 80%, en julio de 2026. Una caída en la tarifa de salida puede invertir una tarea intensiva en generación antes de que cambie la tarifa de entrada.
Calcula el costo mixto por tarea a partir de las proporciones de entrada y salida en tu muestra de tráfico. No colapses entrada y salida en una tarifa media única; usa el costo mixto de la tarea. Mantén el modelo actual solo si su prima de calidad justifica el costo mixto adicional. Registra la puerta de calidad para cada tarea. Una ruta sigue siendo válida solo si el modelo más barato supera la prueba de aceptación de la tarea. Si no la supera, el ahorro en costos es negativo porque los reintentos, la revisión manual o la pérdida de usuarios añaden costo. Establece el umbral de ruta como un valor de costo, no como un nombre de modelo, para que el enrutador pueda reevaluar sin un cambio de código cuando los precios se muevan. Un despliegue parcial verifica el umbral antes de todo el tráfico.
El autoalojamiento solo alcanza el punto de equilibrio a gran volumen
Estima el volumen mensual de tokens por tarea, dividido en entrada y salida. Un número de volumen sin mezcla de tareas es una suposición. Un total mensual único oculta la mezcla que impulsa el costo en la nube. Si una tarea domina los tokens de salida, esa tarea controla el punto de equilibrio.
Trata el índice actual de precios de tokens como la señal de tendencia del mercado. El índice de precios de tokens de LLM de frontera fue 16 el 3 de septiembre de 2026, un 84% por debajo de su línea base de 100 de marzo de 2023. Un índice en descenso reduce la vía en la nube más rápido que una amortización estática de autoalojamiento.
Calcula el costo de la vía de autoalojamiento a partir de tu índice de GPU, la utilización y el mantenimiento. Incluye hardware, energía, red y tiempo de ingeniería necesarios para mantener la ruta saludable. El resultado es un costo mensual por millón de tokens, no solo el precio de compra de un servidor. Separa el costo fijo del variable: el hardware y la energía base son fijos, mientras que la energía incremental, la refrigeración y el tiempo de soporte son variables. La parte fija establece el piso; la parte variable establece el volumen de punto de equilibrio.
Resuelve para el volumen mensual de tokens donde el costo total de autoalojamiento iguala el costo mixto en la nube a las tarifas actuales. Por debajo del punto de equilibrio, quédate en la API. Por encima, modela los ahorros de autoalojamiento frente al riesgo de calidad y latencia. Vuelve a ejecutar la hoja de cálculo cuando una tarifa importante cambie, la mezcla de tareas se desplace o el índice se mueva de forma significativa. Mantén la hoja de cálculo de dos partes en el mismo repositorio que la configuración del enrutador: umbral de ruta a partir de la escalera de precios y la mezcla de tareas, punto de equilibrio de autoalojamiento a partir del índice de GPU y el volumen mensual de tokens, versionado junto con la ruta.