Recalcula tu coste por token antes de que el salto del 22 % en el alquiler de H100 redefina tu presupuesto de inferencia
Audita el coste por token, la utilización y el coste de migración de H100, H200 y B200 tras el salto en el alquiler de H100.
El salto de precio cambia el denominador
La factura de tu H100 es el detonante: el 7 de septiembre de 2026, Ornn informó de que los precios de alquiler de Nvidia H100 subieron un 22 % respecto al mes anterior hasta $3.28 por hora. La compensación es la capacidad. El $/token efectivo equivale al coste horario efectivo dividido por los tokens por hora a la latencia objetivo. Si el resultado supera el objetivo, traslada las capas no críticas en latencia a H200 o B200.
El 7 de septiembre de 2026, el precio de liquidación Ornn OCPI-H100 fue de $3.17 por hora, con una ganancia de 19 % en 30 días. Según el anuncio de Ornn del 2 de abril de 2026, el Ornn Compute Price Index cubría los precios de alquiler de Nvidia H100, A100, H200, B200 y GPUs de clase RTX.
Los datos de SemiAnalysis mostraron que los rangos de precio de alquiler de H100 a un año subieron de $1.45-$1.95 por hora en octubre de 2025 a $2.00-$2.70 por hora en marzo de 2026, con puntos medios que pasaron de unos $1.70 a $2.35, un incremento de aproximadamente 38 %.
El 19 de mayo de 2026, ICE y Ornn anunciaron que introducirían contratos de futuros de cómputo GPU. En agosto de 2026, Nvidia reveló una alianza con Apollo, BlackRock, Blackstone, Brookfield, Goldman Sachs y KKR orientada a captar más de $500 mil millones para la financiación de infraestructura de IA. Tras los datos de precios de H100 de Ornn del 7 de septiembre de 2026, el CEO de Nvidia, Jensen Huang, publicó en X que el cómputo de Nvidia es un activo flexible, de larga vida y generador de renta.
La auditoría debe hacerse antes de la próxima factura
Trabaja las capas en el orden en que tu tráfico las utiliza. Mantén la auditoría en una hoja compartida para que las filas de H100, H200 y B200 sean comparables.
- Obtén el precio actual de H100 de la factura, no de la página de marketing, y termina con una tarifa horaria efectiva para cada proveedor, incluido cualquier descuento.
- Añade el tiempo inactivo, la salida de red, el almacenamiento y los costes de soporte a la tarifa de alquiler para obtener el coste horario efectivo de la máquina tal como está desplegada.
- Mide los tokens por hora a la latencia objetivo para cada modelo, tamaño de lote y longitud de secuencia a partir del tráfico de producción, no de una ejecución de benchmark.
- Divide el coste horario efectivo entre los tokens por hora para obtener el coste de inferencia por token de cada capa.
- Multiplica la tasa teórica de tokens por la proporción de tiempo que la flota atiende tráfico, para que la línea de $/token refleje las horas inactivas, no las horas pico.
- Calcula la misma tasa de tokens bajo contratos reservados y spot, y expresa la diferencia en dólares por token.
- Calcula el coste de migración en horas de ingeniería, revalidación, tráfico canary y riesgo de rollback, con una cifra en dólares que pueda compararse con la diferencia de $/token.
No compares el precio de lista con el precio spot sin tener en cuenta la utilización; una flota que permanece inactiva con frecuencia oculta el $/token real.
Muévete solo cuando la diferencia cubra la migración
Define S como la diferencia de $/token entre la capa H100 actual y la capa candidata H200 o B200. Establece M como el coste de migración de la auditoría. Trata R como el coste de riesgo de un fallo de latencia, una interrupción o un canary fallido. Traslada la capa cuando S supere a M más R.
Aplica la regla por capa. Las cargas de trabajo por lotes, offline y en segundo plano suelen tolerar una cola más larga, por lo que son las candidatas naturales. Las cargas interactivas necesitan una barrera de latencia antes de cualquier traslado. Si la capa candidata no puede mantener la latencia objetivo, conserva la capa H100 y renegocia el contrato.
La depreciación del hardware más antiguo no justifica mantener una capa cuando la diferencia cubre la migración, ni trasladar una capa crítica en latencia solo porque el nuevo hardware parece más rápido. La decisión corresponde a la línea de $/token, al número de utilización y al coste de migración.
Si la escasez de capacidad GPU hace incierta la asignación de H200 o B200, mantén una vía de respaldo. Un compromiso H100 reservado puede ser más barato que una interrupción. Una posición H100 spot puede ser más barata que un objetivo de servicio incumplido, pero solo si la flota puede absorber la oscilación de precio.
Establece un disparador semanal de cambio de alquiler: vuelve a ejecutar la auditoría cuando el precio de alquiler de H100 vuelva a moverse. Actualiza la mezcla de capas antes de la próxima factura.