Modelos de precios para inferencia de IA: hora-GPU, por token, por asiento, por resultado

Una cotización de inferencia de IA es un medidor, y ese medidor intercambia una factura predecible por riesgo de margen. El precio por hora-GPU sigue el uso de cómputo, el precio por token sigue la salida del modelo, el precio por asiento sigue a los usuarios, el precio por resultado sigue los resultados de negocio y la capacidad reservada sigue el cómputo comprometido. Supongamos una carga de trabajo hipotética que usa 100 horas-GPU a $2 cada una y emite 20 millones de tokens a $0.50 por millón; la factura por hora-GPU es $200, la factura por token es $10, y la diferencia es la decisión de precios.

El precio por capacidad mantiene la curva de costos honesta

El precio por hora-GPU es el medidor más fácil de auditar porque la factura sigue el tiempo de hardware, la curva de costos que determina el margen. Fireworks AI ofrece a los desarrolladores clústeres de GPU gestionados con facturación por uso. Sus ingresos anualizados superaron recientemente los $1 billion. La empresa informa que procesa más de 40 billones de tokens al día para sus clientes. Fireworks AI cerró una Serie D de $1.5 billion liderada por Atreides Management, Index Ventures y TCV.

Los medidores de capacidad importan porque el costo del proveedor se mueve con el mismo tiempo de hardware que se cobra al comprador. El comprador aún necesita un piso de utilización antes de aceptar una tarifa.

Una factura de clúster por uso es más fácil de modelar que una tarifa de plataforma combinada porque la entrada es visible. El equipo puede prever las horas-GPU a partir de la tasa de solicitudes, el tamaño del modelo y el tamaño del lote, y luego comparar esa previsión con la tarifa del proveedor. La previsión debe incluir tiempo ocioso, no solo la demanda pico.

Los medidores necesitan la misma prueba

Usa las filas como una lista de verificación previa a la venta. El medidor debe ser visible en la factura, no oculto en una tarifa combinada.

• Hora-GPU: factor de costo: tiempo de hardware; prueba de margen: utilización; riesgo de escala: capacidad ociosa; funciona: inferencia intermitente; falla: baja utilización.
• Por token: factor de costo: volumen de salida; prueba de margen: tokens por solicitud; riesgo de escala: prompts más largos; funciona: chat variable; falla: modelos verbosos.
• Por asiento: factor de costo: usuarios activos; prueba de margen: costo por usuario; riesgo de escala: usuarios intensivos; funciona: equipos predecibles; falla: uso desigual.
• Por resultado: factor de costo: resultados pagados; prueba de margen: tasa de conversión; riesgo de escala: mejoras del modelo; funciona: ROI medible; falla: atribución difusa.
• Capacidad reservada: factor de costo: cómputo comprometido; prueba de margen: utilización comprometida; riesgo de escala: fallos de demanda; funciona: carga estable; falla: crecimiento impredecible.

Los cambios de hardware mueven la curva de costos

General Compute obtuvo un préstamo de $400 million de Upper90. La empresa afirma que sus nuevos chips ejecutarán la inferencia 16 veces más rápido que las nubes basadas en GPU. Crusoe levantó una Serie F de $3 billion que elevó su valoración a $30 billion en menos de un año.

Cuando el hardware de inferencia se vuelve más rápido, el costo por token puede caer incluso si el precio por hora-GPU se mantiene estable. Un proveedor con precio por token puede transmitir esa ganancia al comprador; un proveedor con precio por hora-GPU puede retenerla. El comprador debe preguntar a qué medidor sigue el descuento, porque un precio por token que protegía el margen en un nivel de utilización puede convertirse en un descuento en otro.

El medidor correcto coincide con la carga

Para un líder de ingeniería que compra capacidad de inferencia, empieza por hora-GPU o capacidad reservada cuando la carga es estable y el modelo es fijo. Por token es el medidor correcto cuando la longitud de la salida es la variable principal. Por asiento funciona para un comportamiento de usuario plano. El precio por resultado funciona cuando el comprador puede verificar el resultado y el proveedor puede absorber el costo de inferencia.

Para un fundador técnico que fija el precio de su propia pila, ancla la tarifa pública al medidor de costos que puedes medir. Si vendes tokens, registra tokens por dólar de tiempo de GPU. El precio por asiento necesita costo por usuario activo. El precio por resultado necesita costo de inferencia por resultado pagado. El precio que sobrevive es el que deja margen cuando la utilización cae.

Antes de firmar, pon el medidor y el piso de utilización en la misma cláusula del contrato: la unidad, la regla de redondeo, el mínimo y el piso. Si el proveedor no puede enunciar la unidad en lenguaje claro, la factura se convierte en una negociación. La regla de redondeo también importa: facturar tokens enteros, segundos enteros u horas enteras cambia el precio efectivo.