Puntuar la infraestructura de IA: energía, GPUs, red, $/token, p95

La energía es el primer precio

En la diapositiva del proveedor, el número de GPUs es el titular. El factor de coste es la energía contratada. La compensación es aritmética: la energía dividida entre los tokens programados fija el suelo de coste, mientras que la distancia de red dividida entre el presupuesto p95 fija el impuesto de latencia. El número de GPUs por sí solo no te dice ninguna de las dos cosas.

Un escenario central sitúa el gasto acumulado en capital de centros de datos en $31.6 billones hasta 2050. El gasto anual se proyecta en unos $800 mil millones en 2026, $1.1 billones en 2030 y $1.8 billones en 2050. El mercado de computación e IA en 2025 fue de unos $215 mil millones. Trata esas cifras macro como contexto, no como la lista de precios de un proveedor.

La construcción es el compromiso menor. Un dólar de gasto en construcción puede llevar a unos doce dólares de inversión posterior en equipos. Se proyecta que los equipos de tecnología de la información y las comunicaciones representen aproximadamente el 70% del capital de centros de datos en 2026 y el 93% en 2050.

Pide el límite de energía contratada, la fecha de interconexión con la red eléctrica y el plan de respaldo. Un sitio puede tener un edificio grande y aun así estar limitado por la red. Una fecha de interconexión ausente significa que la capacidad no está demostrada. Revisa el presupuesto de refrigeración, porque el calor limita la tasa sostenida de tokens.

El número de GPUs es un problema de utilización

El número bruto de GPUs es una cifra de marketing. Solicita la utilización programada, no el número de racks. Pools grandes de GPUs con solo una parte reservada para tu carga de trabajo reducen tu capacidad efectiva. Eso cambia el coste por token antes de que se emita el primer token.

La distribución del capital de centros de datos depende de la electricidad, la latencia y la conectividad, la seguridad de región de confianza, el acceso a GPUs y la profundidad del ecosistema, y la política más el consentimiento comunitario. Los centros de datos de GPUs pueden parecer completos en una presentación y aun así estar infrautilizados en producción. La capacidad reservada, no la capacidad instalada, es la métrica a comparar.

Obtén el modelo de reserva. Algunos proveedores venden capacidad compartida; otros venden capacidad dedicada. La capacidad compartida puede ser más barata, pero también puede ser preempta. Asegúrate de saber si los GPUs son reservados, escalables por ráfaga o de mejor esfuerzo.

Los GPUs facturados que permanecen inactivos siguen consumiendo energía y red. Resta el tiempo inactivo de las horas-GPU facturadas antes de calcular el coste por token. Compara la reserva con el tamaño de lote y la concurrencia del modelo.

La distancia de red es un impuesto p95

La latencia no es una nota al pie. Aproximadamente el 30% de las cargas de trabajo ya tienen requisitos de localización, y esa proporción está creciendo. Para la inferencia, una ruta lenta puede elevar el p95 incluso cuando el rendimiento medio parece correcto. Mide el tiempo de ida y vuelta a la región de servicio, no solo el ancho de banda.

La seguridad de región de confianza afecta a dónde se pueden servir los tokens. Para usuarios en una región regulada, un clúster lejano puede incumplir el presupuesto de latencia antes de incumplir la revisión de seguridad. Mantén la región de servicio, el modelo y la geografía del usuario en un solo documento.

Obtén la región de servicio, la ruta de peering y el p95 medido desde tu base de usuarios. El panel interno de un proveedor puede mostrar una buena cifra, pero tus usuarios pueden estar detrás de una ruta diferente. Ejecuta la prueba desde la misma geografía que pagará por los tokens. Registra la fecha de la prueba, la región y el tamaño del modelo.

La distancia de red también afecta a los reintentos. Cuando el p95 incumple el presupuesto, los clientes pueden reintentar, lo que aumenta el volumen y el coste de tokens. Incluye la sobrecarga de reintentos en el modelo de $/token.

Aplica esta ficha de puntuación antes de firmar

Aplica la misma ficha de puntuación del comprador ya sea el proveedor un centro de datos, una nube de GPUs o un proveedor de inferencia. Las cinco preguntas de la ficha a continuación van del límite físico a la penalización financiera. Completa cada punto antes de firmar.

• Disponibilidad de energía: solicita los MW contratados y el respaldo; si falta la cifra, detente.
• Número de GPUs y utilización: extrae las horas-GPU reservadas y la utilización programada; ajústalas a tu objetivo de tokens.
• Red/latencia: mide el p95 de ida y vuelta desde tus usuarios hasta la región de servicio; compáralo con tu presupuesto de latencia.
• $/token bajo carga: exige una prueba de carga a la tasa máxima de tokens, no una cotización en reposo.
• Coste p95/indisponibilidad: añade créditos de nivel de servicio y una fórmula de coste de indisponibilidad vinculada a los incumplimientos de p95.