Prueba de coste por token de un acelerador de inferencia: la ronda de $21.000 M de Etched
Un acelerador de inferencia solo merece evaluación cuando benchmarks independientes y una separación de costes prefill/decode demuestran un menor coste por token, no cuando un inversor compra un rack.
El equilibrio está en la estabilidad de la carga de trabajo
Estás decidiendo si colocar un acelerador de inferencia de función fija delante del tráfico de producción. El equilibrio está entre la velocidad de función fija y la estabilidad de la carga de trabajo: un chip de inferencia de función fija puede superar a una GPU de propósito general en economía por token y eficiencia energética, pero solo si la carga de trabajo es lo suficientemente grande y estable como para que el compromiso merezca la pena. La aritmética: coste mixto por token = (coste prefill + coste decode) / tokens servidos, después de restar energía, personal y riesgo de caídas. El acelerador debe superar tu cifra actual de GPU todo incluido tras esas partidas. Una demo del proveedor que muestre el throughput máximo no refleja tu coste mixto. Tu tráfico tiene longitudes de prompt, longitudes de salida, concurrencia y tiempo inactivo. Esas variables deciden si la ventaja de función fija se sostiene.
La ronda es evidencia de mercado, no de rendimiento
Etched anunció una Serie D de $700 millones liderada por Jane Street con una valoración de $21.000 millones el 18 de agosto de 2026. Se informa de que la ronda se sitúa en el top 1 %. La valoración de $21.000 millones duplicó la valoración de $10,3 mil millones del 23 de julio.
Jane Street probó el hardware, compró un rack y lo está operando en su propio centro de datos antes de liderar la ronda. En junio de 2026, Etched declaró que había fabricado sus chips con TSMC y registrado $1.000 millones en pedidos. Etched afirma que los envíos han comenzado. Una ronda grande muestra confianza del mercado, no rendimiento medido. Sustenta un piloto, pero no fija tu coste por token.
Etched afirma que sus sistemas actuales pueden ejecutar cualquier modelo de frontera, cubriendo ejemplos de mixture-of-experts dispersos como DeepSeek y Qwen, y diseños no transformer como Mamba. La afirmación de ejecutar modelos de frontera, mixture-of-experts dispersos y de contexto largo sigue siendo una declaración de la empresa y carece de benchmarks de producción independientes. La métrica para la infraestructura de inferencia de IA es tokens por dólar y por vatio. Lo que falta es un benchmark de producción de un despliegue que no sea el propio canal de marketing del proveedor.
El salto de valoración es un hecho financiero. Financia otro rack, un equipo de soporte y un piloto más largo. También aumenta la probabilidad de afirmaciones agresivas sobre envíos. Trata esas afirmaciones como hipótesis, no como resultados medidos.
La separación prefill/decode decide el coste mixto
El diseño de Etched divide la carga de trabajo en un chip prefill de bajo voltaje y una ruta decode que utiliza memoria a escala de clúster para que muchos chips compartan un único pool de memoria rápida. Esa separación importa porque prefill y decode tienen cuellos de botella distintos. Prefill es intensivo en cómputo; decode es intensivo en ancho de banda de memoria. Un sistema que es barato en una fase puede seguir perdiendo en la otra. Si prefill y decode reparten la carga de tokens, una ganancia en la fase menor cambia el coste mixto menos que la cifra de portada. Un prompt de contexto largo puede hacer que prefill domine. Un chat corto puede hacer que decode domine. El mismo sistema puede ser más barato en una y más caro en la otra.
Pide la separación de costes en tu proporción prompt/salida, no en la proporción favorita del proveedor. Si la ruta decode comparte un pool de memoria, comprueba cuántos chips lo comparten y cómo se comporta la contención bajo carga. Una mejora modesta en la fase menor puede no mover la cifra mixta. Una mejora mayor en la fase mayor sí puede moverla. Tu modelo debe incluir longitud de prompt, longitud de salida, concurrencia y tiempo inactivo, porque esas variables determinan el coste final.
Un modelo de coste mixto también debe incluir el precio de un piloto fallido. Si el acelerador no se puede sustituir rápidamente, el coste de evaluación incluye tiempo de ingeniería, redirección de tráfico y el riesgo de una mala semana en producción. Ese riesgo debe estar en la misma hoja de cálculo que la energía y el personal.
El checklist decide la compra
Usa esta lista antes de un piloto. Cada elemento es una verificación sí/no.
- Verifica los datos de la ronda: importe, líder, valoración y fecha.
- Pide benchmarks independientes del despliegue del inversor; si no existen, márcalo como no.
- Comprueba si el proveedor da cifras de coste separadas para prefill y decode; si no, márcalo como no.
- Pide cifras de tiempo de inactividad, failover y SLA de soporte; si faltan, márcalo como no.
La fiabilidad es una línea de coste. Cuantifica una caída frente al descuento de hardware y trata las cifras de SLA como útiles solo cuando estén vinculadas a créditos, tiempo de failover y tiempo de respuesta de soporte. Si el proveedor no puede responder esos puntos, mantén el acelerador en evaluación, no en producción.