25 octubre 2026 EN ES
The Serving Desk

La infraestructura detrás de tu producto de IA — modelos, servicio y su costo real

Startups de infraestructura

Dos hitos antes de que un chip de inferencia priorizado en memoria gane capacidad para 2027

Reserve la capacidad de inferencia para 2027 solo después de que el tapeout y una carga de trabajo con pago demuestren la utilización real de ancho de banda de memoria y el costo por token.

Illustration: Two milestones before a memory-first inference chip earns 2027 capacity

Su plan de capacidad necesita una respuesta de sí o no sobre un acelerador priorizado en memoria antes del cierre del presupuesto. El dilema es reservar capacidad antes de la producción programada de Asimov. Las simulaciones de Positron muestran que un rack que utiliza su silicio puede entregar hasta 26 veces más tokens por dólar que el equipo Blackwell GB300 NVL72 de Nvidia.

Confirme el tapeout antes de reservar capacidad

Positron AI anunció una financiación de Serie C por $875 millones a una valoración post-money de $5 mil millones el 10 de septiembre de 2026. Positron indicó que el nuevo capital cubrirá el tapeout de Asimov y la rampa de producción de Titan, tras una implementación de Atlas con más de 50 racks en Oracle Cloud Infrastructure en Reno, Nevada. La puerta de entrada es el silicio físico saliendo de la foundry y, a continuación, una carga de trabajo de producción con pago.

Asimov está programado para tapeout en TSMC N3P a finales de 2026, con producción en H2 2027 y de 288 GB a 2.304 GB de memoria conectada a cada chip. Si el tapeout se retrasa, el plan de capacidad necesita un rack de respaldo designado, con presupuesto de energía y red, antes de que la fecha del proveedor se trate como un compromiso. Si el tapeout se desplaza, el plan puede ajustarse sin reabrir el presupuesto. Una carga de trabajo de producción con pago pone a prueba el mismo caso de costo con longitudes de contexto reales, tamaños de lote reales, tasas de fallo reales y decodificación sostenida. Muestra si el subsistema de memoria se mantiene activo bajo carga de producción, no solo ante un pico.

Diseñe la prueba en torno a la decodificación, no al prellenado. La decodificación es donde el ancho de banda de memoria suele ser el cuello de botella y donde un diseño priorizado en memoria debería mostrar su ventaja. Elija una carga de trabajo de contexto largo, fije el tamaño del lote y mida los tokens por segundo por dólar en su rack actual. Luego pida al proveedor que ejecute la misma carga de trabajo en un sistema de referencia. Si la respuesta es solo un número, la puerta de entrada no se supera.

Haga los cálculos de ancho de banda antes de firmar

Positron afirmó que sus sistemas de próxima generación pueden utilizar más del 90 por ciento del ancho de banda de memoria disponible y que el LPDDR5X de grado comercial les permite evitar las cadenas de suministro ajustadas de HBM y CoWoS. También afirmó que los aceleradores de IA típicos utilizan menos del 30 por ciento del ancho de banda de los módulos HBM, mientras que sus equipos pueden acceder a más del 90 por ciento del rendimiento de LPDDR5X.

La capacidad de memoria por chip de Asimov va de 277 gigabytes a 2,3 terabytes, y sus chips pueden enlazarse en clústeres de hasta 16.384 chips. Ese rango cambia los cálculos de decodificación de contexto largo: más memoria por chip significa menos descargas a almacenamiento más lento. Si una carga de trabajo necesita el extremo superior del rango, la configuración tope lo resuelve sin un nivel de memoria adicional.

Mantenga la prueba de costo vinculada a su propia economía unitaria. Un token cambia de valor cuando cambian la longitud de contexto, la tasa de aciertos de caché y la concurrencia. Si el número del proveedor usa un prompt corto y un lote grande, puede no resistir su mezcla de producción. Pida la longitud de contexto, el tamaño del lote y el precio por hora-rack. Si faltan esos campos, el número no es un dato de capacidad. Use el mismo período de medición. Mantenga el resultado como un número que su equipo financiero pueda auditar. Registre la longitud de contexto, el tamaño del lote y el precio por hora-rack en la misma fila que el recuento de tokens, para que la pista de auditoría sea una sola tabla.

Mantenga la lista de verificación en puertas de entrada y una prueba de costo

Use la siguiente lista cuando un acelerador priorizado en memoria entre en un plan de capacidad. Cada elemento es una verificación de sí o no que puede ejecutar en un minuto. Manténgala en la revisión de capacidad, no en una presentación del proveedor. Úsela antes del cierre del presupuesto. La prueba final es la utilización real de ancho de banda de memoria frente al costo por token de decodificación de contexto largo.

  • Confirme el tapeout de Asimov en TSMC N3P a finales de 2026.
  • Confirme una carga de trabajo de producción con pago.
  • Verifique que el proveedor reporte una utilización real de ancho de banda de memoria superior al 90 por ciento.
  • Verifique que la afirmación de costo por token esté vinculada a una carga de trabajo designada, no a una simulación.

Ejecute la prueba de costo antes de firmar y repítala después de que comience la producción.

Publicidad