Muse Spark 1.2 autoalojado vs API de $1.25/M: lista de verificación de costos GPU

El precio de la API es el punto de referencia

Estás decidiendo si autoalojar Muse Spark 1.2 antes de que lleguen los pesos. Mark Zuckerberg dijo que Meta los haría disponibles pronto, sin fecha concreta. El precio de la API de Meta Model comienza en $1.25 por millón de tokens de entrada. El autoalojamiento solo gana cuando el costo total de servicio dividido entre los tokens servidos es inferior a ese precio. Muse Spark 1.2 se lanzó el 5 de agosto con una ventana de contexto de un millón de tokens. Meta lanzó Muse Spark en abril de 2026 tras retirar la familia de modelos Llama, como parte de un enfoque propietario. El compromiso de pesos abiertos cambia esa dirección, pero la decisión de producción sigue empezando con aritmética. Meta lanzó Muse Code, un agente de codificación de terminal en beta construido sobre Muse Spark 1.2. Úsalo como una carga de trabajo para probar, no como la única.

Meta presentó Muse Glimmer, un modelo de pesos abiertos con 30 mil millones de parámetros licenciado bajo Apache 2.0. Ya está disponible en Hugging Face. Usa Glimmer como referencia de licencia y distribución, no como sustituto de Muse Spark 1.2.

La lista de verificación es un modelo de costos

Ejecuta la lista de verificación antes de dimensionar el hardware. Cada elemento debe poder responderse rápidamente, y cada respuesta debe alimentar una estimación de dólares por token. Mantén las respuestas lo suficientemente concretas para incluirlas en una hoja de cálculo. Trátala como una barrera de seguridad y una puerta de decisión: pregunta si la pila de servicio puede soportar tu carga de trabajo a un precio defendible. La lista separa la capacidad del modelo de la economía de la pila de servicio: si la pila no supera el precio de la API, el estatus de pesos abiertos no corrige la línea de beneficio.

• Confirma que la licencia permite el autoalojamiento comercial y la redistribución.
• Registra el número de parámetros.
• Registra la longitud de contexto.
• Registra la mezcla de modalidades que planeas servir.
• Define el objetivo de concurrencia.
• Calcula la memoria de caché KV para el contexto completo con el tamaño de lote y la concurrencia planificados.
• Estima el número de GPUs a partir de la presión de memoria, no solo del número de parámetros.
• Elige el tamaño de lote de producción.
• Mide los tokens por segundo con ese tamaño de lote.
• Compara los dólares por token servido con el precio de la API.

Los términos de licencia van primero porque una publicación de pesos puede seguir llevando restricciones que bloqueen el despliegue. Las comprobaciones de contexto y caché KV importan porque el servicio de contexto largo está limitado por memoria, y la memoria convierte un modelo en un número de GPUs. Las comprobaciones de rendimiento y costo fuerzan la comparación a la misma unidad que el precio de la API: dólares por token. El orden importa: un fallo de licencia detiene el proyecto, un fallo de memoria cambia el hardware, y un fallo de rendimiento cambia el tamaño de lote. Un elemento fallido debe forzar un cambio en el plan, no una nota en el apéndice.

Haz los cálculos antes de que lleguen los pesos

Empieza por la carga de trabajo, no por la ficha del modelo. Lista la tasa de solicitudes, la longitud media de entrada, la longitud media de salida, la mezcla de modalidades y el objetivo de concurrencia. Luego estima los tokens servidos por hora. Mantén entrada y salida separadas en la estimación. Usa la misma unidad de token para ambos lados de la comparación. Cubre primero el lado de entrada, luego añade salida, almacenamiento y operaciones. Si la carga de trabajo es mayoritariamente documentos largos, la entrada domina. Si es mayoritariamente prompts cortos, la salida puede cambiar la respuesta incluso cuando el costo de entrada parece cercano.

Construye el costo de autoalojamiento a partir de la pila de servicio, no del precio de una sola GPU. Incluye horas-GPU, energía, refrigeración, almacenamiento, red, mano de obra, mantenimiento y tiempo inactivo por baja utilización. Divide el costo total de servicio entre los tokens realmente servidos. Un lote de alto rendimiento puede reducir el costo por token, pero puede aumentar la latencia y la presión de memoria. Un lote de bajo rendimiento puede mantener la latencia baja, pero puede dejar GPUs subutilizadas. La elección del tamaño de lote es la palanca principal entre utilización y latencia. Registra el tamaño de lote elegido en la lista de verificación, porque cambia la memoria de caché KV, el rendimiento y el costo por token.

Si la estimación supera el precio de la API, usa la API. Si es inferior, autoaloja solo después de que las comprobaciones de licencia, memoria y rendimiento pasen.