GLM-5.3-Flash con TensorFold: nuestro nuevo modelo principal en las dos GX10
Promovimos la receta TensorFold de GLM como residente de producción: un millón de contexto, herramientas, visión y arranque automático con rollback.
Configuración
Sustituyó al despliegue anterior de GLM con vLLM. Es el mismo checkpoint en 4-bit, ahora con la receta comunitaria TensorFold repartida entre las dos GX10 (TP=2, gráficos CUDA y RDMA entre nodos). El Qwen3.8-27B antiguo quedó retirado en cuarentena, sin borrarse.
Resultado
| prueba | resultado |
|---|---|
| contexto servido | 1.048.576 tokens (1M) |
| decodificación con código (greedy) | 40,3 tok/s |
| decodificación de chat | 43,5 tok/s |
| aguja de contexto a 194.851 tokens | CORRECTA (prefill de 2 min) |
| temperatura en reposo | 54 °C, sin reinicios |
Estado
Es nuestro modelo principal desde el 1 de octubre. La nota del banco agéntico se midió aparte: 90/100, récord del laboratorio (EXP-0130), y la receta recibió luego la actualización v1.5 manteniendo alias y clientes intactos (EXP-0131).
Qué significa para ti
Si tienes dos Sparks, esta receta te da más contexto (1M frente a 850K del vLLM anterior) y mejor nota, sin cambiar el nombre con el que tus clientes llaman al modelo: alias estable y rollback con backup fechado.
Medido en nuestras máquinas. Dos ASUS Ascent GX10 (NVIDIA GB10, 128 GB de memoria unificada). En tu equipo las cifras serán otras: lo que se traslada es el método y la lección.