GLM-5.3-Flash en dos máquinas: 89/100 con herramientas y 850.000 tokens de contexto
El modelo que mejor nota ha sacado en nuestro banco de agentes, repartido entre las dos GX10. Probado con un prompt de casi 840.000 tokens.
Configuración
GLM-5.3-Flash cuantizado a 4 bits (EXL3), repartido entre las dos GX10, con decodificación especulativa (DFlash2) y caché en FP8.
Resultado
| prueba | resultado |
|---|---|
| generación, salida estructurada | 59,0 tok/s (mediana de 5) |
| generación, prosa | 29,0 tok/s |
| prompt en frío de 839.995 tokens | respondió, a 1.088 tok/s de lectura |
| banco de 84 escenarios con herramientas (3 pases) | 89/100 |
| 4 peticiones a la vez (código) | ~70,7 tok/s en total, sin errores |
Qué significa para ti
Es el modelo que usamos para trabajo agéntico serio: programar con herramientas, leer repositorios enteros, documentación larga. Si tienes dos máquinas, es la opción que recomendamos. Si tienes una, mira qué modelo poner en una GX10.
Medido en nuestras máquinas. Dos ASUS Ascent GX10 (NVIDIA GB10, 128 GB de memoria unificada). En tu equipo las cifras serán otras: lo que se traslada es el método y la lección.