GLM-5.3-Flash-tr3-4bpw
Repartido en dos GX10. Salida estructurada, mediana de 5 pasadas, sin razonamiento visible.
60.16tok/sgenerando
0.351shasta el primer token
configuración
- modelo
- GLM-5.3-Flash-tr3-4bpw
- cuantización
- EXL3 4 bpw + FP8 KV
- motor
- vLLM E3
- hardware
- 2× ASUS Ascent GX10 (repartido)
- contexto
- 830K
- especulativa
- DFlash2-k7