Qwen3.8-Flash-Next-NVFP4
Repartido en dos GX10. Cifra total con 4 peticiones a la vez (400 tokens cada una).
81.5tok/sgenerando
0.522shasta el primer token
configuración
- modelo
- Qwen3.8-Flash-Next-NVFP4
- cuantización
- NVFP4 weights + NVFP4 KV
- motor
- sglang
- hardware
- 2× ASUS Ascent GX10 (repartido)
- contexto
- 256K
- especulativa
- NEXTN 3/1/4