Qwen3.6-35B-A3B-NVFP4
Prompt de 18.000 tokens repetido: la caché de prefijo de vLLM se ahorra releerlo. Arranque en frío: 110 s.
125.58tok/sgenerando
0.554shasta el primer token
configuración
- modelo
- Qwen3.6-35B-A3B-NVFP4
- cuantización
- NVFP4
- motor
- vLLM
- hardware
- 1× ASUS Ascent GX10
- contexto
- 64K
- especulativa
- MTP
- temperatura GPU
- 57.8 °C