Muse-Glimmer-30B
Modelo denso de 30B con un borrador DFlash que lo acelera 2,5 veces. Prompt de 16.000 tokens repetido.
27.89tok/sgenerando
56191.1tok/sleyendo el prompt
0.295shasta el primer token
configuración
- modelo
- Muse-Glimmer-30B
- cuantización
- UD-Q4_K_XL
- motor
- llama.cpp
- hardware
- 1× ASUS Ascent GX10
- contexto
- 128K
- especulativa
- draft-dflash
- temperatura GPU
- 94.4 °C