banco de pruebas · GB10 / DGX Spark

Cuánto corre cada modelo en nuestra mesa.

Velocidad de generación con una petición, agregado con varias, y nota en un banco agéntico de 84 escenarios. Todo medido en dos ASUS Ascent GX10 con el runtime, la cuantización y el commit a la vista. Si una cifra no tiene experimento detrás, no está aquí.

Las 118 medidas en crudo →
118medidas en el registro
29experimentos con cifra
10modelos medidos
139.4tok/srécord con una petición

▲ Velocidad con una petición

cómo medimos →
#modelodóndespeculativetok/sagregado
01Nemotron-3.5-LightningNVFP4 · vLLM · cómo lo medimos1× GX10dspark
139.4—
02Qwen3.8-Flash-NextMLX 4-bit group32 + MTP head + int8 KV · TensorFold · cómo lo medimos1× GX10MTP drafts 1-6
129.59113.88
03Qwen3.6-35B-A3BNVFP4 · vLLM1× GX10MTP
125.58346.94 ×8
04GLM-5.3-FlashEXL3 4 bpw + Dense FP8 dense-kda + KV FP8 · vLLM E3 + Adaptive-K2× GX10 · TP=2DFlash2-k7
73.1853.8 ×1
05DeepSeek-V4.1-Flash EXL3EXL3 2.9bpw + Engram file-backed · vLLM 0.1.dev20904+g179dd0fa · cómo lo medimos2× GX10 · TP=2DSpark-k3
50.0841.2 ×2
06Ling-3.0-FlashINT4-compressed-tensors · sglang1× GX10NEXTN
35.7696.59 ×6
07MiMo-V2.6-FlashMXFP4 experts + BF16 router + FP8 KV · SGLang · cómo lo medimos2× GX10 · TP=2EAGLE-4x3
34.03226.13 ×8
08DeepSeek-V4-FlashUD-IQ3_XXS · llama.cpp · cómo lo medimos1× GX10draft-dspark
33.4528.6 ×1
09Muse-Glimmer-30BUD-Q4_K_XL · llama.cpp1× GX10draft-dflash
27.8919.34 ×2
10Laguna-S-2.1Q4_K_M · llama.cpp1× GX10none
24.78—

La mejor generación medida con una sola petición para cada modelo, en cualquier configuración que hayamos probado. No es una comparación en igualdad de condiciones: un modelo de 30B en una GX10 y uno de 300B repartido en dos no juegan la misma liga. Por eso cada fila lleva su configuración.

◆ Calidad agéntica · banco de 84 escenarios

qué mide el banco →
#modelonota
01GLM-5.3-Flash2× GX10 · 2026-10-01 · cómo lo medimos
90/100
02DeepSeek-V4.1-Flash EXL32× GX10 · 2026-10-18 · cómo lo medimos
83/100
03MiMo-V2.6-Flash2× GX10 · 2026-09-22 · cómo lo medimos
82/100

Llamadas a herramientas, instrucciones contradictorias, datos ausentes e inyecciones. El banco no es determinista: dos pases idénticos pueden separarse un par de puntos (P-063), así que lo que cuenta es la media de varios pases cuando la hay.

▤ Fichas reproducibles

todas las filas →
2× GX10 · TP=2 · 2026-09-16

GLM-5.3-Flash · EXP-0101

59.01tok/s
0.329TTFT s
EXL3 4 bpw + Dense FP8 dense-kda + FP8 KVctx 830KDFlash2-k7