Qué cabe, qué rinde y qué merece ocupar memoria en el rack. La ficha oficial y la medida local son cosas distintas; cada ficha indica qué está pendiente.
La versión 4.1 de DeepSeek Flash, cuantizada a 2,9 bits (EXL3) y repartida entre dos GX10. Saca 86/100 en nuestro banco de agentes con 600.000 tokens de contexto configurados.
Necesita mucho disco: el paquete ronda los 340 GB por máquina. Para empezar en una sola GX10, mejor DeepSeek-V4-Flash.
organización deepseek-ai en Hugging Face ↗Modelo de Xiaomi que entiende texto, imagen y audio y usa herramientas. Repartido en dos GX10 da 34 tok/s con una petición y 226 tok/s en total con ocho. 82/100 en nuestro banco de agentes.
Lo tenemos en pruebas: funciona bien, pero para trabajo con agentes GLM-5.3 sigue sacando más nota.
organización XiaomiMiMo en Hugging Face ↗GLM-5.3-Flash cuantizado a 4 bits y repartido entre dos GX10. Es el que mejor nota saca en nuestro banco de agentes (89/100) y aguanta 850.000 tokens de contexto.
Si solo tienes una GX10, no cabe con un contexto útil: mira DeepSeek-V4-Flash o Qwen3.6-35B.
ficha oficial zai-org ↗Un MoE grande (284B, 13B activos) que cabe en una sola GX10 cuantizado. Da unos 30 tok/s con decodificación especulativa y admite hasta 1M de contexto según su ficha; nosotros lo hemos servido a 262K en una máquina.
Con el motor ds4 saca 89/100 en nuestro banco de agentes, seis puntos más que en llama.cpp.
ficha oficial DeepSeek ↗Variante Flash-Next de Qwen3.8, en NVFP4 y repartida entre dos GX10. Unos 56 tok/s en salida estructurada con una petición.
No confundir con Qwen3.8-27B: son modelos distintos.
ficha oficial Qwen ↗Modelo denso de 27B. Fue el primero que resistió sin ayuda nuestra prueba de inyección de prompt, a cambio de ser de los más lentos (unos 20 tok/s).
Un MoE como Ornith-1.5 iguala su calidad con el triple de velocidad.
ficha oficial Qwen ↗MoE de 30B con solo 3B activos, en NVFP4. Con decodificación especulativa llega a 139 tok/s en una GX10: el más rápido que hemos medido.
Sin un prompt de sistema defensivo cae ante las inyecciones de prompt. Úsalo con uno si va a leer contenido de terceros.
MoE de 35B con 3B activos. Rápido (unos 125 tok/s en NVFP4) y el que mejor aguanta varias peticiones a la vez: 347 tok/s en total con ocho.
Nuestra recomendación para empezar en una sola GX10.
MoE de Ant Group. Más lento con una petición (unos 36 tok/s), pero escala bien con varias a la vez.
Usa los ajustes de la receta de su autor: sin ellos arranca bien y genera texto sin sentido.
Modelo denso de 30B. Sin ayuda va a 7 tok/s; con un borrador DFlash llega a unos 17–28 tok/s.
Un buen ejemplo de por qué los modelos densos rinden poco en memoria unificada.