Hy3 de 295B en dos máquinas: funciona, acierta y va a 8 tokens por segundo. Descartado
Un modelo enorme que cabía en el clúster y respondía bien. Pero cinco veces más lento que la alternativa, y con ocho veces menos contexto.
Resultado
| Hy3 295B | DeepSeek-V4-Flash (mismas máquinas) | |
|---|---|---|
| velocidad | 8,17 tok/s | 43,91 tok/s |
| contexto | 131K | 1M |
Arrancó, respondió correctamente y no dio ningún error. Lo descartamos el mismo día.
Qué significa para ti
«Cabe y funciona» no es suficiente. Un modelo en dos máquinas tiene que ganar en algo que no consigas con otro más pequeño: calidad, contexto o velocidad. Si solo es más grande, no compensa.
Medido en nuestras máquinas. Dos ASUS Ascent GX10 (NVIDIA GB10, 128 GB de memoria unificada). En tu equipo las cifras serán otras: lo que se traslada es el método y la lección.