Con varios agentes a la vez, el orden de los modelos cambia por completo
Comparamos tres modelos con 1, 2, 4 y más peticiones simultáneas. Uno no escala en absoluto; otro supera lo que publica su propio autor.
Qué queríamos saber
Cómo se comportan tres modelos cuando varios agentes les hablan a la vez, que es el uso real de un laboratorio.
Resultado: trabajo total (tokens por segundo de todo el servidor)
| peticiones a la vez | Qwen3.6-35B | Ling-3.0-Flash | DeepSeek-V4-Flash |
|---|---|---|---|
| 1 | 100,2 | 27,9 | 28,6 |
| 2 | 158,4 | 47,4 | 26,5 |
| 4 | 243,4 | 76,7 | 27,0 |
| 6 | — | 96,6 | — |
| 8 | 346,9 | — | — |
Lo que significa
- DeepSeek, tal como lo servíamos, era de un solo usuario. Con un único hueco de atención en llama.cpp, el trabajo total se queda plano y la espera crece: con 4 peticiones, el tiempo hasta el primer token pasó de 0,14 s a 17 s de media. No había memoria libre para darle más huecos.
- Ling escala mejor que lo que publica su autor: más lento con una petición, pero mejor con 4 y 6.
- Qwen3.6 es el que mejor aguanta la concurrencia de los tres.
Qué significa para ti
Si vas a usar agentes en paralelo, mide con varias peticiones antes de elegir modelo. La clasificación con una sola petición puede ser la contraria.
Medido en nuestras máquinas. Dos ASUS Ascent GX10 (NVIDIA GB10, 128 GB de memoria unificada). En tu equipo las cifras serán otras: lo que se traslada es el método y la lección.