ficha de modelo

DeepSeek-V4-Flash

Un MoE grande (284B, 13B activos) que cabe en una sola GX10 cuantizado. Da unos 30 tok/s con decodificación especulativa y admite hasta 1M de contexto según su ficha; nosotros lo hemos servido a 262K en una máquina.

DeepSeekmedido · 1 GX10284B total · 13B activosMITctx 1M · ficha oficialRAM mín. depende de formato, KV y runtime

Con el motor ds4 saca 89/100 en nuestro banco de agentes, seis puntos más que en llama.cpp.

▤ Benchmarks medidos en el rack

1× GX10 · ver ficha →
33.45tok/s
8.94s al primer token
UD-IQ3_XXSctx 128K11 de agosto de 2026

✦ Recetas para correrlo

Todavía no hay recetas publicadas para DeepSeek-V4-Flash.