ficha de modelo
DeepSeek-V4-Flash
Un MoE grande (284B, 13B activos) que cabe en una sola GX10 cuantizado. Da unos 30 tok/s con decodificación especulativa y admite hasta 1M de contexto según su ficha; nosotros lo hemos servido a 262K en una máquina.
Con el motor ds4 saca 89/100 en nuestro banco de agentes, seis puntos más que en llama.cpp.
▤ Benchmarks medidos en el rack
1× GX10 · ver ficha →
33.45tok/s
8.94s al primer token
✦ Recetas para correrlo
Todavía no hay recetas publicadas para DeepSeek-V4-Flash.