Actualizamos GLM TensorFold a la receta v1.5 sin romper nada
El cambio de la receta v0.5.0 a la v1.5 mantiene el 90/100, mejora la velocidad de decodificación y el alias del modelo no cambia, así que ningún cliente se reconfiguró.
Configuración
El residente de producción (EXP-0129) pasó de la receta v0.5.0 a la receta v1.5 del mismo proyecto, con backup fechado para poder revertir. Alias de servicio, puerto y perfil se conservaron.
Resultado
| prueba | resultado |
|---|---|
| nota del banco (84 escenarios × 3) | 90/100, idéntico en las 3 pasadas |
| decodificación (mediana de 3 respuestas largas) | 45,4 tok/s (antes 43,5) |
| 4 peticiones a la vez | 79,2 tok/s agregados, sin errores |
| aguja de contexto a 194.851 tokens | CORRECTA |
Estado
Promovido como residente estable. La v1.5 añade correcciones en cancelaciones y streams paralelos; a nuestra escala eso se tradujo en algo poco espectacular pero bueno: mismas notas que v0.5.0 (90/100) con decodificación algo superior.
Qué significa para ti
Actualizar una receta no tiene por qué doler: con backup previo, banco repetido y alias intacto, los clientes Ni se enteraron. Es el modo barato de probar una versión nueva de un modelo residente.
Medido en nuestras máquinas. Dos ASUS Ascent GX10 (NVIDIA GB10, 128 GB de memoria unificada). En tu equipo las cifras serán otras: lo que se traslada es el método y la lección.