← Las 34 trampasTrampa P-002 · severidad alta

El endpoint de estado de llama-server dice que no hay borrador aunque lo haya

Qué pasa

Si consultas /props en llama-server, verás algo como "speculative": {"types": "none"} aunque el modelo borrador esté cargado y acelerando la generación.

Por qué

Ese campo es el valor por defecto de cada petición, no el estado del servidor. No te dice si el borrador está activo.

Cómo comprobarlo bien

Mira el log de arranque del servidor:

docker logs <contenedor> 2>&1 | grep -i 'speculative\|draft'

Con el borrador activo verás líneas como loading draft model y la configuración del borrador. Regla general: un endpoint que informa de sí mismo puede estar informando de otra cosa. Contrasta con el log o con el comando de arranque.