Gestión de modelos: organiza tus pesos sin volverte loco
Sistema práctico para almacenar, versionar y limpiar modelos en local: HF_HOME, symlinks, scripts de limpieza y la política de 'un modelo entra, un modelo sale'.

Con modelos de varios GB, el disco se convierte en tu recurso más escaso. Este es el sistema que proponemos después de un susto de espacio en el laboratorio y que conviene adaptar a tu propia ruta de modelos.
Paso 1: Un solo hogar para todos los modelos
Por defecto, cada herramienta guarda donde le da la gana (Ollama en un sitio, HF en otro, llama.cpp donde le pases la ruta). Centraliza:
# En tu .bashrc
export HF_HOME=/srv/models/huggingface
export OLLAMA_MODELS=/srv/models/ollama
# (TRANSFORMERS_CACHE está obsoleta: con HF_HOME basta)
Todo en un sitio = un solo du -sh para saber dónde estás.
Paso 2: El script de limpieza (el que te salva)
#!/usr/bin/env bash
# clean-models.sh — informe de ocupación
echo "=== USO DE DISCO ==="
df -h / | tail -1
echo ""
echo "=== MODELOS POR TAMAÑO ==="
du -sh /srv/models/* 2>/dev/null | sort -rh | head -15
echo ""
echo "=== BASURA HF (blobs huérfanos) ==="
find $HF_HOME -name "*.incomplete" -o -name "*.lock" 2>/dev/null | head
echo ""
echo "=== DESCARGAS PARCIALES ==="
du -sh /tmp/*.part 2>/dev/null | sort -rh | head -5
Cron semanal que te lo manda por Telegram. Saber es la mitad de la cura.
Paso 3: La política del club
Nuestras reglas (adoptadas tras llorar modelos duplicados):
- Antes de descargar:
df -h. Deja espacio para el modelo, los temporales, la caché y el margen operativo; si no cabe con holgura, no empieces. - Un modelo entra, un modelo sale: si descargo uno nuevo de la misma categoría (chat/coder/embeddings), el anterior se va. Sin sentimientos.
- Los “de producción” tienen alias:
ollama cp modelo prod-chat. Los scripts apuntan al alias, no al tag. Actualizar sin romper nada. - Re-descargar puede ahorrar backups, pero consume ancho de banda y tiempo y algunos repositorios requieren acceso. Backupea tus LoRAs, datasets y configs; conserva también una lista de versiones y fuentes.
Paso 4: Descargar con cabeza
# hf CLI con reanudación para descargas grandes
pip install -U huggingface_hub
hf download org/modelo --local-dir /srv/models/gguf/
--local-dirpara controlar destino exacto- El cliente puede reanudar descargas, pero revisa el espacio disponible y la versión de
la herramienta. Evita un
wgetsin control para artefactos grandes.
Cómo queda la carpeta
/srv/models/
├── gguf/ # para llama.cpp (por orden de uso)
├── huggingface/ # cache HF (vLLM, transformers)
├── ollama/ # los modelos de Ollama
├── loras/ # NUESTROS LoRAs (backup sagrado)
└── datasets/ # datos de fine-tuning (backup sagrado)
El tamaño final depende de tus modelos y de las cuantizaciones que conserves: revisa
df -h y du -sh antes de decidir qué borrar. 🧹