Cómo elegir tu primera GPU para IA local (guía honesta de presupuestos)
De la Raspberry a la Spark: qué hardware necesitas según presupuesto y objetivos. Con tabla real de qué modelos caben en cada tarjeta y qué NO te van a contar las reviews.
La pregunta del millón (a veces literalmente). Guía honesta, sin marcas que pagar ni números de marketing, basada en lo que hemos vivido en El Laboratorio.
Primero: define tu caso de uso
Antes de mirar tarjetas, responde:
- ¿Qué quieres hacer? (chat, imágenes, transcripción, agentes…)
- ¿Qué calidad mínima aceptas? (SLM decente vs modelo top)
- ¿Cuántos usuarios? (solo tú vs familia vs servicios)
- ¿Silencio y consumo importan? (24/7 en el salón no es lo mismo que un rack)
La tabla de la verdad (2025)
| Presupuesto | Hardware | Qué puedes correr | Veredicto |
|---|---|---|---|
| 0€ | Tu PC actual (CPU) | 3-8B Q4 | Para probar. Lento pero funcional |
| ~300€ | GPU 12GB (3060/4060Ti) | 8-14B Q4, SDXL | El entry level honrado |
| ~600€ | Mac mini M4 24GB | 14-30B Q4 | Silencioso, eficiente, SLM++ |
| ~1000€ | GPU 24GB (3090/4090 2ª mano) | 30-70B Q3/Q4 | El sweet spot gamer |
| ~2000€ | Mac Studio 64-96GB | 70B Q4 cómodo | El silencioso pro |
| ~2500€ | NVIDIA Spark 128GB | 70B Q4, MoE 100GB Q3 | El laboratorio casero ✓ |
(Precios aproximados España 2025. Los modelos “Q4” son cuantizados a 4 bits — ver nuestro diccionario.)
Las 5 verdades que nadie te dice en las reviews
1. La VRAM es el techo, los TFLOPS el suelo
Una GPU con 24GB “antigua” (3090) te da más felicidad IA local que una nueva con 8GB, aunque la nueva gane en juegos. Para IA local: memoria > velocidad.
2. Los benchmarks no compran hardware, los casos de uso sí
Si tu uso es chat + RAG + automatización, un 14B bien cuantizado te cubre el 90%. No necesitas correr el modelo de moda de 400B.
3. El ruido importa más de lo que crees
Una 3090 a tope suena como una secadora. Si va en tu despacho/salón 24/7, piénsalo. Los Mac y las Spark son silenciosos: por eso hemos migrado todo el servicio doméstico a las sparks y las GPU “de verdad” solo se despiertan para experimentos.
4. Consumo: la factura invisible
Una 4090 a plena carga: 450W. Una Spark: ~140W. Si va 24/7, son ~60€/mes vs ~18€/mes. El TCO real incluye la luz.
5. La segunda mano es tu amiga (con cuidado)
El mercado de 3090 usadas (ex-minería) es el chollo histórico del IA local. Compra con garantía, prueba stress tests el primer día, y acepta que es hardware vivido.
Nuestra recomendación por perfil
- Curioso total: tu PC actual + Ollama (receta 1). Coste: 0€. Hoy mismo.
- Entusiasta: GPU 12GB o Mac 24GB. Cubre años de aprendizaje.
- Hogar completo / servicios: Spark o Mac Studio. Silencio + memoria unificada.
- Obsesionado como nosotros: dos sparks y un cluster. Bienvenidos al Laboratorio. 🛠️
El consejo final
Empieza pequeño HOY con lo que tienes. El hardware se compra cuando los casos de uso lo piden, no antes. Nosotros empezamos con un portátil y 8GB de RAM… y mira esto.