Qué es En Local y por qué existe

Cada semana sale un modelo de IA nuevo que «corre en local». Casi nunca te dicen en qué máquina, a qué velocidad, con cuánta memoria ni qué hay que tocar para que funcione. En Local existe para contestar esas preguntas en español, con pruebas hechas en nuestras propias máquinas.

Qué vas a encontrar aquí

• Cifras reales. Cuántos tokens por segundo da un modelo, cuánta memoria ocupa, cuánto contexto aguanta y a qué temperatura trabaja. Siempre con el hardware y la configuración a la vista, en Benchmarks.
• Recetas paso a paso. Desde tu primer modelo con Ollama hasta repartir un modelo entre dos máquinas.
• Tu propio servidor. Cómo montar un servidor o un VPS, una red privada y usar tu IA desde el móvil sin abrir puertos del router, en la serie Remoto.
• Los errores que ya cometimos. Explicados para que no te pasen a ti, en Trampas.

Qué no vas a encontrar

• Promesas sin medir. Si una cifra no la hemos comprobado, lo decimos. Distinguimos siempre entre lo medido, lo calculado y lo pendiente.
• Noticias traducidas sin probar. Preferimos contarte cómo correr algo hoy, con nuestras pruebas, a repetir un anuncio.
• Humo. No te vamos a decir que un modelo enorme vuela en cualquier portátil.

El hardware

Trabajamos con dos ASUS Ascent GX10 (NVIDIA GB10, 128 GB de memoria unificada cada una) unidas por un cable de 200 Gb/s, un servidor en casa y el resto del equipo que describimos en El Rack. Lo que funciona en estas máquinas suele servir, con otros números, para cualquier equipo con memoria unificada (DGX Spark, Strix Halo, Mac) o una buena tarjeta gráfica.

La promesa

Todo lo que publiquemos como resultado estará medido en nuestras máquinas, con la configuración para que puedas repetirlo. Y cuando nos equivoquemos, lo corregiremos a la vista.

Si te sirve, bienvenido. Empieza por aquí o mira qué modelo poner en una GX10.