ASUS Ascent GX10
Nodo base del laboratorio. Tenemos dos operativas, unidas por un cable QSFP con 196 Gb/s medidos entre ellas. Las cifras de inferencia están en Benchmarks; el consumo de pared todavía está pendiente de medir.
ficha técnica ASUS ↗el rack — Rack-0
El foso es el rack
Cualquiera puede hablar de IA. Nuestro trabajo es enseñar el equipo, la configuración y la medida que haya detrás de cada afirmación. Rack-0 es un mini-datacenter de aficionado-pro para investigar modelos grandes, IA en español y flujos locales. Hoy hay dos GX10 operativas en clúster y el resto del inventario ya está en casa, sin interconectar o en otros trabajos; las medidas de las que funcionan ya están en Benchmarks.
◆ El inventario
AMD Strix Halo · 128 GB
Nodo de capacidad para servir modelos, embeddings y TTS. La potencia y el rendimiento dependen del equipo concreto, el perfil térmico, el runtime y la carga.
ficha técnica AMD ↗RTX 5090 móvil · 24 GB
Nodo de demo rápida y producción creativa. La ficha de producto no sustituye la medición del portátil o sistema donde esté instalada.
ficha oficial NVIDIA ↗MikroTik CRS812-8DS-2DQ-2DDQ-RM
Tejido de red del Rack-0. Documentaremos cableado, MTU, RoCE y pruebas NCCL con la topología realmente instalada.
ficha técnica MikroTik ↗explora los datos
Las fichas se separan del relato del rack para que puedas ir del equipo al modelo y del modelo a la medida.
✦ La arquitectura viva
las piezas operativas para IA y las que ya están en casa (sin interconectar o en otros trabajos), cada una con su papelOperativo hoy: gx10-2, gx10-1. Los demás nodos ya los tenemos: quedan pendientes de interconectar (con el switch MikroTik) o están ahora en trabajos de ingeniería y simulación; no los contamos como disponibles para IA.
gx10-2
La segunda máquina del clúster. Demuestra que un modelo puede repartirse entre dos GX10 y por qué sumar memoria no es lo mismo que tener un único bloque de memoria.
operativogx10-1
El nodo principal del laboratorio: recibe las peticiones del modelo repartido entre las dos GX10 y desde él se toman las medidas que publicamos en Benchmarks.
operativoNodo noticia
Un nodo para resumir artículos y repositorios cada mañana sin sacar los documentos del laboratorio.
en posesión · sin interconectarNodo demo
La vía rápida para enseñar qué se puede ejecutar en un equipo compacto.
en posesión · sin interconectarNodo frontera
Dos nodos enlazados para investigar inferencia distribuida y dejar visible qué coste real tiene mover un modelo grande entre máquinas.
en posesión · sin interconectarNodo soberano
La línea de trabajo para despachos, clínicas y equipos que necesitan consultar documentación en español manteniendo los datos dentro de su red.
en posesión · sin interconectarNodo creativo
Generación y edición de imagen y vídeo en local, sin depender de una API de pago para cada prueba.
en posesión · sin interconectarReserva / fine-tune
Reserva para adaptar modelos, comparar motores y preparar configuraciones que después publicamos como recetas.
en posesión · sin interconectar● Los números que nos definen
256GBmemoria unificada operativa (2× GX10 · el resto, en posesión pero sin interconectar)
700Bescala objetivo del laboratorio
1Mcontexto en la cola de pruebas
118 medidas29 fichas reproducibles publicadas
Las medidas propias saldrán de nuestro banco de pruebas: seis medidas consecutivas, temperatura, potencia y energía junto a tok/s. El inventario y las fichas oficiales aportan contexto; medido, derivado o no medido nunca deben confundirse.
Las fichas marcadas como referencia o pendiente ordenan el trabajo, pero no sustituyen un benchmark: la cifra pública llegará con versión, runtime y condiciones reproducibles.
◇ Los dos del rack
Toni
El rack y los números — benchmarks, configuraciones, clúster
Las máquinas, las medidas y las configuraciones: benchmarks, clúster, cuantizaciones y todo lo que hace falta para que el rack funcione.
Jaume
Las guías y la voz — explicaciones, podcast, recetas
Las guías, el podcast y las explicaciones: que lo que medimos se entienda y te sirva para montar lo tuyo.
El credo
- Publicamos medido o no publicamos
- Números concretos: tok/s, GB, W, €
- Los errores también se publican
- La newsletter es el activo; X es el megáfono
Síguenos y escúchanos
El podcast está en preparación; las fichas y benchmarks llegarán cuando cada ejecución sea reproducible.