Un modelo en dos máquinas contra dos modelos separados: el segundo hace casi el doble

Resultado

	un modelo en las dos máquinas	un modelo en cada máquina
trabajo total máximo	95,5 tok/s	~170 tok/s
una sola petición	40,9 tok/s	20,3 y 20,8 tok/s
contexto	1.048.576	131.072 + 262.144
«cerebros»	1	2

Con el clúster, al subir de 1 a 8 peticiones el trabajo total pasó de 40,9 a 95,5 tok/s.

Qué significa para ti

Para varios agentes a la vez, dos modelos separados rinden más. El clúster es para cuando necesitas contexto enorme o un modelo que no cabe en una sola máquina. Más detalle en Dos GX10 en clúster: cuándo compensa.