La inteligencia artificial está en un momento de transformación gracias a la adopción generalizada de la arquitectura Mixture of Experts (MoE) para la nueva generación de modelos de IA. NVIDIA, líder en tecnología computacional, ha presentado su nuevo sistema GB200 NVL72, diseñado para optimizar la ejecución de modelos MoE en grandes centros de datos, logrando un rendimiento en inferencia de hasta diez veces superior en comparación con la generación anterior de sistemas H200.
Hasta ahora, la estrategia para desarrollar modelos de IA más poderosos consistía en aumentar su tamaño, lo que implicaba un elevado coste computacional y energético. No obstante, los modelos MoE proponen un enfoque diferente. En lugar de activar todos los parámetros simultáneamente, dividen la red en «expertos» especializados. Un sistema de enrutamiento decide qué subconjunto de expertos se activa para cada tarea específica, generando así un proceso más eficiente tanto en capacidad como en consumo energético.
La implementación de modelos MoE no está exenta de desafíos. En particular, se enfrentan a limitaciones de memoria cuando deben manejar parámetros dinámicos en memoria HBM y complicaciones en la comunicación all-to-all, necesaria para la coherencia de las respuestas. La arquitectura GB200 NVL72 de NVIDIA aborda estos problemas con la integración de 72 GPU Blackwell, conectadas por medio de un NVLink Switch que optimiza la comunicación y la gestión de la memoria, ofreciendo un impresionante rendimiento de 1,4 exaflops y 30 TB de memoria compartida.
El sistema NVL72 en acción permite menos expertos por GPU, reduce sustancialmente la presión sobre la memoria, mejora el rendimiento general y facilita la comunicación ultrarrápida entre los expertos. Gracias a esta infraestructura, los modelos como Kimi K2 Thinking, DeepSeek-R1 o Mistral Large 3 experimentan un incremento significativo en su rendimiento, lo que se traduce en una mayor capacidad de procesamiento de tokens por segundo y una reducción del coste por token.
Empresas proveedoras de servicios de IA y nubes especializadas están comenzando a integrar el GB200 NVL72, destacando su potencial en aplicaciones tan diversas como traducciones avanzadas y plataformas de agentes inteligentes. Este sistema no solo mejora la eficiencia, sino que también abre la puerta a desarrollar fábricas de IA, donde un gran conjunto de expertos compartidos maximiza el uso del hardware y reduce los costes operativos.
La combinación de modelos multimodales y sistemas agentic con infraestructuras como GB200 NVL72 permitirá a las organizaciones manejar tareas complejas activando solo los expertos necesarios. Este avance prepara el camino para auténticas fábricas de IA que atienden a múltiples aplicaciones simultáneamente, marcando un hito en la implementación práctica de la inteligencia artificial moderna, donde la eficiencia y escalabilidad son más alcanzables que nunca.
Más información y referencias en Noticias Cloud.
