NVIDIA está marcando un nuevo hito en el mundo de la tecnología con el lanzamiento de su GPU H200 NVL PCIe, parte de la arquitectura innovadora de Hopper. Este anuncio, realizado en la conferencia Supercomputing 2024 (SC24), pone de manifiesto las capacidades avanzadas de la nueva GPU para elevar el rendimiento y la eficiencia energética en servidores empresariales estándar.
El H200 NVL se presenta como una solución ideal para las organizaciones que buscan una infraestructura de centros de datos más flexible y eficiente. Esto resulta particularmente relevante, dado que casi un 70% de los racks empresariales se limitan a una capacidad de 20 kW o menos y dependen de sistemas de refrigeración por aire. La nueva GPU se adapta a estas condiciones ofreciendo configuraciones escalables que permiten integrar de uno a ocho GPUs por rack, maximizando la capacidad de cálculo sin la necesidad de modificar las infraestructuras preexistentes.
Las mejoras en comparación con su predecesor, el H100 NVL, son significativas. El H200 NVL aumenta un 50% la memoria y un 20% el ancho de banda, lo que permite a las empresas ajustar modelos de lenguaje extenso en pocas horas y conseguir un rendimiento en inferencias hasta 1,7 veces más rápido. Además, para las cargas de trabajo de computación de alto rendimiento, el H200 NVL supera en un 30% al H100 NVL y es 2,5 veces más potente que las GPUs de la generación Ampere.
La tecnología NVIDIA NVLink complementa al H200 NVL al ofrecer una comunicación GPU-a-GPU hasta siete veces más rápida que PCIe de quinta generación, mejorando así el rendimiento de las aplicaciones de HPC y tareas relacionadas con IA. Junto a la GPU, los usuarios recibirán una suscripción de cinco años a NVIDIA AI Enterprise, una plataforma en la nube para el desarrollo e implementación de IA con microservicios de NVIDIA NIM diseñados para despliegues seguros y eficientes.
El impacto del H200 NVL ya se está sintiendo en múltiples industrias. Desde chatbots en atención al cliente hasta algoritmos de trading financiero, pasando por el análisis de imágenes médicas y modelos sísmicos científicos, las aplicaciones son vastas y variadas. Empresas líderes como Dropbox están evaluando la tecnología para optimizar sus servicios, al tiempo que instituciones académicas como la Universidad de Nuevo México la incorporan para potenciar sus investigaciones en áreas de punta.
Varias empresas, incluidas Dell Technologies, Hewlett Packard Enterprise, Lenovo y Supermicro, están listas para lanzar configuraciones basadas en el H200 NVL. NVIDIA, por su parte, asegura que a partir de diciembre la GPU estará disponible a través de sus socios globales, y proporciona una Arquitectura de Referencia Empresarial para facilitar la integración con configuraciones optimizadas de hardware y software.
En la conferencia SC24 en Georgia, NVIDIA exhibe estas tecnologías, reafirmando su liderazgo y compromiso con la transformación de la computación empresarial. Con el H200 NVL, NVIDIA no solo está superando los límites del rendimiento en IA y HPC, sino que también responde a las necesidades contemporáneas de los centros de datos, ofreciendo soluciones escalables y eficientes que consolidan su liderazgo en la industria de la tecnología.
