Oracle ha hecho un anuncio significativo al presentar la disponibilidad general de su innovador supercluster de Oracle Cloud Infrastructure (OCI), que marca un hito en el ámbito de la computación en la nube para inteligencia artificial (IA). Equipado con las avanzadas GPUs Nvidia H200, este supercluster tiene la capacidad de escalar hasta 65.536 de estas unidades de procesamiento gráfico, ofreciendo un rendimiento sin parangón que puede alcanzar hasta 260 exaflops en precisión FP8.
Este desarrollo consolida a Oracle como líder en el diseño de infraestructuras de IA en la nube, afirmando tener el superordenador más grande del mundo en este ámbito. La nueva instancia de cómputo dentro del supercluster proporciona mejoras sustanciales en términos de memoria y ancho de banda. Con un aumento del 76% en memoria de alta velocidad y un 40% más de ancho de banda en comparación con las instancias anteriores, se mejora el rendimiento, particularmente en la inferencia de modelos de lenguaje avanzado, hasta en 1,9 veces.
La arquitectura del sistema es otro de sus puntos fuertes. Presenta una red de clúster personalizada basada en RDMA sobre Ethernet Convergente Versión 2 (RoCE v2), que, junto a las tarjetas de interfaz de red Nvidia ConnectX-7, permite interconexiones de hasta 400 Gbps entre GPUs. Por otro lado, la red frontal, con una velocidad de 200 Gbps, facilita la transferencia eficiente de grandes volúmenes de datos.
Cada instancia bare metal está equipada con ocho GPUs Nvidia H200 con 141 GB de memoria HBM3e, complementadas por dos CPUs Intel Sapphire Rapids 8480+ de 56 núcleos cada una, lo que potencia sus capacidades y efectividad en cargas de trabajo intensivas.
Oracle ha mantenido su política de precios competitiva, estableciendo un costo de 10 dólares por GPU cada hora. Este enfoque permite a las empresas acceder a infraestructuras de IA avanzadas sin incurrir en costos prohibitivos, ofreciéndoles una alternativa económica pero poderosa para manejar cargas de trabajo masivas en entrenamiento e inferencia de modelos de IA.
El avance no se detiene aquí. Oracle también ha revelado su plan para el futuro, con la construcción de un supercluster que incorporará hasta 131.072 GPUs Nvidia Blackwell, previsto para lanzarse en la primera mitad de 2025. Este futuro proyecto subraya el compromiso continuo de Oracle con la innovación en computación en la nube y su visión de liderar los desarrollos tecnológicos en IA.
En resumen, el supercluster de Oracle con Nvidia H200 redefine los límites actuales de la computación en la nube para IA. Al combinar un rendimiento escalable con precios competitivos, esta infraestructura se posiciona como una herramienta crucial para organizaciones que buscan utilizar la IA para abordar problemas complejos y desarrollar modelos avanzados de lenguaje y análisis de datos. Con esta oferta, Oracle no solo atiende las exigencias actuales de procesamiento masivo, sino que establece las bases para futuros avances en inteligencia artificial y computación de alto rendimiento.
