En los años 2002 y 2023, el mundo ha sido testigo de una acelerada proliferación de aplicaciones de inteligencia artificial (IA) en diversas industrias. ¿Cuál es el motor detrás de esta revolución? Los centros de datos, que se han convertido en el corazón palpitante de este auge, junto con el avance de las GPUs, especialmente las de NVidia.
El crecimiento explosivo de las aplicaciones de inteligencia artificial ha exigido una reevaluación completa de los centros de datos tradicionales. La infraestructura existente generalmente no está diseñada ni equipada para manejar la enorme capacidad de procesamiento paralelo y la memoria que requieren las cargas de trabajo de la IA. Solo en 2024, se espera que el mundo genere 1,5 veces la cantidad de datos digitales que produjo hace dos años.
La demanda de cargas de trabajo de IA pronto superará la computación en la nube tradicional, y un enfoque uniforme no satisface las necesidades de los desarrolladores de IA, que requieren soluciones personalizadas para sus inmensas y específicas necesidades.
Los centros de datos tradicionales fueron construidos principalmente para soportar aplicaciones de propósito general, ofreciendo un equilibrio entre rendimiento y costo. La mayoría de la potencia de cálculo se diseñó para cargas de trabajo como servidores web, sitios de comercio electrónico y bases de datos, pero no para la potencia de procesamiento necesario para entrenar un Modelo de Lenguaje Grande (LLM).
Los desarrolladores de IA necesitan soluciones personalizadas con gran capacidad, disponibilidad inmediata y soporte técnico de alto nivel. Los centros de datos existentes carecen de la arquitectura, el enfriamiento y el software necesarios para ejecutar cargas de trabajo de IA o computación acelerada.
Arquitectura: La densidad de potencia por servidor se ha cuadruplicado en comparación con los servidores de CPU. Mientras que los centros de datos tradicionales están diseñados con una densidad promedio de 5 a 10 kW por rack, los centros de datos de IA ahora requieren 60 o más kW por rack.
Enfriamiento: Los servidores con múltiples GPU generan mucho más calor que un servidor tradicional, lo que presenta dos desafíos principales:
Adaptar los centros de datos existentes para convertirlos en instalaciones de IA implica importantes actualizaciones de hardware e incluso de la estructura del edificio para manejar nuevos tipos de cargas de trabajo. Esto incluye:
La primera etapa es la energía. Rediseñar el sistema de energía para manejar estas cargas de trabajo ocurre a nivel del centro de datos y del rack. Los sistemas de enfriamiento futuro requerirán enfriamiento líquido en cada parte del centro de datos, utilizando menos agua que los sistemas de enfriamiento por aire actuales. Incorporar enfriamiento líquido en nuevos centros de datos requiere planificación e inversión en infraestructura especializada.
La transformación de la conectividad del centro de datos no se trata solo de conectar servidores, sino de facilitar una comunicación eficiente de alta velocidad entre GPUs. En un entorno impulsado por IA, donde el procesamiento paralelo es la norma, la velocidad a la que las GPUs intercambian datos determina el rendimiento general.
El resultado de este rediseño son aplicaciones más rápidas y eficientes que las ejecutadas en infraestructuras legadas. Los despliegues de Kubernetes sin servidor permiten tiempos de arranque rápidos, escalado automático receptivo y la capacidad de manejar miles de GPUs por carga de trabajo, con una infraestructura construida específicamente para resolver los desafíos presentados por estas grandes cargas de trabajo.
Con estos avances, los centros de datos están preparados para soportar la revolución de la inteligencia artificial y las aplicaciones de computación de alto rendimiento, marcando el comienzo de una nueva era en la infraestructura digital.
