Akamai Technologies, una de las empresas líderes en el desarrollo de soluciones de inteligencia artificial, ha dado un gran paso en la evolución de sus sistemas al anunciar la implementación del diseño de referencia NVIDIA AI Grid a escala global. Este avance representa una integración sin precedentes de la infraestructura de IA de NVIDIA en la red mundial de Akamai, convirtiéndose en la primera compañía en llevar a cabo un despliegue de este tipo. La iniciativa tiene como objetivo transformar el modelo de fábricas de IA aisladas en una red distribuida y unificada dedicada a la inferencia de inteligencia artificial.
La nueva implementación se alinea con la evolución de Akamai Inference Cloud, una plataforma que desde su presentación ha prometido revolucionar la manera en que las empresas interactúan con la inteligencia artificial. Ahora, con la integración de miles de GPU NVIDIA RTX PRO 6000 Blackwell Server Edition, Akamai busca ofrecer una infraestructura capaz de ejecutar sistemas de IA con la rapidez de la computación local y la escala de una red global.
Adam Karon, director de operaciones de Akamai, explicó que aunque las fábricas de IA centralizadas seguirán siendo vitales para el entrenamiento y las cargas de trabajo más avanzadas, las aplicaciones como el vídeo en tiempo real y la IA física requieren inferencia en el punto de contacto. La solución AI Grid de Akamai permite que las cargas de trabajo de IA sean manejadas eficientemente a través de más de 4,400 ubicaciones, optimizando costos y respuesta.
En el núcleo del AI Grid se encuentra un coordinador inteligente que optimiza la tokenómica, un aspecto crucial en la economía de las solicitudes de IA. Este sistema permite un mejor rendimiento al ajustar el coste por token y mejorar los tiempos de respuesta, beneficiándose de la inmensa infraestructura global de Akamai. La capacidad de dirigir las cargas de trabajo al nivel adecuado de computación, junto con características como el almacenamiento en caché semántico y el enrutamiento inteligente, proporciona un entorno más rentable y efectivo para las empresas.
La arquitectura impulsada por NVIDIA también mejora la gestión de acuerdos de nivel de servicio (SLA) tanto en ubicaciones periféricas como centrales. Este avance es particularmente relevante para sectores como el gaming, servicios financieros, medios de comunicación y comercio minorista, donde la demanda de computación intensiva y baja latencia es alta.
La transición de fábricas de IA centralizadas a un modelo distribuido refleja un cambio en la infraestructura necesaria para soportar la creciente demanda de aplicaciones de IA en tiempo real. Este modelo, propuesto por Akamai, no solo mejora la experiencia del usuario, sino que también proporciona un mayor retorno de inversión para las empresas que adoptan esta nueva estructura.
Con un acuerdo de servicio de cuatro años valorado en 200 millones de dólares para un clúster de GPU en un centro de datos específicamente diseñado para la infraestructura empresarial de IA, Akamai demuestra su compromiso con la vanguardia tecnológica y sienta las bases para la siguiente era de crecimiento y desarrollo en el ámbito de la inteligencia artificial.
Más información y referencias en Noticias Cloud.
