Akamai ha dado un giro significativo en el ámbito de la Inteligencia Artificial al anunciar AI Grid Intelligent Orchestration, una innovadora capa de orquestación para inferencia distribuida. Esta iniciativa convierte a su red en la primera implementación a escala global del diseño de referencia de NVIDIA AI Grid, según declaraciones de la propia empresa. Al aprovechar la infraestructura de Akamai Inference Cloud, junto con el despliegue de miles de GPU NVIDIA RTX PRO 6000 Blackwell Server Edition, la compañía busca acercar la inferencia al usuario final, alejándose del modelo tradicional de clústeres centralizados.
Este anuncio refleja un cambio profundo en el mercado de la IA. Durante años, el enfoque principal giraba en torno a las grandes “fábricas de IA” centralizadas, optimizadas para el entrenamiento de modelos complejos. Sin embargo, Akamai reconoce que muchas aplicaciones reales de inferencia, especialmente aquellas relacionadas con vídeo en tiempo real, agentes de IA, personalización y IA física, requieren baja latencia y cercanía a los datos. Para satisfacer estas necesidades, se necesita una red capaz de decidir dónde ejecutar cada petición equilibrando costo y rendimiento.
La apuesta de Akamai se centra en una arquitectura que distribuye el trabajo entre el edge, regiones intermedias y nodos centrales. Un orquestador actúa como intermediario en tiempo real, optimizando el “coste por token” y maximizando el throughput global. Implementando técnicas como el almacenamiento en caché semántico y el enrutado inteligente, se reservan las GPU de mayor capacidad para las cargas que las necesitan, mientras que otras solicitudes se dirigen a recursos más modestos.
La nueva estrategia de Akamai se apoya en más de 4.400 ubicaciones edge, lo que permite procesar solicitudes en el punto de contacto con el usuario y minimizar la latencia inherente de la nube tradicional. Según NVIDIA, esta iniciativa está alineada con su visión de AI Grid, una arquitectura diseñada para desplegar y orquestar IA en múltiples sitios distribuidos.
En el corazón de esta tecnología se encuentra la GPU NVIDIA RTX PRO 6000 Blackwell Server Edition, que junto con las DPUs BlueField, promete un tiempo más rápido para el primer token y un mayor throughput de inferencia. Akamai afirma que sus pruebas internas muestran que Blackwell puede ofrecer hasta 1,63 veces más rendimiento que la GPU H100 en su propia nube.
Este enfoque está diseñado para atender la demanda creciente de aplicaciones como NPC con IA en videojuegos, motores de recomendación en tiempo real, detección de fraude y automatización, entre otras. Akamai se distingue al presentar su solución no solo como un hospedaje de GPU, sino como una plataforma integral de inferencia edge, dotada de enrutado inteligente y medidas de seguridad avanzadas para proteger modelos y APIs de diversos riesgos.
La ambición de Akamai va más allá de competir directamente con los hiperescalares. La empresa busca fortalecer su posición en la inferencia distribuida, un campo donde la proximidad al usuario, la red y la orquestación eficiente son tan cruciales como el poder de procesamiento de las GPU. A pesar del reto de demostrar su eficiencia a gran escala, Akamai confía en que su experiencia en distribución global le permitirá ofrecer una ventaja competitiva en el mercado de la inferencia de IA.
Akamai Inference Cloud, ya disponible para clientes empresariales cualificados, representa un paso audaz en el camino hacia un futuro donde las “fábricas de IA” centralizadas deberán expandirse hacia el edge para satisfacer las demandas de las aplicaciones en tiempo real de la próxima década.
Más información y referencias en Noticias Cloud.
