F5 ha anunciado la extensión de BIG-IP Next for Kubernetes sobre los nuevos NVIDIA BlueField-4 DPU, enfocándose en las fábricas de inteligencia artificial (IA) a gran escala. Esta alianza busca ofrecer hasta 800 Gb/s de red multi-tenant con control inteligente, mejoras de seguridad zero-trust y aceleración de cargas LLM (inferencia), lo que se traduce en un aumento del 30% en la capacidad de generación de tokens, manteniendo altos estándares de rendimiento en la nube.
El movimiento se alinea con la tendencia de trasladar funciones de red y seguridad al DPU, liberando así las GPU de tareas no relacionadas con la IA y reduciendo latencias críticas. En entornos que manejan grandes volúmenes de datos y tráfico multi-modelo, cada microsegundo es crucial.
La integración entre F5 y BlueField-4 ofrece varias ventajas: mejora el rendimiento y la seguridad preservando el aislamiento entre inquilinos, optimiza la inferencia LLM y permite un enrutado inteligente multimodelo. Además, garantiza gobierno granular sobre los tokens, refuerza la protección para el protocolo de contexto de modelo, y amplia las capacidades de zero-trust en sistemas virtualizados y bare-metal.
La renovación en la gestión de IA moderna se centra en ofrecer más tokens por segundo con un mejor tiempo al primer token (TTFT), eficiencia en clusters heterogéneos y seguridad sin comprometer el rendimiento. La tecnología DPU reduce el cambio de contexto en la CPU del host, minimizando el jitter para un p99 más predecible.
El diseño también permite balancear cargas entre distintos modelos y versiones sin que el usuario lo note, siendo útil para pruebas A/B, degradaciones controladas y cumplimientos normativos. Esto asegura una gobernanza de uso más detallada, facilitando la contabilidad de tokens y la detección de abusos.
En el contexto de una fábrica de IA, esta solución encaja con despliegues híbridos que requieren consistentemente un enfoque de seguridad “Zero Trust”. Sin embargo, la efectividad del sistema depende del diseño, la carga y el ajuste adecuados en cada entorno.
En síntesis, F5 y NVIDIA han logrado llevar la red y la seguridad al DPU, desagregando el procesamiento para optimizar el uso de las GPU exclusivamente en IA. Esto permite servir más tokens con menos latencia, garantizando aislamiento y control, esenciales para la nueva era de fábricas de IA y sistemas autónomos.
Más información y referencias en Noticias Cloud.
