Red Hat ha dado un paso significativo en el ámbito de la inteligencia artificial empresarial con el lanzamiento de Red Hat AI 3. Esta nueva versión busca abordar uno de los grandes desafíos que se vislumbran para 2025: la operacionalización de la inferencia a escala y la transición de las pruebas de concepto a producción, sin necesidad de reinventar la infraestructura ya existente.
La clave de este avance reside en tres pilares: la inferencia distribuida nativa en Kubernetes (llm-d), una experiencia de plataforma unificada (MaaS interno, AI Hub, Gen AI Studio), y las bases para una inteligencia artificial agéntica. Con esto, Red Hat pretende facilitar el proceso de inferencia masiva en tiempo real, reduciendo la latencia, los costos y la complejidad, todo mientras garantiza la privacidad y la flexibilidad en la elección de hardware.
El mercado avanza rápidamente hacia la inferencia masiva, y Red Hat AI 3 ofrece una plataforma abierta y multivendor que soporta cualquier modelo en cualquier acelerador, desde el centro de datos hasta la nube pública y el edge. Esto es crucial, especialmente considerando que el 95% de las empresas aún no han obtenido retornos medibles de sus inversiones en inteligencia artificial, a pesar de un gasto acumulado de 40.000 millones de dólares, según el proyecto NANDA del MIT.
Uno de los componentes más destacados de esta nueva versión es llm-d en OpenShift AI 3.0, que transforma el motor vLLM en un servicio distribuido y escalable. Esto permite una inferencia distribuida e inteligente, optimizando el rendimiento a través de una integración con NVIDIA Dynamo y DeepEP, y un soporte inicial para aceleradores de NVIDIA y AMD.
Red Hat AI 3 también presenta una plataforma unificada diseñada para mejorar la colaboración entre los equipos de ingeniería de plataforma y los equipos de IA. Con Model as a Service (MaaS) interno, AI Hub y Gen AI Studio, Red Hat busca centralizar la gestión de modelos y facilitar el prototipado y despliegue de proyectos de IA.
Además, se introducen capacidades para la IA agéntica, con una capa de API unificada basada en Llama Stack y la adopción temprana del Model Context Protocol (MCP). Esto último está diseñado para estandarizar la interacción segura de los modelos con herramientas externas, crucial para el desarrollo de agentes autónomos.
Para los directores de informática (CIOs) y los equipos de plataforma, la propuesta de Red Hat se traduce en un cambio hacia una capacidad compartida de inferencia en clústeres, reduciendo los costos, mejorando la latencia y asegurando el cumplimiento normativo y la soberanía de los datos.
En conclusión, Red Hat AI 3 no solo se centra en mejorar la infraestructura de inferencia, sino que promueve la transformación de la IA en una herramienta rutinaria y predecible, capaz de generar retornos medibles. La empresa busca establecer su plataforma como un referente en la gestión y escalamiento de software de inteligencia artificial, anticipándose a las exigencias del mercado en los próximos años.
Más información y referencias en Noticias Cloud.
