Red Hat, prominente empresa en el sector de soluciones de código abierto, ha revelado la adquisición de Neural Magic, una entidad innovadora especializada en software y algoritmos para optimizar modelos de inteligencia artificial generativa (GenAI) en ambientes de inferencia. Esta adquisición busca reforzar la oferta de Red Hat en el ámbito de la IA generativa a través de plataformas abiertas, amalgamando la tecnología de Neural Magic con su amplio catálogo de soluciones de IA en la nube híbrida.
La inteligencia artificial generativa ha surgido como una de las tecnologías más revolucionarias del momento, aunque su implementación exige una infraestructura robusta capaz de manejar modelos de lenguaje de gran magnitud (LLMs). Estos modelos no solo requieren un procesamiento significativo, sino también un considerable consumo energético, factores que, en muchos casos, restringen su accesibilidad para organizaciones de diferentes tamaños. Con la absorción de Neural Magic, Red Hat apuesta por democratizar el uso de IA mediante plataformas abiertas e innovadoras, facilitando así su acceso y aplicación a una mayor diversidad de empresas.
Un pilar fundamental de esta iniciativa es el impulso al proyecto vLLM, una colaboración de código abierto desarrollada originariamente en la Universidad de California, Berkeley. Este proyecto se centra en la optimización de modelos generativos para diferentes tipos de hardware, incluyendo GPUs de AMD y NVIDIA, así como CPUs x86. La alianza con Neural Magic permitirá a Red Hat proporcionar a las empresas una vía abierta para desarrollar estrategias de IA, adaptables a la infraestructura existente en sus centros de datos, en la nube o en el edge computing.
Neural Magic, fundada en 2018 como resultado de una spin-off del MIT, se distingue por su habilidad en mejorar el rendimiento de los modelos de aprendizaje profundo a través de software de inferencia. Al integrarse en Red Hat, se buscará potenciar las capacidades de Red Hat AI, facilitando a las empresas el despliegue de modelos de lenguaje con mayor eficiencia y control, respetando los altos estándares de seguridad corporativa.
La sinergia producida por la tecnología de Neural Magic potenciará significativamente la plataforma Red Hat AI, la cual ya incluye modelos de código abierto con hasta 405,000 millones de parámetros, listos para ser ajustados a cualquier entorno dentro de la nube híbrida. Este ecosistema potencia la personalización de modelos generativos, optimizando su uso y reduciendo considerablemente los costes operativos.
Propietarios de tecnologías clave como Red Hat Enterprise Linux AI y Red Hat OpenShift AI, Red Hat ofrece un sólido entorno para el desarrollo y despliegue de modelos de IA en servidores Linux y entornos distribuidos de Kubernetes, respectivamente. Además, el proyecto InstructLab, desarrollado en colaboración con IBM, refuerza esta robusta infraestructura de IA.
Esta adquisición no solo subraya el compromiso de Red Hat con la inteligencia artificial generativa abierta, segura y accesible, sino que también marca un hito en su estrategia para consolidarse como líder en soluciones de IA de código abierto en la nube híbrida. Ahora, su visión de un futuro asegurado, flexible y escalable para la IA está más cerca de materializarse, siempre y cuando se obtenga la necesaria aprobación regulatoria para cerrar esta importante operación.