En el marco de VMware Explore 2024, Broadcom y NVIDIA han presentado una serie de innovaciones destinadas a potenciar su plataforma conjunta, VMware Private AI Foundation con NVIDIA. Esta solución, que será lanzada oficialmente en mayo de 2024, se centra en ofrecer una infraestructura privada y segura para empresas, con un enfoque particular en la privacidad, flexibilidad, rendimiento y seguridad.

La actualización incluye el lanzamiento de VMware Cloud Foundation (VCF) 5.2.1 para finales de año, con diversas funcionalidades que prometen mejorar la experiencia de los usuarios. Entre ellas, destaca el Model Store, que permitirá a los equipos de MLOps y científicos de datos gestionar modelos de lenguaje grande (LLMs) con un control de acceso robusto, garantizando así la privacidad y la gobernanza del entorno empresarial.

Otra novedad es el Guided Deployment, pensado para simplificar el proceso de despliegue de inteligencia artificial generativa, optimizando la creación de dominios de carga de trabajo y el despliegue de componentes adicionales. Esta funcionalidad promete acelerar el tiempo de implementación y minimizar el esfuerzo administrativo.

Por su parte, NVIDIA AI Enterprise añade funcionalidades como NVIDIA NIM Agent Blueprints y NVIDIA NIM. Los primeros ofrecen flujos de trabajo de referencia para que las empresas puedan desarrollar sus propias soluciones de IA generativa, incluyendo aplicaciones personalizadas para servicio al cliente, descubrimiento de fármacos y extracción de datos de PDFs. Los segundos, un conjunto de microservicios, están diseñados para la implementación segura y eficiente de modelos de IA de alto rendimiento.

Además, NVIDIA NIM Operator facilitará la implementación y gestión de pipelines de IA generativa mediante la automatización del despliegue, el escalado y la gestión de inferencias, reduciendo la latencia y mejorando el rendimiento del escalado automático.

En cuanto a capacidades futuras, Broadcom ha anunciado características adicionales para próximas versiones de VMware Private AI Foundation, como la Visibilidad del Perfil vGPU, que permitirá a los administradores ver todas las vGPUs creadas a través de una interfaz en vCenter, eliminando la necesidad de seguimiento manual y mejorando la eficiencia operativa. También se incluirán Reservas de GPU, para la planificación anticipada de recursos de vGPUs, y un Servicio de Indexación y Recuperación de Datos, que facilitará la preparación de datos privados para IA generativa.

Otra innovación es el AI Agent Builder Service, que ayudará a los desarrolladores y científicos de datos a construir y desplegar agentes de IA personalizados utilizando LLMs y datos del servicio de indexación y recuperación de datos.

Broadcom también está ampliando el ecosistema de VMware Private AI Foundation con NVIDIA, añadiendo nuevos proveedores y socios como Codeium, HCLTech, Tabnine y WWT. Estas alianzas ofrecerán soluciones que van desde la generación y depuración de código mediante IA hasta la implementación y operación de aplicaciones de IA, mejorando la eficiencia del desarrollo y acelerando la adopción de IA generativa.

La colaboración entre Broadcom y NVIDIA representa un avance significativo en la infraestructura de IA generativa para empresas, proporcionando herramientas y capacidades innovadoras para mejorar la eficiencia y seguridad en el manejo de datos y aplicaciones de IA. La combinación de estas nuevas funcionalidades asegura que las empresas puedan integrar y escalar sus soluciones de IA de manera más eficiente, robusta y segura.