La startup Enfabrica Corporation, respaldada por NVIDIA, ha presentado un innovador sistema de memoria elástica diseñado específicamente para mejorar la eficiencia y reducir costos en cargas de trabajo de inteligencia artificial. Bajo el nombre de Emfasys, esta solución se convierte en el primer sistema comercial de memoria elástica para IA basado íntegramente en Ethernet.
Emfasys promete transformar la forma en que los servidores GPU manejan grandes modelos de lenguaje, ofreciendo hasta 18 TB de memoria DDR5 por nodo. Utilizando conexiones estándar de Ethernet de 400 y 800 GbE y tecnologías avanzadas como RDMA y CXL, esta arquitectura promete disminuir los costos por token generado hasta en un 50 %.
Rochan Sankar, CEO de Enfabrica, subraya que los modelos generativos actuales presentan desafíos de escalado de memoria y Margen. Emfasys responde a esta necesidad, facilitando un acceso más eficiente a la memoria.
Esta revolucionaria tecnología se apoya en el chip ACF-S SuperNIC, brindando un rendimiento notable y permitiendo la conexión de servidores GPU a memoria DDR5 sin intervención de la CPU. Esto se traduce en una gestión más eficiente de los recursos y la minimización de cuello de botella en entornos complejos.
Enfabrica avanza en el desarrollo de esta solución de memoria distribuida para IA generativa, con aplicaciones que prometen optimizar la infraestructura de la nube y reducir el costo total de propiedad. La empresa ya está probando Emfasys con clientes selectos, aunque no se ha especificado una fecha de lanzamiento para el mercado general.
Este movimiento se enmarca en un contexto de expansión financiera y estratégica para Enfabrica, habiendo asegurado recientemente una ronda de inversión de 125 millones de dólares y afianzando colaboraciones dentro del Ultra Ethernet Consortium. Con Emfasys, la startup se posiciona para liderar en un mercado de IA cada vez más exigente y en evolución.
Más información y referencias en Noticias Cloud.
