El mercado de las tarjetas gráficas se encuentra en el umbral de una metamorfosis significativa con la introducción de una innovadora tecnología de memoria que promete redefinir los estándares de la industria. High-Bandwidth Flash (HBF), una arquitectura desarrollada por SanDisk, combina las ventajas de la memoria NAND 3D con el amplio ancho de banda que caracteriza a la memoria HBM. Este avance tiene el potencial de permitir a las GPU del futuro alcanzar hasta 4 terabytes (TB) de VRAM, una cifra que desplaza a las actuales HBM3E a un segundo plano.
A lo largo de las últimas décadas, la evolución de la memoria gráfica ha sido notable, avanzando desde GDDR3 hasta GDDR7, con incrementos principalmente en velocidad más que en capacidad. En el ámbito profesional, la memoria HBM se posicionó como el estándar debido a su gran ancho de banda y eficiencia energética, posibilitando el apilamiento de múltiples capas de memoria en un solo paquete. Sin embargo, la aparición de HBF podría significar un antes y un después en esta trayectoria.
SanDisk ha desarrollado HBF como una arquitectura que integra NAND 3D BiCS8 con una capa lógica avanzada, facilitando el acceso simultáneo y paralelo a múltiples submatrices de memoria. Este enfoque permite aumentar la capacidad de almacenamiento en ocho o incluso dieciséis veces en comparación con la memoria HBM tradicional. No obstante, este incremento de capacidad viene acompañado de un reto significativo: la latencia.
Las principales ventajas de HBF son su capacidad excepcional. Mientras que las GPUs profesionales como la NVIDIA GB300 Blackwell Ultra prometen hasta 288 GB de memoria HBM3E, una GPU equipada con HBF podría alcanzar hasta 4 TB de VRAM, una cantidad hasta ahora inalcanzable. Este crecimiento es crucial en campos como la inteligencia artificial y la computación de alto rendimiento, donde el manejo de modelos cada vez más complejos requiere enormes cantidades de memoria. Con HBF, sería posible gestionar modelos de inteligencia artificial de gran escala sin necesidad de acudir a costosos sistemas de almacenamiento externo o memoria compartida.
Sin embargo, la latencia se presenta como un desafío. La memoria HBF, por estar basada en NAND pSLC, no puede igualar la rapidez de la DRAM convencional utilizada en HBM o GDDR. Esto implica que, si bien es ideal para tareas de inferencia de inteligencia artificial y cargas de trabajo que no dependen excesivamente de la latencia, sería menos adecuada para aplicaciones que requieren respuestas inmediatas, como los videojuegos.
La visión de SanDisk es convertir a HBF en un estándar abierto, de manera que más fabricantes puedan adoptarlo como alternativa a HBM. Actualmente, el mercado de producción de memoria HBM está dominado por unos pocos fabricantes, lo que ha llevado a precios elevados y una disponibilidad limitada. Si HBF logra consolidarse como una solución viable, podría democratizar el acceso a grandes volúmenes de memoria y ofrecer una alternativa más económica y escalable para la industria de la inteligencia artificial y la computación de alto rendimiento.
A pesar de que aún no se han detallado algunos aspectos clave como su ancho de banda definitivo y el impacto real de la latencia, la perspectiva de tener tarjetas gráficas con terabytes de VRAM sugiere un cambio de paradigma que podría revolucionar el diseño y uso de las GPU en el futuro. Las expectativas son altas para HBF, al ser apodada como el «asesino del HBM» por su capacidad masiva y potencial disruptivo. Si bien su latencia podría limitar ciertos usos, su aplicación en inteligencia artificial y otras áreas de computación avanzada podría abrir nuevas puertas para el desarrollo de hardware más potente y accesible.
A medida que la industria sigue en evolución y los modelos de inteligencia artificial demandan cada vez más recursos, tecnologías como HBF podrían desempeñar un papel crucial en la próxima generación de GPU. Queda por ver si los fabricantes adoptarán este nuevo estándar y si realmente puede competir con HBM en términos de rendimiento y eficiencia.