SanDisk HBF, la memoria denominada como «HBM Killer» logrará hasta 4 TB de VRAM en cada GPU

La cantidad de memoria VRAM que tienen las tarjetas gráficas actuará como un factor limitante si no llegamos a lo mínimo necesario. Aquí estamos hablando tanto de juegos como de programas, pues si bien en videojuegos hemos visto que los 8 GB están empezando a quedarse cortos, en programas profesionales e IA se consume mucho más. Los 32 GB de una RTX 5090 son nada si lo comparamos con las GPU profesionales que tienen varias veces esta cantidad. Se espera que la próxima NVIDIA GB300 Blackwell Ultra alcance nada menos que 288 GB con memoria HBM3E, pero resulta que esta cantidad es insignificante si la comparamos con HBF de SanDisk que permitirá llegar a 4 TB de VRAM.

Al igual que las tarjetas gráficas se han hecho cada vez más potentes, aquí no solo tenemos que tener en cuenta el aumento de núcleos y frecuencias, sino también otros factores como la cantidad de memoria VRAM y la velocidad de esta. Hace años se vendían GPU con memoria GDDR3 que luego pasó a ser GDDR4, GDDR5, GDDR6, GDDR6x y las últimas RTX 50 de NVIDIA estrenan las GDDR7. Si bien se ha aumentado la velocidad en gran medida según ha ido mejorando la memoria, lo cierto es que en cuanto a capacidad no hemos dado grandes pasos.

SanDisk anuncia su nueva arquitectura de memoria llamada HBF: combina NAND 3D Flash con HBM para tener capacidad y ancho de banda

NVIDIA sigue utilizando los 8 GB en su gama media-alta desde 9 años si tenemos en cuenta que las GTX 1070 ya tenían estos 8 GB. Se nota que la compañía es agarrada a la hora de añadir más memoria a pesar de que sus GPU son tan caras. De hecho, excepto la RTX 5090, el resto de GPU de la familia RTX 50 parece que se van a quedar con la misma cantidad que VRAM que los modelos equivalentes/SUPER de pasada generación. Está claro que utilizar estos tipos de memoria para un uso profesional no es lo adecuado y ahí es donde HBM tuvo su cabida. Con este tipo de memoria, tenemos varias capas de VRAM que nos permiten tener mucha más capacidad.

Si bien hemos pasado por HBM, HBM2, HBM3, HBM3E y próximamente llegará HBM4, puede que este tipo de memoria no sea la más usada de aquí a un futuro próximo. SanDisk ha creado HBF (High-Bandwidth Flash), una nueva arquitectura de memoria que combina el almacenamiento NAND 3D con la memoria HBM de gran ancho de banda. Con HBF podemos apilar hasta 16 3D NAND BiCS8 junto a una capa lógica que permite acceso simultáneo y paralelo a las otras submatrices de memoria. Así pues, logra conseguir entre 8 y 16 veces más capacidad de lo que logra la memoria HBM.

Podremos tener GPU con hasta 4 TB, pero esta memoria tendrá más latencia

Con este gran aumento de capacidad respecto a HBM, podremos conseguir GPU de hasta 4 TB de VRAM para entrenar modelos de IA de gran tamaño. Ahora bien, no todo es perfecto y aunque se consigue una capacidad mucho mayor, la latencia se incrementa respecto a la memoria DRAM tradicional. Se espera que SanDisk haga uso de NAND pSLC para así conseguir un equilibrio entre durabilidad y coste de fabricación. Según la compañía, esta arquitectura de memoria está destinada a tareas de inferencia de IA y no es óptima en aplicaciones sensibles a la latencia.

SanDisk quiere diseñar HBF como un estándar abierto y así que se convierta en una alternativa a HBM para diseñar GPU con mayor capacidad de memoria. Falta por saber algo importante como el ancho de banda y la latencia, pero deberíamos tener más detalles según vaya progresando este "HBM Killer".