Rambus prepara el camino a la nueva generación de memoria para las GPU de IA con su controlador HBM4
No tenemos por ahora la especificación de la nueva memoria de alto ancho de banda para las GPU de IA y HPC terminada, y llega Rambus con un nuevo controlador de memoria HBM4. La compañía quiere dejar claro que llegar antes es una victoria y por ello enfoca dicho controlador con unas características muy bestias que llevará, si nada falla, la arquitectura Vera Rubin de NVIDIA en primer lugar.
Lo más curioso de esto es que la noticia en la sala de prensa de la compañía es de hace casi un mes, y nadie se había dado cuenta. En vez de mandar a los medios su nota de prensa como primera compañía que tiene terminado un IMC para este nuevo tipo de memoria, se mantuvo en silencio, y por suerte, los compañeros de WCCFTech han visto el documento.
Rambus muestra su controlador de memoria HBM4 de alto rendimiento
Es, como bien dice la NDP, el primer controlador de memoria IP HBM4 del mundo, y estará enfocado en exclusiva, al menos en la versión preliminar, a las "cargas de trabajo de IA de nueva generación", es decir, a las GPU de NVIDIA, AMD e Intel en primer lugar y casi seguro por ese orden. La compañía lo expresaba así:
“Ahora que los modelos de lenguaje de gran tamaño (LLM, por sus siglas en inglés) superan el billón de parámetros y siguen creciendo, superar los cuellos de botella en el ancho de banda y la capacidad de la memoria es una misión fundamental para cumplir con los requisitos de rendimiento en tiempo real del entrenamiento y la inferencia de la IA”, afirmó Neeraj Paliwal, vicepresidente sénior y gerente general de Silicon IP en Rambus.
Como proveedor líder de IP de silicio para la IA 2.0, estamos llevando al mercado la primera solución de IP de controlador HBM4 de la industria para ayudar a nuestros clientes a lograr un rendimiento revolucionario en sus procesadores y aceleradores de última generación”.
Samsung, SK Hynix y Micron, junto con otros fabricantes, a la espera de terminar la especificación HBM4
Es el principal problema, ya que el ancho de banda, el consumo, la capacidad y la latencia de la memoria HBM y sus distintas versiones y revisiones es fundamental que se mejore constantemente. Todos los grandes fabricantes de memoria tienen ya los bocetos de lo que será, pero la especificación tiene que terminarse para dicha memoria, y van con atraso hasta el punto de que este controlador de memoria de Rambus para HBM4 llega antes que la propia especificación.
Lo que sí que hay es una preview de dicha especificación, en la cual se ha basado Rambus para crear este IMC. En concreto, JEDEC especifica una velocidad de 6,4 Gbps, pero la compañía no se quedó ahí, y sabedores de lo que preparan Samsung, SK Hynix y Micron, asegura que su controlador de memoria HBM4 es capaz de soportar hasta 10 Gbps, y según Rambus, esto proporciona un rendimiento total de 2,56 Terabytes por segundo.
No es un error de escritura, has leído bien, 2,56 TB en un segundo para cada dispositivo de memoria. Como era de esperar, este IMC de Rambus para HBM4 es compatible y combinable con soluciones PHY de terceros, léase las tres grandes de las GPU/aceleradores para IA.
Por lo tanto, "la mesa está puesta", solo falta que lleguen los comensales con los platos y la comida para que todo se una, el vino ya lo ponen Intel, NVIDIA y AMD con sus GPU, por lo que para el año que viene veremos quién ha dado con el punto exacto de la carne sabiendo que los verdes parten con una ventaja sustancial tanto en hardware como, sobre todo, en software.