Así será el monstruo devorador de vatios de NVIDIA, su GB300 Blackwell Ultra: 288 GB de memoria HBM3E, 1.400W de consumo y red ConnectX 8 a 1,6T
En esta era de la inteligencia artificial, las tarjetas gráficas de NVIDIA es el hardware más importante a la hora de entrenar nuevos modelos de IA. Esto ha provocado que las GPU de esta marca sean muy solicitadas y lleguen a agotarse. Las NVIDIA H100 siguen siendo bastante solicitadas, aunque realmente no son las más nuevas, pues las GPU Blackwell se anunciaron hace unos meses. Ahora toca hablar sobre la NVIDIA GB300 Backwell Ultra, la cual llegará con un consumo abrumador de 1.400W y nada menos que 288 GB de memoria HBM3E.
Fue durante la Computex de este año cuando NVIDIA anunció su nueva arquitectura Blackwell, la cual daría vida a todas sus tarjetas gráficas dedicadas de nueva generación. En ese momento solo se dieron a conocer las GPU dedicadas para IA, con las B100, B200 y GB200 que salieron al mercado hace poco. Estas ofrecían un salto de rendimiento bastante grande respecto a la generación pasada con Hopper y Ada, lo que también implicaba que hubiese muchos clientes interesados en estas.
La NVIDIA GB300 Blackwell Ultra traerá 288 GB de memoria HBM3E
Apenas unas semanas después del anuncio oficial, se reveló que NVIDIA tenía planeado enviar 70.000 servidores IA GB200 NVL72, los cuales no son nada baratos. Cada uno de estos dispone de 36 CPU Grace y 72 GPU Blackwell, consiguiendo así una velocidad de inferencia 30 veces más rápida que las NVIDIA H100. Estos servidores le proporcionarán a NVIDIA más de 200.000 millones de dólares y a todo esto hay que sumar las ventas de GPU individuales.
Hablando de estas, ahora se ha dado a conocer el nuevo servidor IA GB300. Este estará equipado con el chip GB300 Blackwell Ultra el cual tiene un enorme TGP de 1.400W y conseguirá aumentar el rendimiento en 1,5 veces sobre las B200. Cada una de estas GPU ofrece un total de 288 GB de memoria HBM3e, siendo así un incremento notorio sobre los 192 GB de las GB200 anteriores.
Se ha rediseñado su sistema de refrigeración y duplican la velocidad de transferencia de datos con las nuevas tarjetas de red ConnectX 8
Para conseguir esos casi 300 GB se han empleado 12 capas de memoria, un 50% más que las 8 capas de las GB200. Se ha rediseñado completamente el sistema de refrigeración, para así añadir desconexión rápida y placas de refrigeración por agua para mejorar las temperaturas. Estas GB300 Blackwell Ultra llegan con tarjetas de red ConnectX 8 duplicando la velocidad de 800G a 1,6T. En cuanto al servidor GB300 NVL72, este incluye las 36 CPU Grace y 72 GPU GB300 como es habitual en este tipo de sistemas. Este dispone de bandejas de condensadores con un sistema opcional de unidad de batería de reserva (BBU), la cual cuesta unos 1.500 dólares al completo.
El precio va subiendo si tenemos en cuenta que se requieren más de 300 supercondensadores y cada uno de ellos tiene un precio de 20 a 25 dólares. Adicionalmente, se incluye memoria LPCAMM en las placas, algo que debería llegar a estandarizarse en un futuro. Recordemos que este tipo de memoria proporciona un mejor rendimiento y consume menos energía, además de tener un formato bastante pequeño adecuado para portátiles, consolas y otros dispositivos.