Una Nvidia A100 PCIe refrigerada por agua está de camino

Nvidia ha visto como se ha filtrado una nueva variante de su GPU Nvidia A100 PCIe, la cual integra un bloque de agua para su instalación en una nueva generación de servidores que refrigeran el hardware mediante sistemas de refrigeración por agua. Obviamente no se usan los conectores estándar de la industria de los PCs de consumo, y su precio será interesante de conocer, y es que hay que recordar que la variante pasiva apareció listada por Japón a finales del pasado mes de abril a un precio al cambio que rozaba los 35.000 euros.

Por dicho precio se adquiere una GPU que integra nada menos que 80.000 millones de transistores gracias al usar el proceso de fabricación más avanzado del momento, y este no es otro que los 4nm de TSMC. Su chip gráfico Nvidia GH100, que mantiene el diseño monolítico, ofrece una configuración de 18432 CUDA Cores acompañado por nada menos que 80 GB de memoria HBM3, la cual es capaz de ofrecer un ancho de banda de 3 TB/s, es decir, un 50 por ciento más respecto al Nvidia A100.

En términos de rendimiento, hablamos de 60 TFLOPs FP64/FP32, 1.000 TFLOPs TF32, y 2.000 TFLOPs FP16, lo que implica multiplicar x3 el rendimiento de la Nvidia A100. En lo que respecta al rendimiento FP8, lo multiplica x6 al alcanzar los 4.000 TFLOPs. Debido a este aumento de potencia, también se usa la interfaz PCI-Express 5.0 para alcanzar un ancho de banda de 128 GB/s (vs 64 GB/s) y la 4ª Gen de la tecnología de interconexión NVLink que ofrece un ancho de banda de 900 GB/s (+50%).

Todo esto tiene un elevado coste energético, ya que hablamos de un TDP de 700W, un enorme salto respecto a los 400W que consume la Nvidia A100 tope de gama con 80 GB de memoria HBM2e. Es decir, que el consumo energético crece un 75% a cambio de ofrecer una mejora de rendimiento entre un 300 - 600% y un 50% en el ancho de banda.