La Nvidia H100 SXM (4nm + 80GB HBM3) posa ante la cámara
Hoy nos topamos con la primera fotografía real de una Nvidia H100 en su formato SXM, la cual destaca por hacer uso de un chip gráfico Nvidia GH100 basado en la arquitectura Hopper fabricado por TSMC empleando el proceso de fabricación de 4nm.
Por lo demás, no hay ninguna novedad, así que simplemente te recordamos las especificaciones de esta GPU que pudimos ver la semana pasada a la venta en Japón a un precio cercano a los 35.000 euros.
Por dicho precio se adquiere una GPU que integra nada menos que 80.000 millones de transistores gracias al usar el proceso de fabricación más avanzado del momento, y este no es otro que los 4nm de TSMC. Su chip gráfico Nvidia GH100, que mantiene el diseño monolítico, ofrece una configuración de 18432 CUDA Cores acompañado por nada menos que 80 GB de memoria HBM3, la cual es capaz de ofrecer un ancho de banda de 3 TB/s, es decir, un 50 por ciento más respecto al Nvidia A100.
En términos de rendimiento, hablamos de 60 TFLOPs FP64/FP32, 1.000 TFLOPs TF32, y 2.000 TFLOPs FP16, lo que implica multiplicar x3 el rendimiento de la Nvidia A100. En lo que respecta al rendimiento FP8, lo multiplica x6 al alcanzar los 4.000 TFLOPs. Debido a este aumento de potencia, también se usa la interfaz PCI-Express 5.0 para alcanzar un ancho de banda de 128 GB/s (vs 64 GB/s) y la 4ª Gen de la tecnología de interconexión NVLink que ofrece un ancho de banda de 900 GB/s (+50%).
Todo esto tiene un elevado coste energético, ya que hablamos de un TDP de 700W, un enorme salto respecto a los 400W que consume la Nvidia A100 tope de gama con 80 GB de memoria HBM2e. Es decir, que el consumo energético crece un 75% a cambio de ofrecer una mejora de rendimiento de hasta un 600% y mientras que el ancho de banda aumenta en un 50%.
vía: ServeTheHome