Forty Two, así es el superordenador alemán de 8 PFLOPS para IA con tecnología NVIDIA y británica

El centro Hessian para la inteligencia artificial acaba de presentar su superordenador al cual que han bautizado como Forty Two, 42 en inglés. ¿La potencia que han conseguido alcanzar? Ni más ni menos que 8 PetaFLOPS de potencia bajo LINPACK. ¿Cuál es la tecnología utilizada para la creación de este sistema en el estado federal de Hesse, en Alemania?

El Green IT Cube es centro de datos situado en el norte de Darmstadts y que se ha construido con los 14.5 millones de euros que ha proporcionado el estado de Hesse, con la provisión de añadir otros 40 millones para mejorar la infraestructura, la cual no solo destaca por la construcción de este superordenador, sino por usar un sistema de refrigeración eficiente que solo requiere un 7% de su energía total para mantener fresco todo el sistema.

Forty Two, el superordenador alemán con 8 PetaFLOPS de potencia, ¿para IA?

Para la construcción del superordenador Forty Two, el centro Hessian para IA ha decidido optar por las placas SuperPod de la serie HGX-A100 de NVIDIA por nodo. Por lo que equipan la anterior generación de chips para HPC e IA de la empresa de Jensen Huang. No obstante, esto no significa que estén parcas en potencia, ya que cada uno de estos sistemas se compone de cuatro placas duales con dos GPU A100 con 80 GB de memoria HBM2E cada una. Sin embargo, para llegar a la cifra de 8 PetaFLOPS de potencia, se requieren hasta 632 de estos chips.  ¿Y cómo los han distribuido? Pues en 79 nodos de cómputo en 18 gabinetes de servidor.

No olvidemos que el tener la mayor cantidad de memoria posible es muy importante para procesar datos en ciertos modelos, en total tenemos con que en cada nodo hay hasta 1 TB de memoria RAM, con sus 8 GPU A100 intercomunicadas entre sí, a través de interfaces NVLink de 600 GB/s. Lo que permite que estás puedan trabajar de forma colaborativa en problemas complejos que utilizan grandes volúmenes de datos de cara a la inferencia y el aprendizaje.

Todas ellas de forma combinada alcanzan los 8 PetaFLOPS de potencia en el benchmark LINPACK, lo cual hace que el Forty Two se sitúe entre uno de los 100 superordenadores más potentes del mundo en este momento. Sin embargo, dicha cifra no corresponde a la potencia de cálculo de sus unidades tensoriales, ya que de ser así podrían alcanzar más de 180 PFLOPS de potencia.

No solo de NVIDIA vive este superordenador

Por otro lado, el Forty Two no solo se trata de un sistema compuesto por hardware de NVIDIA, sino que también han decidido optar por cuatro IPU M2000 (Unidades de procesamiento de inteligencia) para cada nodo de la empresa británica Graphcore. Dicha combinación recibe el nombre de M2000. Cada una de estas unidades proporciona 250 TFLOPS de computación para IA en un mastodóntico procesador de 832 mm² de tamaño construido bajo el nodo de 7 nm de TSMC y alberga un total de 1472 núcleos capaces de trabajar con hasta 8832 hilos de ejecución distintos. 

Por lo que este superordenador alemán no solo hace uso de tecnología estadounidense, por desgracia, los M2000 y los A100 no casan juntos por las interfaces de comunicación propietarias de NVIDIA, por lo que el chip británico ha de estar contenido en su propio nodo. El cual entrega 1 PetaFLOP de potencia para IA y 256 GB de memoria RAM y la friolera de 3.6 GB de memoria local repartidas entre los cuatro chips.