Nvidia Grace CPU Superchip: 144 núcleos ARM, 396MB de caché y un serio rival para las CPUs x86

Junto al chip gráfico Nvidia H100, la compañía anunció su Nvidia Grace CPU Superchip, que combina un par de CPUs Nvidia Grace para sumar nada menos que 144 núcleos ARM Neoverse con 396 MB de caché, con un rendimiento estimado de 740 SPECrate@2017_int_base, con acceso a una memoria LPDDR5X ECC con un ancho de banda de hasta 1 TB/s. Todo ello se conecta mediante la interfaz NVLink C2C de 4ª Gen con un ancho de banda de 900 GB/s y corre la suite Nvidia Computing Stack.

Nvidia afirma que Grace es un procesador altamente especializado destinado a cargas de trabajo como el entrenamiento de modelos de PNL de última generación que tienen más de 1.000 millones de parámetros.

Cuando se combina con las GPU de Nvidia (Nvidia Grace Hopper) se puede tener acceso a un máximo de 600 GB de memoria, y a un sistema que ofrece un rendimiento 10 veces superior al de los actuales sistemas basados en Nvidia DGX, que se ejecutan con CPUs basados en una arquitectura x86, prometiendo ofrecer el doble de rendimiento por vatio consumido que los servidores tradicionales de Intel y AMD. Todo ello se traduce en un consumo que se moverá sobre los 500W.