Nvidia DGX A100: 5 Petaflops de rendimiento IA en el tamaño de una caja de zapatos por 199.000 dólares

Nvidia DGX A100: 5 Petaflops de rendimiento IA en el tamaño de una caja de zapatos por 199.000 dólares

Tras el anuncio de la Nvidia Tesla A100, seguimos con el Nvidia DGX A100, el que la compañía ha bautizado como el sistema de Inteligencia Artificial más avanzado del mundo, y no es para menos, y es que en el tamaño de una caja de zapatos tenemos nada menos que 8x Nvidia Tesla A100 con 320 GB de memoria HBM2E arrojando un ancho de banda de 12.4 TB/s y rendimiento de IA de 5 petaflops.

Para que esto sea posible, se utilizan 6x Nvidia NVSwitch interconectados mediante la tecnología Nvidia NVLink con un ancho de banda bidireccional de 4.8 TB/s. No podía faltar la aportación de la última adquisición de la compañía: 9x Mellanox ConnectX-6 HDR 200Gb para ofrecer una interfaz de red bidireccional de 3,6 TB/s.

DGX A100

La información del Nvidia DGX A100 se completa con el uso de procesadores AMD EPYC 'ROME' en forma de 2x AMD EPYC 7742 que dan un total de 128 núcleos y 256 hilos de procesamiento, 15 TB de almacenamiento SSD M.2 NVMe PCI-Express 4.0, y el software Nvidia DGX para que todo funcione como un reloj suizo.

Según la compañía, sólo un rack con 5x Nvidia DGX A100 puede reemplazar a centros de datos o infraestructuras de inferencia consumiendo 1/20 parte de su energía, ocupando 1/25 parte del espacio y todo ello costando 1/10 parte respecto al precio estos sistemas, y es que esta hermosura "sólo" cuesta 199.000 dólares.

"El DGX A100 es el instrumento definitivo para el avance de la IA. El DGX A100 de Nvidia es el primer sistema de IA creado para el proceso de aprendizaje integral de las máquinas, desde el análisis de datos hasta la formación y la inferencia. Además, con el enorme salto de rendimiento del nuevo DGX, los ingenieros de aprendizaje automático pueden mantenerse a la cabeza del creciente tamaño de los modelos y datos de IA", dijo Jensen Huang, fundador y Consejero delegado de Nvidia.

Artículos relacionados