NVIDIA escoge los Intel Xeon de 4ª Gen para unirlos con sus GPU H100
cTras el anuncio oficial de los Intel Xeon de 4ª Gen, NVIDIA ha anunciado que ha escogido estas CPU para emparejarlas con sus GPU para dar vida a su plataforma NVIDIA IA. En concreto, NVIDIA india que Intel es su mejor socio para dar vida una nueva generación de sistemas de cálculo acelerado creados para la IA con eficiencia energética.
En concreto, estas CPU se combinarán a sus GPU NVIDIA H100 Tensor Core. Como resultado, estos sistemas pueden proporcionar un rendimiento, una escala y una eficiencia muy superiores a los de la generación anterior. En esencia, más capacidad de cálculo y resolución de problemas por vatio consumido.
"La IA está en el centro de las innovaciones más transformadoras de la humanidad: desde el desarrollo de vacunas COVID a velocidades sin precedentes y el diagnóstico del cáncer, hasta la propulsión de vehículos autónomos y la comprensión del cambio climático.
Prácticamente todas las industrias se beneficiarán de la adopción de la IA, pero la tecnología consume cada vez más recursos a medida que aumenta la complejidad de las redes neuronales. Para evitar una demanda insostenible de generación de electricidad para hacer funcionar esta infraestructura informática, la tecnología subyacente debe ser lo más eficiente posible".
Intel y NVIDIA se alían para avanzar en el campo de la Inteligencia Artificial
Entre las funciones de la nueva CPU Intel Xeon de 4ª Gen, destaca la compatibilidad con la interfaz PCIe Gen 5. Esta puede duplicar la velocidad de transferencia de datos de la CPU a las GPU NVIDIA y la red. El aumento de los líneas PCIe permite una mayor densidad de GPU y redes de alta velocidad dentro de cada servidor.
El mayor ancho de banda de la memoria también mejora el rendimiento de las cargas de trabajo intensivas en datos como la IA. Por otro lado, las velocidades de red -hasta 400 Gbps por conexión- permiten transferencias de datos más rápidas entre los servidores y el almacenamiento.
Dando datos concretos, esta combinación arroja una potencia la computación eficiente a escala al proporcionar hasta 9 veces más rendimiento que la generación anterior. Además de 20 a 40 veces más rendimiento que los servidores x86 de doble socket sin aceleración para el entrenamiento de IA y cargas de trabajo HPC. Si antes era necesario entrenar un modelo lingüístico durante 40 días en un clúster de servidores x86, el NVIDIA DGX H100 con una CPU Intel Xeon y red ConnectX-7 puede realizar el mismo trabajo en tan sólo 1-2 días.
"Los sistemas NVIDIA Hopper acelerados con procesadores Intel Xeon Scalable de 4ª Generación proporcionan 25 veces más eficiencia que los servidores de centros de datos tradicionales".
Cada sistema DGX H100 incluye ocho GPUs NVIDIA H100, 10 adaptadores de red NVIDIA ConnectX-7 y dos CPU Intel Xeon Scalable de 4ª Generación. Esto proporciona el rendimiento necesario para crear grandes modelos generativos de IA, modelos de lenguaje de gran tamaño, sistemas de recomendación y mucho más.
Esta alianza reforzará la presencia de Intel en el negocio de los servidores
"Una amplia gama de sistemas con GPU H100 y CPU Intel Xeon de 4ª Generación, suministrados por partners de NVIDIA como ASUS, Atos, Cisco, Dell Technologies, Fujitsu, GIGABYTE, Hewlett Packard Enterprise, Lenovo, QCT y Supermicro, proporcionará a las empresas de todo el mundo una nueva generación de rendimiento y eficiencia energética.
El sistema Lenovo ThinkSystem con GPU NVIDIA H100 del Flatiron Institute encabeza la última lista Green500. Las tecnologías NVIDIA son la base de 23 de los 30 sistemas más eficientes de la lista. El sistema Flatiron utiliza CPUs Intel de generaciones anteriores, por lo que se espera aún más eficiencia de los sistemas que ahora salen al mercado.
Además, la conexión NVIDIA ConnectX-7 y las CPUs Intel Xeon Scalable de 4ª Gen aumentarán la eficiencia y reducirá la infraestructura y el consumo de energía".