Intel Xeon 5ª Gen: CPU para servidores con hasta 64 núcleos y 320 MB de caché para acelerar la IA

Junto a los procesadores Intel Cora Ultra, la compañía también anunció sus Intel Xeon de 5ª Generación. Estos procesadores se encuentran enteramente para ser líderes en aceleración de IA por hardware respaldado de un avanzado y maduro software. Para ello, estamos ante unas CPU con un diseño multichip en forme de dos tiles de computación de hasta 32 núcleos cada uno. En modelos más básicos, tenemos un clásico diseño monolítico capaz de dar cobijo a un máximo de 32 núcleos.

De esta forma, los Intel Xeon de 5ª Generación serán capaces de ofrecer una configuración de hasta 64 núcleos y 128 hilos de procesamiento acompañados de hasta 320 MB de memoria caché L3. Quizás lo más interesante respecto a su competidor AMD EPYC Genoa (4ª Gen), es que los núcleos, la caché, la interfaz de interconexión Mesh y la controladora de memoria, todo ello está interconectado bajo un mismo chip. En el caso de AMD ocurre lo contrario, lo que genera pequeños cuellos de botella que afectan al rendimiento.

También hay que tener en cuenta que Intel suma los 64 núcleos con 2 tiles, mientras que AMD recurre a 4 tiles de 16 núcleos cada uno. Cada tile cuenta con sus 32 MB de caché L3 (128 MB en total), lo que termina limitando al rendimiento de las máquinas virtuales.

Intel Xeon de 5ª Gen vs 4ª Gen

Según indica Intel, entre la 5ª y 4ª Generación Intel Xeon hay una mejora de rendimiento de media de un 21%. En inferencia la mejora asciende hasta un 42%; y en computación de alto rendimiento la mejora es de hasta 40%. Si bien las mejoras de rendimiento son apreciables, la mayor de las mejoras está en la distribución, reduciendo los cuellos de botella comprimiendo 64 núcleos en 2 tiles en vez de 4 tiles como su predecesor, lo que genera un cuello de botella más grande debido a las latencias de las interconexiones.

El segundo gran avance de los Intel Xeon de 5ª Gen está en la memoria. Se llega a triplicar la memoria caché compartida (320 MB L3). Admite también hasta 12 módulos de memoria DRAM DDR5 a 5.600 MHz, junto a una memoria CXL intercalada. Potencia sin control no sirve de nada, y es por ello que se ha mejorado su desempeño, ofreciendo un 34% más rendimiento por cada vatio consumido. Esto también genera un ahorro de 100W de energía por socket en estado de reposo.

Para una mejora de rendimiento de la IA, se añaden las extensiones Intel AMX (Intel Advanced Matrix Extensions). Estas aportan un mayor desempeño en modelos de lenguaje LLM y cualquier IA en general. A ello se le suma el software Intel AI optimizado para más de 300 modelos Deep Learning y más de 50 modelos de Machine Learning.

Intel Xeon 8582+ vs AMD EPYC 9554: duelo entre los mejores de su segmento

A nivel de rendimiento, tenemos cargas de trabajo mainstream (Linkpack, NAMD, LAMMPDS, servicios de financias, etc.). En estas el Intel Xeon de 5ª Gen promete ser hasta un 117% más rápido que su competidor AMD EPYC. En rendimiento de virtualización con 16 vCPU, hablamos de hasta un 133% de mejora de rendimiento. Y terminamos con hasta un 160% de rendimiento en forma de inferencia.

Con estos datos son lo que Intel defiende su liderazgo en rendimiento de IA en una CPU. A esto se le suma que los Intel Xeon de 5ª Generación ofrecen un gran equilibrio entre rendimiento, eficiencia y coste. La compañía indica que sus CPU consumen menos energía, reducen las emisiones de CO2, y es una arquitectura más costo efectiva.

Estos datos se basan en el TCO, el "Costo Total de Propiedad". El TCO es cálculo que tiene en cuenta todos los costes asociados con la adquisición, implementación, operación y mantenimiento de un activo o servicio a lo largo de su ciclo de vida. Según Intel, en un ejemplo de 50 servidores Intel Xeon de 5ª Gen vs AMD EPYC Genoa, sus CPU son capaces de ofrecer un 62% más de ahorro de costes.