Intel Xeon 6 «Granite Rapids» y «Sierra Forest»: las bestias para IA logran ejecutar 70 mil millones de parámetros en solo 86 ms

Desde hace unos años, Intel se ha quedado por detrás de AMD en cuanto a procesadores para servidores. Los Intel Xeon han estado ofreciendo menos núcleos y rendimiento que su rival, siendo superados ampliamente por los AMD EPYC e incluso por los Threadripper. Sin embargo, Intel sigue desarrollando la nueva generación que traerá grandes mejoras. Bajo el nombre de Intel Xeon 6, tenemos los Granite Rapids y Sierra Forest, los cuales ofrecerán un gran rendimiento en IA.

Intel dominó con sus procesadores Xeon para servidores durante muchos años en el pasado, pero en el momento en que AMD estrenó su arquitectura Zen y lanzó sus primeras CPU EPYC, todo empezó a cambiar. Aquí es cuando vimos que AMD lanzaba procesadores de 64, 96 y hasta 128 núcleos, mientras que los Xeon de Intel apenas superaban los 50 núcleos. De hecho, los últimos Xeon Sapphire Rapids que lanzó llegan a 60 núcleos y siguen ofreciendo una fracción del rendimiento de los de AMD por un precio bastante elevado.

Intel presenta su gama de procesadores Xeon 6, incluyendo Sierra Forest y Granite Rapids

Parece que todo estaba perdido para Intel, pero esta ha decidido reforzar los puntos débiles y aprovechar las tendencias actuales para sus nuevos Xeon. En lugar de usar la nomenclatura "Xeon Scalable", se denominarán Xeon 6 y aquí se incluirán tanto los Granite Rapids como los Sierra Forest. Estos pertenecen a la próxima generación de Intel Xeon, con los Granite Rapids centrados en ofrecer el mayor rendimiento usando su enorme caché de 480 MB para enfrentarse a los AMD EPYC. En cuanto a Sierra Forest, sabemos que estos usarán núcleos E-Core en su totalidad, priorizando la eficiencia energética.

Según Intel, Sierra Forest ofrecerá hasta una mejora de 2,4 veces rendimiento/vatio consumido y serán hasta 2,7 veces más rápidos en rack respecto a la generación anterior. Aquí hablamos de que 72 racks de servidores con Sierra Forest serán igual de rápidos que 200 racks de Intel Xeon de segunda generación. Según Intel, su fecha de lanzamiento será para el segundo trimestre de 2024.

Los Granite Rapids ofrecerán un gran rendimiento en IA usando el formato de datos MXFP4

Ahora que se ha confirmado Sierra Forest oficialmente, nos toca volver a los Granite Rapids que también forman parte de los Intel Xeon 6. Intel ha mencionado detalles sobre esta nueva generación que a diferencia de Sierra Forest, empleará P-Cores de alto rendimiento. Primero de todo tenemos la compatibilidad con el formato de datos MXFP4. Este es un nuevo formato de precisión, soportado por el OCP (Open Compute Project), NVIDIA, AMD y Arm. El gran interés en MXFP4 se debe a que es capaz de reducir la latencia de los tokens en 6,5 veces comparados con los Xeon de cuarta generación con FP16.

Con esto sobre la mesa, Intel ha mostrado con orgullo el gran rendimiento en IA que tendrán sus Granite Rapids. Estos son capaces de ejecutar la IA Llama-2 de Meta con nada menos que 70.000 millones de parámetros y 4 bits en tan solo 86 milisegundos. Esto llamará la atención de los clientes interesados, más aún sabiendo la gran importancia que tiene la inteligencia artificial actualmente. A diferencia de Sierra Forest, Intel no ha revelado la fecha de lanzamiento de Granite Rapids, por lo que llegará más tarde.