Intel responde a los datos mostrados por AMD en la presentación de los EPYC Turin: «Los resultados no reflejan el rendimiento de nuestras CPU»

Intel está bastante molesta con la presentación de AMD en el COMPUTEX 2024, ya que los EPYC Turin que se mostraron en las diapositivas eran tremendamente rápidos frente a los Xeon de 5 generación hasta límites realmente increíbles. Hoy Intel responde a AMD afirmando que estos resultados no reflejan el rendimiento alcanzable con sus procesadores, y que, por tanto, los EPYC Turin estaban sacados de escala. Para demostrarlo, ofrece datos concretos, donde las actuales CPU Xeon de 5 generación basadas en Emerald Rapids superan a las nuevas opciones de AMD.

Con la pretensión de mostrar la verdad de lo que pueden obtener las empresas con su hardware, Intel ha puesto en escena varios datos clave que desmienten lo mostrado por AMD y les deja en mal lugar. El pretexto de las extensiones AMX para inferencia y capacitación les ha reportado un rendimiento increíble para IA, por eso en la presentación de AMD los datos que apalizaban a las CPU Xeon sonaron demasiado rimbombantes, y ahora entendemos el porqué.

El software como bandera para optimizar su hardware para servidores

Lo que afirman los azules es básicamente que AMD no usó la pila de software de Intel en las pruebas, lo que dejaba a los Xeon en una desventaja muy clara frente a los nuevos EPYC Turin. De hecho, en el artículo lanzado por chipzilla hacen bastante énfasis precisamente en el compromiso que tienen con el software abierto y las numerosas optimizaciones que brindan para sus procesadores con estos tres argumentos:

• Optimizaciones ascendentes en marcos de aprendizaje profundo y disponibles en distribuciones predeterminadas de PyTorch, TensorFlow, DeepSpeed ​​y otras bibliotecas de IA.

• Liderar el desarrollo y optimización del back-end de CPU de torch.compile, que es una característica emblemática de PyTorch 2.0 .

• Ofreciendo Intel Extension para PyTorch con optimizaciones avanzadas de PyTorch antes de que se transfieran a la distribución oficial. Las optimizaciones LLM de Intel están disponibles públicamente en software de código abierto.

Esto es importante desde el punto de vista de los azules cuando dicen que la optimización de este software para las CPU Intel en cuanto a inferencia de LLM les permite obtener una reducción de latencia de 5 veces, y claro, esto impulsa el rendimiento más allá de lo que mostró AMD.

Intel responde a AMD y sus EPYC Turin con datos que rompen el argumento de los rojos

Intel es muy clara y ataca frontalmente a AMD con un discurso directo, y posteriormente datos que afianzan dicho argumento:

En el COMPUTEX 2024, AMD mostró los puntos de referencia de su CPU Turin de 128C frente a los procesadores Intel Xeon de quinta generación, pero los resultados no reflejan el rendimiento alcanzable en los procesadores Intel Xeon con software de código abierto optimizado.

AMD no reveló la pila de software que utilizó para realizar evaluaciones comparativas. Con software disponible públicamente, los procesadores Intel Xeon de quinta generación superan a las futuras CPU de AMD.

En otras palabras, las CPU que Intel tiene actualmente a la venta serían más rápidas que lo mejor que tiene AMD, y con la mitad de núcleos. Pero para comprobarlo, los azules han dispuesto los siguientes datos:

Con la extensión de PyTorch y una restricción de latencia P99, y a mismo hardware, Intel logra un aumento de rendimiento de nada menos que 5,4 veces, logrando 686 Tokens por segundo frente a los 671 de las dos CPU Turin de 128 Cores. Esto es muy interesante, puesto que los Xeon 8592+ tienen la mitad de núcleos disponibles, mientras que los Xeon de 6 generación que presentó Intel hace dos semanas bajo la arquitectura Granite Rapids igualan la apuesta de AMD en el conteo, así que la diferencia debería ampliarse mucho más.

En concreto, Intel afirma que la mejora será de 2,3 veces de la 6 generación a la 5 generación, donde el número de canales de RAM es una mejora clara que impulsa el rendimiento al pasar de 8 canales a 12, además, con soporte DDR5 y MCR DIMM.

En INT8 e inferencia tampoco tienen rival

Dentro del Deep Learning y ya fuera de la IA como tal, Intel ha mostrado también datos con INT8 en inferencia frente al EPYC 9654, donde también se invita a su hermano mayor EPYC 9754 para hacer comparativa entre Genoa y Bergamo.

Las CPU de Intel no solamente son más rápidas, es que las de 4 generación también superan a ambas arquitecturas de AMD. Es cierto que es un caso concreto con una precisión concreta, pero no es menos cierto que desde la cuarta generación Intel ha dado un paso de gigante frente a AMD, la cual le estaba comiendo cuota de mercado a pasos agigantados, como vimos hace nada, donde los de Lisa Su se jactaron de tener ya el 30% del mercado.

Es posible que Granite Rapids y sobre todo Sierra Forest paren el golpe e incluso puedan devolvérselo a AMD, porque ya no solamente tienen mejores extensiones y software que los rojos, también han igualado el número de núcleos de Zen 5, y los han superado con Zen 5c, algo que los centros de datos y empresas de IA también valoran. Sin duda, los cuchillos vuelan entre ambas compañías, pero Intel no se queda ahí y afirma que mostrarán muchos más datos en el tercer trimestre de este año.