Las CPU EPYC Turin tendrán más rendimiento en IA que una RTX 4090
El auge de la IA en los últimos años ha provocado que todos los fabricantes de hardware tengan un diseño que a pequeña o gran escala para dicho mercado. En el caso de AMD e Intel tenemos ejemplos y soluciones de todo tipo, pero uno de los más interesantes de cara al futuro es el de su AMD EPYC Turin para IA, una variante de su CPU para servidores con unidades adicionales para acelerar la ejecución de algoritmos de aprendizaje profundo.
Mientras que NVIDIA se harta de vender tarjetas gráficas y recogiendo lo sembrado al adaptarlas a la IA desde hace varios años, en AMD su apuesta pasa por las capacidades que han obtenido recientemente tras la compra de Xilinx. La cual ha ampliado su porfolio de tecnologías, las cuales van a ser usada sin ningún miramiento en los futuros chips de la marca.
Nuevos detalles de AMD EPYC Turin para IA
Los AIE, AMD Inteligent Engines, son chiplets que AMD pretende utilizar en la variación orientada a la IA de su futura CPU para servidores EPYC Turin, basada en arquitectura Zen 5. Mientras que Intel ha apostado por el uso de unidades AMX dentro del propio procesador, de la misma naturaleza que los Tensor Cores de NVIDIA, en combinación con memoria HBM, en AMD la apuesta es diferente.
Para los de Lisa Su la apuesta es el uso de chiplets en los que colocar aceleradores especializados en esta tarea con memoria V-Cache encima de cada uno de ellos. Lo que significa que los algoritmos de Deep y Machine Learning se verían optimizados por estos coprocesadores especializados en esta tarea concreta.
Pues bien, gracias a las últimas filtraciones hemos podido saber cuál sería la potencia bruta que podemos esperar de cada uno de los AIE en los EPYC Turin para IA y cuantos de ellos puede que nos encontremos en estos procesadores. Según MLID la cifra oscilaría entre los 246 y los 310 TOPS por AIE. Por lo que AMD podría crear sistemas configurables con una potencia de hasta 1700 TOPS sin que sea necesario conectar una tarjeta gráfica o cualquier otro tipo de acelerador capaz de ejecutar este tipo de cargas de trabajo.
Para poneros en perspectiva, la actual RTX 4090 de NVIDIA tiene una capacidad máxima de 1321 TOPS, mientras que la H100 alcanza los 1980 TOPS. Por lo que la propuesta de AMD no se queda corta en absoluta.
La tecnología de los AIE proviene de Xilinx
La tecnología de los AIE proviene de Xilinx, comprada por AMD el año pasado y rebautizada como AMD Embedded recientemente. Dichas unidades se usaban en los Versal Engines y no dejaban de ser los clásicos procesadores neurales, cuya configuración no son otra cosa que núcleos interconectados entre sí en matriz. De tal manera que a cada uno de ellos se le bombean datos e instrucciones desde los núcleos colindantes y este hace lo mismo con sus vecinos. De ahí el nombre de sistólicos, en honor al sistema circulatorio.
Cada uno de los Versal Engines de Xilinx pueden tener unas configuraciones de decenas e incluso cientos de núcleos en sus matrices. Sin embargo, los AIE de los AMD EPYC Turin para IA son una evolución adaptada para trabajar como coprocesadores de una CPU para servidores. No conocemos más detalles sobre ello, pero llama poderosamente la atención que la apuesta de Lisa Su y los suyos no sea la de lanzar una tarjeta especializada en la IA o reforzar sus tarjetas gráficas, sino la de colocar la tecnologia los AIE de Xilinx en una variante de sus CPU para servidor.
AMD apuesta por la IA en CPU, pero no en tarjetas gráficas
El negocio principal de AMD son los microprocesadores y esto es algo que debemos tener en cuenta. Si bien NVIDIA ha mostrado la viabilidad de las tarjetas gráficas para ejecutar algoritmos de aprendizaje profundo con un rendimiento y eficiencias más que excelentes, dicho negocio no es el principal de la empresa de Lisa Su. Sus Radeon no venden al mismo nivel que sus procesadores Ryzen y EPYC y es totalmente normal que estén buscando quitarle importancia a la IA en GPU y quieren apostar por ella en CPU.
No deja de ser lo mismo que hizo Intel con sus Sapphire Rapids optimizados para IA, en realidad no dejan de ser el mismo concepto. Venderle a los clientes potenciales que no se gasten más dinero en una tarjeta gráfica que puede hacer IA cuando dicha potencia ya se la ofrece una de estas potentes CPU. En todo caso, las EPYC Turin para IA no son la gama principal del procesador de servidores de AMD y solo el tiempo dirá si será un buen movimiento por parte de la compañía, la cual ha estado ausente de esta disciplina de la informática durante demasiado tiempo.