Amazon se supera con sus nuevas CPU para IA, Graviton4 y Trainium2: +50% Cores, +30% rendimiento y +75% de ancho de banda

Amazon no solo es conocida por ser la tienda online más popular del mundo, sino que también se dedica a otros sectores. Amazon Web Services o AWS es la plataforma de computación en la nube que compite contra Google, Microsoft y otras grandes compañías. Ahora Amazon ha presentado su nueva generación de chips Graviton4 y Trainium2, donde en el primer caso se mejora el rendimiento y la eficiencia, mientras que en el segundo tenemos una mayor rapidez de entrenamiento para IA.

En el mundo de los procesadores siempre mencionamos a las compañías de Intel y AMD, pues en PC son las principales. Sin embargo, hay muchas otras que se dedican a desarrollar y fabricar CPU, aunque son para otros propósitos que no sean el PC. Así pues, tenemos a Amazon que lleva ya años creando CPU basadas en la arquitectura Arm. En 2021 vimos como Amazon lanzó Graviton3, la cual lograba hasta un 300% más de rendimiento consumiendo un 60% menos que la generación previa de Graviton2.

Amazon presenta su CPU Arm Graviton4 con un 30% más de rendimiento y 50% más núcleos

Amazon Graviton4

Al siguiente año de lanzar Graviton3, Amazon presentó Graviton3E, la siguiente generación de procesadores basados en la arquitectura Arm. Aquí se mostró como conseguía una frecuencia de hasta 3,9 GHz, utilizaba memoria RAM DDR5 y en general, conseguía un 35% más de rendimiento. Vuelve a pasar un año y volvemos al presente, dado que Amazon ha presentado dos nuevos chips, el Graviton4 y Trainium2. Comenzando con Graviton4, este es el sucesor del Graviton3E y promete hasta un 30% más de rendimiento, un 50% más de núcleos y un 75% más de ancho de banda.

AWS tiene en la actualidad más de 150 tipos de instancias Amazon EC2 que usan Graviton a nivel global y anuncia haber fabricado más de 2 millones de CPU. Adicionalmente, menciona como Graviton cuenta con más de 50.000 clientes tales como Discovery, Fórmula 1 (F1), Pinterest o Zendesk. También tenemos a Epic Games, que asegura que Graviton4 proporcionará un rendimiento excepcional para su carga de trabajo necesaria en Fortnite. Estas CPU se encargan de las bases de datos, publicaciones de anuncios, análisis y servidores web. Graviton4 estará disponible en instancias Amazon EC2 R8g con hasta 3 veces más memoria y vCPU respecto a las R7g actuales.

El chip Trainium2 permite entrenar modelos de IA hasta 4 veces más rápido

Amazon Trainium2

Por otro lado, tenemos el otro chip de Amazon, llamado Trainium2, el cual permitirá entrenar modelos básicos (FM) y modelos de lenguaje grande (LLM) hasta 4 veces más rápido que los Trainium de primera generación. Debido a un mayor interés en la IA generativa, este chip permitirá a los clientes entrenar sus modelos de aprendizaje automático a un menor coste y con una mayor eficiencia. AWS ofrece instancias Amazon EC2 con chips ML que además incluyen GPU de NVIDIA para un mayor rendimiento. Con Trainium2 se podrán entrenar modelos de FM y LLM con billones de parámetros, ya que además del mejor rendimiento, tenemos 3 veces más capacidad de memoria y una eficiencia de rendimiento/vatio 2 veces superior.

Las instancias Trn2 están destinadas a escalar hasta 100.000 chips Trainium2 para las EC2 UltraClusters de próxima generación, pudiendo entregar hasta 65 ExaFLOPs de rendimiento. En este caso, Amazon estima que se podrán entrenar LLM con 300.000 millones de parámetros en cuestión de semanas en lugar de esperar meses.