AMD Instinct MI325X, MI350 y MI400: más de 35 veces el rendimiento de inferencia y por delante de la NVIDIA H100
Siguen las presentaciones en AMD y como no podía ser de otra forma, una vez vistos los sectores de PC y portátiles, llega el de la IA. Y aquí, aunque NVIDIA domina con mano de hierro, la realidad es que los rojos tienen bastante que decir aunque estén por detrás. Por ello, AMD ha presentado sus aceleradores Instinct MI325X, MI350X y MI400, de los cuales tenemos detalles dispares dada su lejanía en el tiempo.
El organigrama de AMD tiene un propósito muy claro: lanzar al menos un producto por año con todas las novedades que pueda aplicar en ello y no perder con esto comba con NVIDIA, que lleva un ritmo demoledor. Por tanto, lo que vamos a ver a continuación es un acelerador para este 2024, su sucesor en 2025 y el más nuevo para 2026.
AMD Instinct MI325X, más rápido que la NVIDIA H100
Sí, la NVIDIA H100 es un producto oficialmente descatalogado que se seguirá vendiendo este año hasta la llegada del B100 y B200 como sucesores naturales, estando ya presentados. Pero como lo que hay en el mercado es este H100 como GPU, AMD compara el rendimiento con lo mejor de NVIDIA en estos momentos.
Pero antes, ¿qué novedades tiene este MI325X? Pues los rojos no han dado muchos datos pese a la presentación. Sabemos que tendrá un mejor rendimiento en inferencia y generación de tokens hasta el punto de que supera a la H100 por 1,3x, lo cual es normal si tiene que competir con Blackwell y no con Hopper. Su principal fortaleza está en los 288 GB de memoria HBM3e que incorporará, donde conseguirá nada menos que 6 TB/s de ancho de banda interno en memoria.
Lo bueno es que será fácilmente actualizable si venimos de una plataforma MI300, puesto que AMD asegura el mismo diseño de servidor en placa base universal estándar de la industria. Por tanto, podemos esperar un 30% más de velocidad frente a su competencia directa por parte de NVIDIA.
Instinct MI350X, la competencia de NVIDIA Rubin
Dado que NVIDIA va a adelantar Rubin, AMD debería hacer lo propio con este nuevo Instinct MI350X. Principalmente, porque aunque la nomenclatura engañe, estamos ante el primer acelerador que llegará con CDNA 4 como arquitectura base, y además, AMD repetirá la jugada del MI325X, ya que obtendrá la misma plataforma de servidor estándar.
Eso sí, este MI350X con CDNA 4 llegará fabricado en 3 nm (suponemos que N3X), y según AMD admitirá dos tipos de datos más: FP4 y FP6. Además, algo que también ha desvelado AMD es que seguirán con los 288 GB de HBM3e, así que parece que no habrá mejora aquí más allá del posible salto de velocidad interna.
Aunque no hay fecha concreta, AMD ha dicho que se lanzará en 2025, suponemos que todo dependerá de cuándo se lance el MI325X en lo que queda de año.
MI400: AMD CDNA Next es todavía una incógnita
Todo muy breve por parte de los rojos con tal de no desvelar demasiado a casi año y medio vista. Y es que sí, el Instinct MI400 llegará en algún momento de 2026 y según los rojos "proporcionará las últimas características y capacidades que ayudarán a desbloquear rendimiento y eficiencia adicionales para la inferencia y el entrenamiento de IA a gran escala".
Es lo único que han comentado, así que tendremos que esperar con este MI400. Sea como fuere, los rojos han terminado su discurso enfatizando en lo siguiente:
"Los aceleradores AMD Instinct MI300X continúan su fuerte adopción por parte de numerosos socios y clientes, incluidos Microsoft Azure, Meta, Dell Technologies, HPE, Lenovo y otros, un resultado directo del rendimiento excepcional y la propuesta de valor del acelerador AMD Instinct MI300X", dijo Brad McCredie, vicepresidente corporativo, Computación acelerada del centro de datos de AMD.
"Con nuestra cadencia anual actualizada de productos, somos implacables en nuestro ritmo de innovación, proporcionando las capacidades de liderazgo y el rendimiento que la industria de la IA y nuestros clientes esperan para impulsar la próxima evolución de la capacitación e inferencia de IA en los centros de datos".
Veremos si finalmente pueden competir con NVIDIA en el tiempo y acercar sus productos para cuadrarlos temporalmente con los de los verdes y así poder impactar en el mercado de mejor manera robando cuota. Por lo pronto, ya sabemos algo más de los Instinct MI325X, MI350X y MI400.