Microsoft: las AMD Instinct MI300X ofrecen la mejor relación rendimiento/precio en GPT-4

NVIDIA es la compañía de hardware que más creció en 2023 y esto se debe principalmente a la IA. Como ya sabrás, NVIDIA tiene las GPU para IA más rápidas, con una AMD que no pudo competir contra ella durante un largo tiempo. Así es como vimos que la demanda superó a la oferta con las NVIDIA A100 y H100, hasta que apareció la competencia. Fue hace unos meses cuando AMD presentó por fin su Instinct MI300X, la GPU que haría competencia a NVIDIA en IA. No solo se mencionó que era entre 3 a 6 veces más barata que las GPU de NVIDIA, sino que además ahora tenemos la declaración de Microsoft que menciona que la MI300X ofrece el mejor rendimiento/precio que en GPT-4.

Con la llegada de la IA generativa y ChatGPT, empezamos a ver como la inteligencia artificial podía llegar incluso a reemplazar a personas en sus trabajos. Fueron varias empresas las que probaron el cambio y muchas de ellas estuvieron contentas con los resultados, asegurando que hacía un buen trabajo y se ahorraban una enorme cantidad de dinero. Podemos pensar en trabajos de asistencia al cliente, pero realmente se está extendiendo a más sectores y más sabiendo que se desarrollan nuevos modelos de IA que le permiten ser competente en otros ámbitos.

Según Microsoft, las GPU AMD Instinct MI300X logran el mejor rendimiento/precio en GPT-4, superando a NVIDIA

NVIDIA H100 coste MI300X

Para poder desarrollar modelos de IA complejos utilizando LLM de gran tamaño, se requiere emplear una enorme potencia de cálculo. Es ahí donde las tarjetas gráficas como las de NVIDIA han dominado completamente el mercado, ofreciendo a las empresas una forma de acelerar el entrenamiento e inferencia de modelos de IA. Aun así, se tratan de GPU que tienen un elevado coste (unos 30.000 dólares) y también consumen mucha energía.

Puede que en el consumo de energía AMD tampoco se libre, pero si hablamos de rendimiento por precio en algo tan importante como GPT-4 (en el que se basa ChatGPT), las Instinct MI300X son las ganadoras, según Satya Nadella, CEO de Microsoft. El rendimiento de las gráficas de AMD se puso en dudas, pues si hacemos memoria unos días después de presentarse hubo una pelea entre ellos y NVIDIA.

Las MI300X son una gran opción por un menor coste, pero las próximas NVIDIA Blackwell serán mucho más rápidas

AMD Instinct MI300X

Cuando AMD publicó los resultados de sus GPU MI300X, veíamos en los gráficos que era hasta un 60% más rápida que la NVIDIA H100 en IA. Esto fue un duro golpe para NVIDIA, pues precisamente se trata de la tarjeta gráfica más potente y popular de la compañía. Teniendo en cuenta que esta es notablemente más cara que la de AMD, tras recibir esas noticias NVIDIA no se quiso callar. Es por ello, que mostró como en sus resultados las NVIDIA H100 eran el doble de rápidas que las MI300X.

Podríamos creer que esto fue la completa victoria de NVIDIA, pero no, porque AMD mostró que a la tercera va la vencida y en esta ocasión, la MI300X era el doble de rápida en vLLM y un 30% en TensorRT-LLM vs la H100. NVIDIA ya ha presentado sus nuevas GPU Blackwell para IA, pero aquellos que no quieran tener que gastar tanto dinero ni esperar mucho tiempo, puede que la MI300X se convierta en su mejor opción.