Las NVIDIA Blackwell ya tienen pruebas de rendimiento y son hasta 2,2 veces más rápidas en IA que las H100
La industria está siguiendo una tendencia muy clara hacia la IA, invirtiendo cientos de millones en el desarrollo de esta. La innovación y la creación de nuevos modelos de IA más avanzados es una prioridad y claramente se ve que es importante al ver la enorme cifra de ventas de GPU para inteligencia artificial. La demanda se ha disparado y estas se han agotado, con tiempos de espera largos en ocasiones. Si esto fuera poco, las nuevas GPU de NVIDIA con arquitectura Blackwell han demostrado ser muchísimo más rápidas en entrenamiento de IA con MLPerf 4.1.
Fue con ChatGPT cuando empezamos a ver como la IA llegaba a ser un tema en boca de todos y no es de extrañar, pues nos sorprendimos de lo que era capaz. Si bien con anterioridad habíamos visto el potencial de la IA generativa a la hora de crear imágenes, con ChatGPT lo que tuvimos fue un asistente que nos ayudaba. Imagínate tener una pregunta complicada y buscar una respuesta en Google, donde podemos tirarnos horas y visitar decenas de páginas web hasta conseguir lo que queremos. Con el chatbot de OpenAI lo que tenemos es una respuesta rápida y directa a lo que buscamos y en caso de querer profundizar más en el tema, podemos realizar otras preguntas más específicas.
Las NVIDIA Blackwell demuestran su gran rendimiento en IA superando con creces a Hopper
Aunque hay gente que está en contra del uso de la inteligencia artificial, nos guste o no, no podemos pararla. Esta se ha convertido en una herramienta que aumenta la productividad en gran medida y debido a esto, la industria entera está a favor de usarla. Ya hemos visto como algunas empresas se han beneficiado enormemente de esta situación y podríamos decir que NVIDIA es de las que más beneficio ha conseguido. Esta empresa que solía situarse en la zona baja del top 10 ocupando los puestos 7, 8 o 9, pasó rápidamente a estar en cuarto puesto y la hemos visto primera en varias ocasiones.
Todo esto ocurrió en cuestión de un año y fue debido a las grandes ventas e ingresos obtenidos con sus GPU para IA. Hoy nos toca ver la nueva generación de NVIDIA Blackwell para IA y el rendimiento que ofrecen con su debut en el benchmark MLPerf Training 4.1. Este agrupa un conjunto de cargas de trabajo como Stable Diffusion v2, Llama 2 70B, GPT-3 175B o R-GAT. Así pues, se trata de una forma eficaz de medir el rendimiento en inteligencia artificial. Si bien NVIDIA habla de Hopper, saltamos directamente a Blackwell que es la que nos interesa y aquí es donde vemos que llega a ser hasta 2,2 más rápida que las NVIDIA H100 en la prueba de Llama 2 70B.
El HGX B200 es 12 veces más rápido que el HGX A100 en LLM Pre-Training
Las nuevas NVIDIA Blackwell para IA son unas auténticas bestias, pues en otra prueba como GPT-3 175B Pre-Training, consigue ser 2 veces más rápida que las H100. De hecho, NVIDIA asegura que en todas las pruebas de MLPerf Training 4.1, las nuevas GPU son más rápidas que las H100 con arquitectura Hopper. La nueva arquitectura de NVIDIA hace uso de una mayor cantidad de núcleos y estos son más eficientes y rápidos para realizar distintas tareas de inteligencia artificial. A esto debemos añadir una nueva memoria HBM3E con un mayor ancho de banda.
NVIDIA dice en su comunicado que consiguieron el mismo rendimiento que 256 GPU Hopper usando 64 GPU Blackwell en GPT-3 LLM. Podemos ver así como en la prueba de LLM Pre-Training, el sistema HBX B200 es 12 veces más rápido que el HBX A100 y el doble que el HGX H100 con las mejoras de noviembre de 2024.