NVIDIA logra 4,5 veces más rendimiento en IA y ML con su GPU H100

La mayoría de los usuarios únicamente se fija en las tarjetas gráficas de NVIDIA para gaming, es decir, la gama GTX y RTX. Sin embargo, la compañía no solo se centra en estas, pues también dispone de gráficas dedicadas al ámbito profesional como las Quadro o las orientadas a la inteligencia artificial (IA) y aprendizaje automático (ML). En este último apartado, tenemos a la NVIDIA H100 'Hopper', la gráfica más potente de la compañía que ofrece un rendimiento muy superior a su predecesora, la A100.

Si hablamos de GPU dedicadas que se emplean en centros de datos para computación, cálculo, entrenamiento de modelos de IA o Machine Learning, tenemos que olvidarnos de las típicas NVIDIA RTX. Y es que, aquí necesitamos otra gama de GPU, en concreto aquellas que aceleran este tipo de workflows. Dicho esto, la gráfica más potente dedicada a acelerar estas cargas de trabajo en el pasado fue la A100, lanzada en 2020. Sin embargo, ahora tenemos ante nosotros la nueva NVIDIA H100, que destroza a la A100 y a todos sus rivales.

La NVIDIA H100 gana a todos sus rivales en las pruebas de rendimiento

La NVIDIA H100, de arquitectura Hopper, había sido anunciada hace unos meses como un auténtico monstruo en lo referente a rendimiento. Y es que, hablamos de una GPU en formato SXM con nada menos que 80.000 millones de transistores, alcanzando los 16.896 CUDA Cores y 512 Tensor Cores. Junto a esto, una espectacular memoria de 80 GB HBM3 con 10 controladores de memoria de 512 bits y 50 MB de caché L2. Por si fuera poco llegaría con un TDP de 700W, superando sin duda en consumo a las GPU gaming que tenemos en el mercado actualmente.

Conocidas las especificaciones de esta GPU, decir que ya tenemos los primeros datos de rendimiento comparativo entre esta y la A100, los Intel Xeon Sapphire Rapids, la GPU Biren BR104 y otras sistemas para IA y HPC. Así pues, como podemos ver, la H100 destruye a todos sus rivales sin apenas esfuerzo en todas las pruebas. Esto era lo esperable, ya que la NVIDIA A100 ya lo conseguía en la mayoría de pruebas. No obstante, con la nueva GPU de NVIDIA, el rendimiento es mucho mayor pues la H100 es hasta 4,5x más rápida que la A100. En concreto, esto ocurre en el benchmark BERT-Large, el cual se basa en el procesamiento de lenguaje.

La GPU china Biren BR104 queda tercera e Intel Sapphire Rapids el último

Cuidado con China, pues si bien parecía que su GPU de alto rendimiento podía tener muy buenas especificaciones en teoría pero en la práctica no, nos equivocábamos. Y es que, según vemos en estas pruebas de rendimiento que muestran a la H100 como líder y la A100 segunda, el tercer lugar lo ocupa la GPU Biren BR104. Y es que, si bien hay muchas pruebas donde no tenemos resultados, en dos benchmarks offline donde sí aparece, supera a la A100 de NVIDIA. De hecho, si hubiese aparecido en todos los tests, quizá podría haber quedado en segundo lugar. Además, hay que recordar que la Biren BR104 es aproximadamente la mitad de potente que la BR100, su gama más alta.

Eso sí, hay que tener en cuenta que NVIDIA ha publicado esta gráfica comparativa usando una mezcla de sus resultados propios y los de terceros. Es por ello, que aún faltan resultados que entregar a la compañía para que rellene los huecos restantes. Pero por el momento, nos podemos hacer una idea de como de potentes serán las GPU de los chinos. Del que si tenemos bastantes resultados publicados en las pruebas es del Intel Sapphire Rapids, la próxima generación de Xeon de la compañía. De estos poco podemos decir en cuanto a rendimiento, pues queda claro que no pueden competir y acaba quedando último en todas las pruebas.