¿Intel superando a NVIDIA en IA? Ojo con Gaudi, por delante de la H100 al procesar imágenes

Intel podría haber encontrado el talón de Aquiles a NVIDIA, en especial de cara al lenguaje visual, una disciplina clave relacionada con la visión por computador y aplicaciones como la conducción autónoma de vehículos. Y todo viene por una característica única que tiene Intel Gaudí 2 frente a la H100 de NVIDIA que compensa la diferencia en potencia bruta.

Gaudí 2 es el acelerador para IA de segunda generación creado por Habana Labs, una empresa que fue comprada por Intel. En la actualidad es cuanto a potencia bruta para IA el diseño más potente que tiene la empresa hoy liderada por Pat Gelsinger y no se trata precisamente de un juguete, ya que hablamos de un procesador de potencia considerable, que al contrario de los chips de NVIDIA no se trata de una GPU, sino de un diseño pensado desde el primer momento para su aplicación en inteligencia artificial.

Gaudi 2 vence a la H100 en lenguaje visual

Cluster Intel Gaudi 2

Pues bien, existe una disciplina en la que Gaudi 2 vence a la H100, y esta tiene que ver con el lenguaje visual, el cual tiene que ver con el entrenamiento para la creación de las IA generativas. Es decir, aquellas en las que escribes un texto y te hace un dibujo a partir de dicha descripción y que tan popular se han hecho altamente populares con Stable Diffusion o Midjourney. Y el motivo tiene que ver con el proceso de entrenamiento donde se han de procesar miles de imágenes para que la IA aprenda a identificar un objeto para luego poder dibujarlo.

Si bien las GPU suelen tener aceleradores y decodificadores para liberar la tarea en diversos formatos de vídeo y de imagen, Gaudi 2 se ha diseñado para lenguaje visual, lo que le permite no solo descifrar formatos como HEVC, H.264, VP9 y JPEG, sino también realizar las operaciones de postprocesamiento, las cuales en otros sistemas suelen hacerse en el procesador central, el cual se convierte en un cuello de botella en el proceso.

El benchmark que ha demostrado la superioridad de Gaudi 2 sobre H100 ha sido el BridgeTower donde el acelerador para IA de Intel ha obtenido un rendimiento 1,79 veces mayor que la NVIDIA H100, y en comparación a la A100 el salto en rendimiento es de 2.23 veces. Sin embargo, todo esto no tiene que ver con la potencia bruta, sino que el mayor rendimiento va por otros derroteros.

Una pista para las siguientes generaciones de NVIDIA

Intel Gaudi 2

Si bien la H100 domina el mercado con puño de hierro y tiene una alta demanda a día de hoy, no es la única solución del mercado y esta tiene carencias de cara a ciertos modelos y aplicaciones en lo que a inteligencia artificial se refiere. Sin embargo, lo que se ha podido comprobar con Gaudi 2 y el lenguaje visual demuestra que no todo es potencia bruta para solucionar ciertos algoritmos.

Es más, con total seguridad veremos añadidos en forma de pequeños coprocesadores de apoyo, centrados en hacer tareas recursivas y repetitivas en los diferentes procesos de aprendizaje e inferencia. Dichas unidades no sumarán el cómputo total de TFLOPS de cada chip, pero sí que harán que su trabajo se acelere en ciertos puntos concretos y mejorará el rendimiento en global respecto a generaciones anteriores.