Moore Threads afirma superar a NVIDIA en IA con su nueva GPU MTT S4000

NVIDIA se ha convertido en una de las compañías más valiosas del mundo desde que la inteligencia artificial ha pasado a ser una prioridad para la mayor parte de la industria. Las ventas de GPU NVIDIA para IA se dispararon y esto permitió que la compañía alcanzase unos ingresos récord. Las acciones llegaron a triplicarse en un año, haciendo que NVIDIA pasase a ser la tercera empresa más valiosa y esté cerca de Apple en capitalización de mercado. Aunque la única competencia de NVIDIA parecía ser la MI300X de AMD, ahora tenemos a la compañía Moore Threads de China que afirma que sus GPU para IA MTT S4000 son mejores que NVIDIA.

Poco tiempo después de que ChatGPT y la IA generativa fuesen el punto de mira de todo el mundo, Estados Unidos se adelantó a impedir que China consiguiera tener demasiada importancia en este sector. En un intento para evitar que China pudiese dominar en cuanto a IA, prohibió la venta de chips y maquinaría avanzada, lo que dejó al gigante asiático incapaz de hacer nada. Fueron en esos momentos cuando China se dio cuenta de que debía lanzar procesadores y gráficas con tecnologías y equipos procedentes del país si no quería quedarse atrás.

Moore Threads asegura que sus MTT S4000 son superiores a NVIDIA en IA

Moore Threads MTT S4000 - especificaciones

Si bien es cierto que vimos CPU y GPU, lo cierto es que estas no llegaban al nivel de occidente y más concretamente a competir contra los americanos. Había una diferencia de tecnologías enorme, con China teniendo que emplear nodos de fabricación más antiguos y desfasados. En todo caso hubo algunas excepciones, como el caso del SoC de Huawei creado por SMIC a 7 nm. Mientras tanto en GPU, compañías como Moore Threads han logrado captar la atención y hace unos meses mostraron como gracias a las mejoras de drivers, sus GPU S80 y S70 habían logrado duplicar su rendimiento. Aun así, como GPU para gaming siguen dejando mucho que desear, quedando por detrás de Intel, AMD y NVIDIA.

Por otro lado, a finales del año pasado Moore Threads lanzó su GPU MTT S4000 para IA con 48 GB de VRAM. Esta ofrece 25 TFLOPs en FP32 con sus 4.096 núcleos y con la herramienta MUSIFY puede migrar el código CUDA a su propia plataforma. Ahora tenemos novedades sobre esta GPU, pues Moore Threads ha comparado su MTT S4000 y su modelo de IA con GPU NVIDIA y 8 modelos distintos, quedando en tercera posición. Las pruebas se han realizado utilizando un "Kua'e Qianka Intelligent Computing Cluster" con varias de estas MTT S4000 y comparándolas con clústers de GPU NVIDIA.

La MTT S4000 queda en tercera posición con el modelo MT-infini-3B, superando a NVIDIA y Meta (Llama 2 y Llama 3)

Rendimiento MTT S4000 IA

Los test de rendimiento se han realizado con un entrenamiento que duró 13,2 días utilizando el modelo de IA denominado MT-infini-3B. Aquí la MTT S4000 ha logrado una puntuación de 63 en CMMLU, 65,5 en C-Eval y 55,4 en MMLU. En cuanto a NVIDIA podemos ver que hay modelos de IA conocidos como Llama 2-7B y Llama3-8B, ambos de Meta e inferiores a MT-infini-3B con la MTT S4000. El problema es que desconocemos que tarjeta gráfica de NVIDIA se ha utilizado para realizar la comparativa.

Es muy improbable que se haya utilizado una GPU como la NVIDIA H100, pues esta ha logrado conseguir un rendimiento excepcional en IA y hasta a AMD le ha costado superarla con su MI300X. Podría tratarse de la NVIDIA A100 que es menos potente y si este es el caso, sería una gran noticia para China, pudiendo haber ganado a una de las GPU más populares de NVIDIA. Lo único que sabemos que las anteriores GPU de Moore Threads para IA como las S3000 lograban superar a GPU Tesla T40 y P40 de hace 6 y 8 años atrás.