ACCEL, el chip entre la fotónica y lo analógico de China para IA que dice ser 3.000x más rápido que el mejor de NVIDIA

La inteligencia artificial ha pasado de ser tema de nicho a convertirse en lo más importante que ha sucedido en la industria tecnológica. El boom que ha provocado ChatGPT podría decirse que es el que lo empezó todo y desde entonces, todas las compañías han querido superarlo y crear sus propios modelos de IA. China no puede comprar hardware estadounidense, pero asegura que esto no es un problema, ya que según un estudio, su chip IA llamado ACCEL es hasta 3000 veces más rápido que las GPU NVIDIA más potentes.

La IA nos ha permitido aumentar nuestra productividad, siendo capaces de conseguir respuestas a nuestras preguntas, generando código de programación, imágenes, correos o música. Cada vez se da más usos a la inteligencia artificial, pues si esta ha sido entrenada con cierto tipo de contenido, es capaz de recrearlo. Así es como hemos pasado a la época de la IA generativa y podríamos decir, que esta ha impulsado a la sociedad en busca de llegar a nuevas cimas de capacidad y rendimiento.

ACCEL es el chip IA más avanzado que ha creado China

chip ACCEL China

Para poder crear algo como ChatGPT, OpenAI tuvo que desarrollar su modelo de IA GPT-3.5, sobre el cual se basó el chatbot. Luego crearon GPT-4, el cual añadió más funciones y aunque el resultado fue muy bueno, la inversión de tiempo y dinero en hardware para su entrenamiento fue muy alta. Hay una relación directa entre la IA y las GPU NVIDIA, pues estas son el hardware más rápido que tenemos actualmente para entrenar la inteligencia artificial. Debido a esto, las GPU NVIDIA como la A100 han sido muy solicitadas. Incluso China ha podido comprar una variante denominada A800, la cual es carísima y encima viene recortada.

China se ha hartado de tener que depender de NVIDIA y para ello, han creado un chip IA llamado ACCEL que es muchísimo más rápido. Un estudio publicado por la Universidad de Tsinghua revela como este chip ACCEL (All Analog Chip Combining Electronic and Light Computing) es el futuro de la IA. El gigante asiático lo ha creado combinando la fotónica y la tecnología analógica.

Tiene una potencia de 4,6 PFLOPs siendo 3.000 veces más rápido que la NVIDIA A100

Rendimiento y consumo ACCEL

Según el estudio publicado en Nature, este chip IA ACCEL tiene un rendimiento de 4,6 PFLOPs. Para que nos hagamos una idea, 1 PFLOP equivale a 1.000 TFLOP, mientras que una RTX 4090 apenas tiene 82,58 TFLOPs en FP32. China afirma que lo que ha creado es superior a lo mejor que puede ofrecer NVIDIA. En concreto, es hasta 3.000 veces más rápido que sus GPU A100 y A800.

Este chip IA ACCEL emplea una arquitectura de "eficiencia energética sistémica", pudiendo alcanzar 74,8 peta-operaciones por segundo y vatio. Pasando a la práctica, pusieron a este chip ACCEL contra un benchmark de clasificación de imágenes ImageNet junto a reconocimiento de vídeo. Consiguió una precisión del 85,5%, 82% y 92,6%, mostrando que realmente es eficaz en este tipo de aplicaciones.

El problema es que en estos los gráficos no vemos una comparativa contra algo que conozcamos para ver como rinde. Nos toca buscar más abajo en el estudio para poder ver algo relacionado con NVIDIA. Ahí vemos como el ACCEL logró una latencia de cálculo de 72 ns por fotograma con un consumo de 4,38 nJ por fotograma. En comparación, una NVIDIA A100 tardó 0,26 ms (26.000 ns) por fotograma y consumió 18,5 mJ por fotograma.