Cerebras Andromeda, así es el superPC más rápido del mundo con 13 millones de Cores

Si hacemos una comparativa de tamaño de procesadores y nos limitamos a los componentes de PC habituales, nos sorprendemos con el tamaño que alcanzan los AMD EPYC. Al ver la enorme diferencia que hay entre los chips de consumo y servidor nos podemos preguntar si realmente hay algo más grande y por supuesto que existe. Estos serían los chips creados por Cerebras, compañía que ha presentado hoy un superPC para IA llamado Andromeda, con nada menos que 13,5 millones de núcleos.

No todo son juegos en esta vida, pues los ordenadores son herramientas de trabajo por encima de todo. Ya si nos vamos a superodenadores, tenemos cargas de trabajo que requieren de una enorme potencia de cálculo. Aquí emplear procesadores gaming no es una solución y hay que utilizar chips de tamaños más grandes y con mucha más potencia. Los AMD EPYC son una gran opción, pues han logrado superar a los Intel Xeon en número de núcleos, rendimiento y consumo. Pero estos no son nada, si los comparamos con el chip más grande del mundo, el Cerebras Wafer Scale Engine 2 o WSE-2, un chip que tiene el tamaño de una oblea. La misma compañía que logró crear esa bestia, ha presentado el que sería su superPC Andromeda, el cual promete mucho.

Cerebras Andromeda es un superPC con 16 WSE-2 y 13,5 millones de cores

Cerebras tiene el honor de presentar su nuevo superordenador equipado con los enormes y potentes chips de la compañía. Hagamos un poco de memoria y recordaremos que los chips Cerebras se estrenaron con 400.000 núcleos, 1,2 billones de transistores y 18 GB de memoria integrada en el SoC, dando lugar a un ancho de banda de 9 Petabytes. Pero esta solo era la primera versión, dado que al poco tiempo la compañía lanzó el que sería el Cerebras WSE-2, el cual alcanza nada menos que 850.000 núcleos junto a 40 GB y 2,6 millones de transistores, logrando un ancho de banda de 20 Petabytes. Es precisamente este último el que ha elegido la compañía para dar vida a su superPC Cerebras Andromeda, destinado a ser una bestia para IA.

Andromeda combinará 16 de estos chips Cerebras WSE-2 formando un clúster con 13,5 millones de núcleos optimizados para IA. Para que nos hagamos una idea, el superordenador más potente del mundo, Frontier, tiene "únicamente" 8,7 millones de núcleos. Según la compañía, esto ofrecerá hasta 1 ExaFLOP de potencia de cálculo de IA o 120 PetaFLOPs FP16. Estos chips estarán alojados en un total de 16 sistemas CS-2 y cada chip proporcionará hasta 12,1 TB/s de ancho de banda interno, dando así 96,8 Terabits. Eso sí, los datos se enviarán a los equipos CS-2 a través de una red de 100 GbE repartida en 124 nodos de servidor a lo largo de 16 racks.

Este superPC para IA es muy eficiente, consume "solo" 500KW

Si nos vamos a los servidores que envían los datos a los procesadores CS-2, estos ya no estarán equipados con los enormes chips de Cerebras, sino por algo mucho más conocido. Y es que, como suma total, tienen en su interior un total de 284 procesadores EPYC Milan de tercera generación con 64 núcleos cada uno, dando un total de 18.176 cores. Ahora, con las especificaciones desveladas y sabiendo la enorme potencia que tiene este superPC para IA, nos vamos a ver el consumo. Aquí el Cerebras Andromeda en su totalidad consumirá 500KW, una cifra que si bien puede parecer enorme, realmente es muy inferior al del resto de superordenadores.

Así pues, tenemos un superPC capaz de alcanzar un rendimiento abrumador con un consumo muy reducido y su principal inconveniente sería el escalado. Sin embargo, la compañía asegura que su implementación del escalado es casi lineal cuando se trata de lenguajes GPT de gran tamaño, como puede ser GPT-3 o GP5-J. Gracias a su enorme potencia y memoria, Cerebras Andromeda es capaz de procesar modelos de entrenamiento con 2.500 y hasta 25.000 millones de parámetros, algo que los clúster de GPU no son capaces de realizar por limitaciones de memoria.