NVIDIA Eos, el superordenador para IA con 4.608 GPU H100 ya está dentro del TOP 10 mundial
Siendo la compañía de IA más grande del mundo y estando actualmente por encima de Amazon y de Google como la cuarta del planeta en todos los ámbitos, NVIDIA ha querido dar una muestra de fortaleza y ha publicitado su nuevo superordenador. Denominado como NVIDIA Eos DGX SUPERPOD, lo que ha creado NVIDIA es un monstruo que, sin ser el más rápido del mundo en potencia pura, sí que lo es en Inteligencia Artificial. Con su lanzamiento, los de Huang muestran el potencial de la IA, tanto para su empresa, como para las que requieran su capacidad de cómputo online.
Los números son realmente sorprendentes, pero no dan para competir con el TOP 3 mundial, aunque tampoco es su objetivo obviamente. Donde quiere competir Huang es en el sector que domina, y ahí no este superordenador no tiene rival, y para ello, hace uso de sistemas DGX H100 en una cantidad increíble.
NVIDIA Eos DGX SUPERPOD, números de otro planeta para la IA
Este superordenador no está orientado al uso privado de NVIDIA, aunque bien es cierto que la empresa lo usará igualmente, pero su objetivo principal es ofrecer su capacidad de cómputo a empresas. Esto hace que pueda ser accesible desde cualquier punto del mundo y que podamos movernos por el planeta sin tener que tener hardware en nuestro destino.
La propia NVIDIA incentiva la idea afirmando que "cada día, Eos se levanta para enfrentar los desafíos de miles de desarrolladores internos de NVIDIA que realizan sus investigaciones sobre IA, y les ayuda a resolver lo que antes no tenía solución".
Si miramos la lista de los 500 Superordenadores más rápidos del mundo, NVIDIA Eos ocupa la novena posición, y si hacemos referencia a lo que allí se indica veremos que figuran 485.888 núcleos en total, algo que no llegamos a entender realmente, porque según se puede ver en sus especificaciones no cuadran.
NVIDIA habla de 576 sistemas DGX H100 y cada uno de ellos integra 8 GPU H100 y dos Intel Xeon Platinum 8480C, lo que supone 112 Cores en total a 3,8 GHz cada uno. Por tanto, la cifra a tratar debería de ser 69.120 núcleos contando con que cada GPU sería una unidad de ese conteo.
Un rendimiento fuera de serie
Sea como fuere y dejando el recuento de núcleos a un lado, el rendimiento que obtiene NVIDIA Eos es impresionante. Marca en Linpack 121,40 pflops/s con un Peak máximo teórico de 188,65 PFlops/s y un Nmax de 5.484.544. Esta potencia no sería nada sin el software correspondiente. En el vídeo NVIDIA da bastantes pistas sobre lo que podremos hacer con él:
EOS tiene una pila de software integrada que incluye software de desarrollo y implementación de IA, orquestación y gestión de clústeres, cómputo acelerado, bibliotecas de almacenamiento y redes, y un sistema operativo optimizado para cargas de trabajo de IA.
EOS, construido a partir del conocimiento adquirido con supercomputadoras NVIDIA DGX anteriores como Saturn 5 y Seline, es el último ejemplo de la experiencia en IA de NVIDIA en acción.
Por tanto, paree que podemos crear desde un simple Chatbot hasta una fábrica especializada en IA, como también aparece en el vídeo. Sin duda, NVIDIA ha vuelto a subir el listón y apuesta por la computación en la nube y centralizada, donde si no podemos acceder a sus GPU o si tenemos que hacer un trabajo para IA que no merezca la pena el desembolso en hardware, NVIDIA Eos es ahora mismo la mejor opción para este tipo de casos, a un precio que todavía se desconoce.