Inflection AI anuncia su superordenador con 22.000 GPU para IA
Una empresa emergente llamada Inflection AI ha decidido construir lo que puede ser, si se completara, el superordenador más grande del mundo. Para ello planean hacer uso de nada menos que 22.000 NVIDIA H100. Esta se trata de la tarjeta gráfica más potente de NVIDIA hasta el momento. Esto deja claro que las compañías se están tomando muy en serio explotar al máximo el boom de la inteligencia artificial.
La construcción de superordenadores no es algo que haya nacido de la noche a la mañana, sino que existen desde los albores de la informática. Podemos decir lo mismo de aquellos que utilizan tarjetas gráficas como parte de su capacidad de procesamiento, dado que el concepto GPGPU ya existía desde la segunda mitad de la década de los 2000. ¿La diferencia respecto a antaño? La optimización de los chips gráficos para la IA en los últimos años.
Inflection AI: el superordenador con 22.000 NVIDIA H100
Inflection AI es una empresa emergente, creadora del modelo de inteligencia artificial Inflection-1, el cual se usa en Pi Chatbot. Una aplicación al estilo ChatGPT con menor capacidad que este, pero que está orientado más a emplearse como asistente personal. Pues bien, han sido ellos los que han anunciado la creación de uno de los mayores superordenadores centrados en la IA. Y no por los 700 nodos basados en CPU Intel Xeon, sino por las 22.000 GPU NVIDIA H100, para lo cual necesitará 31 Megavatios de potencia para funcionar. Tal cantidad de tarjetas gráficas hace que nos volvamos bastante escépticos, más que nada por el hecho de que existe una escasez por la alta demanda de este hardware de NVIDIA.
El coste de este superordenador de Inflection AI será de 1.500 millones de dólares en total, sin embargo, dicha inversión es necesaria, dado que para poder ejecutar modelos de IA cada vez más avanzados se hace necesaria la creación de sistemas de muy alta potencia. Sin olvidar que el modelo de negocio de estas compañías es ofrecer sus servicios a través de la computación en la nube.
¿Afectará esto al suministro de las RTX 40 para PC?
No, no se nos ha traspapelado otra noticia. Hemos de tener en cuenta que los beneficios de una H100 para NVIDIA son mucho más altos que el de una AD102, GPU de la RTX 4090. Por lo que a Jensen Huang y a los suyos les interesa más vender su tarjeta gráfica para computación de alto rendimiento por el simple hecho de tener márgenes superiores. Es decir, que una misma oblea puede generar, tranquilamente, 20 veces más ingresos, destinándola a crear chips para IA que para gaming.
Esto no sería un problema si no fuese porque tanto las H100 como todas las RTX 40 se fabrican bajo el mismo nodo de 4 nm de TSMC. Esto significa que los chips salen de la misma fábrica y aún más importante, la misma oblea. Y claro, que de repente a NVIDIA le pidan 22.000 H100 para construir el superordenador Inflection AI, pues, preocupa, y más, si tenemos en cuenta que la demanda no viene de una sola empresa, sino de varias al mismo tiempo.
Todos sabemos qué ocurre cuando aparece un mercado más lucrativo que el principal de un producto. Es más, esto se experimentó hace poco con la moda minera. El hecho de que el mercado gaming sea menos lucrativo, este está pasando a un segundo plano gracias al boom de los superordenadores para la IA. Si bien se podría hablar de una futura escasez, las malas ventas de las RTX 40 solo deja claro que NVIDIA solo encontrará unos grandes ingresos en la IA.