Algunas empresas comienzan a vender packs de RX 7900 XT en rack para aprovechar el tirón de la IA, ¿llega una burbuja como la de las criptomonedas?

Nos encontramos en una época donde la IA ha captado la atención y el interés tanto de personas como de empresas. Parece que todo gira en torno a la inteligencia artificial, incluyendo el futuro de la tecnología e investigación. En estos momentos donde la demanda de GPU para IA supera a la oferta, se deben buscar alternativas. Es por ello que vemos como las GPU para gaming empiezan a venderse para ser usadas en IA, llegando a ver como se venden packs de 6 gráficas AMD Radeon RX 7900 XT en un rack por un precio alto.

Crear un chatbot al nivel de ChatGPT, requiere una inversión de muchos millones de dólares en hardware, además de años invertidos para entrenar y crear modelos de IA tan avanzados. Las mayores empresas del mundo están dispuestas a competir o incluso superar a OpenIA. Esto implica crear una inteligencia artificial que supere a ChatGPT o al más reciente Sora, que nos dejó ampliamente sorprendidos con su capacidad de generar vídeos realistas.

Venden un pack de 6 GPU RX 7900 XT para IA en forma de rack 12U con un precio bastante alto

Viendo lo difícil que es conseguir algo al nivel de OpenAI, no nos extraña ver como una empresa del calibre de Microsoft, prefirió invertir miles de millones en esta compañía y colaborar con ella, en vez de ser rivales. Mientras tanto, el resto de empresas buscan lanzar sus propias IA y en países como China, el interés es enorme, pues se mencionó como había más de 100 modelos de inteligencia artificial en desarrollo. Esto coincidió con el momento en el que en China se modificaban las NVIDIA RTX 4080 y RTX 4090 para cambiarles el disipador por uno tipo blower, eliminar la estética gaming y venderlas como GPU para IA.

Aquí nos encontramos con un negocio emergente en un momento donde no hay suficiente stock de GPU profesionales para IA, como las NVIDIA H100 y A100. De hecho, ante esta escasez de gráficas, las empresas que trabajan en IA están comprando gráficas gaming. Tiny, una empresa de IA ha visto una gran posibilidad de negocio aquí y ha empezado a vender su TinyBox, un pack de 6 GPU AMD Radeon RX 7900 XT colocadas en un rack 12U y conectadas a través de PCIe 4.0 x16.

Este equipo para IA proporciona 738 TFLOPs y cuesta 15.000 dólares

Tiny vende este pack de seis gráficas AMD a sus clientes a un "precio razonable". Hablamos de partir de los 15.000 dólares por ellas, lo cual parece totalmente excesivo, si tenemos en cuenta que estas gráficas se vendían por 699 euros de oferta hace apenas unas semanas. Cogiendo ese precio como referencia, 6 de estas costarían 4.200 euros, pero claro no solo tenemos las GPU. Este pack incluye un rack 12U muy grande, están todas interconectadas y se debe tener en cuenta el montaje y el resto de componentes.

Hablando de esto precisamente, el equipo que forma la TinyBox se completa con un AMD EPYC 7532, 128 GB de RAM, 5 SSD SN850X (WD Black PCIe 4.0) de 1 TB cada uno, 2 fuentes de alimentación de 1600W y una ranura OCP 3.0 16x para conexión de red. Ahora que vemos el equipo al completo, ya no parece tan mala compra, pues la compañía asegura que el coste de estos componentes es de alrededor de unos 10.000 dólares. Así pues, vendiéndolo a 15.000 dólares siguen sacando margen de beneficios, pero como decíamos, hay que tener en cuenta el montaje y el rack.

Respecto al rendimiento que se consigue con estas 6 RX 7900 XT para IA, hablamos de lograr unos 738 TFLOPs FP16, junto a 96 GB de memoria GDDR6 en total. La compañía indica que ya hay 583 pedidos anticipados de estas TinyBox, por lo que están generando bastante interés.