Convierten una APU AMD Ryzen en una tarjeta para IA, ¿alternativa barata a las GPU?

Una de las particularidades de una CPU es que pueden ejecutar cualquier algoritmo. Si bien no lo hacen de forma tan eficiente ni rápida como un chip dedicado, el hecho de que sea una chip de propósito genera tiene sus ventajas. Por otro lado, no es normal verlas como chips de apoyo, pero es lo que ha hecho un usuario al convertir un AMD Ryzen en una tarjeta para IA para su PC.

La capacidad de poder crear tarjetas de expansión para ampliar las capacidades de un PC, es algo que existe desde primer modelo lanzado por IBM en 1981 y se ha mantenido hasta el día de hoy. Lo que ha permitido ir produciendo nuevas piezas de hardware hasta ese momento desconocidas y que han ayudado a hacer posible el desarrollo de nuevas aplicaciones o el descubrimiento de nuevos usos para el PC. Sin embargo, lo que os traemos hoy es algo atípico, el empleo de una CPU presidiendo una tarjeta de este tipo, en vez de hacerlo en un PC.

Convierten un AMD Ryzen 5 4600G en una tarjeta de expansión para IA

Un usuario ha construido una tarjeta de expansión, presidida por una APU de AMD, en concreto el modelo AMD Ryzen 5 4600G, con 6 núcleos y 12 hilos de ejecución. ¿El objetivo? Desde el momento en que dicho chip tiene una GPU integrada, más bien ha sido el de usar dicho componente dentro del chip para poder medir su rendimiento bajo la IA generativa, el cual ha sido de poder generar en 1 minuto y 50 segundos una imagen creada de forma local a través de Stable Diffusion. Lo cual no está mal para un chip que cuesta menos de 100 $.

Sin embargo, la clave del éxito de este experimento, se encuentra en la asignación de memoria. Y, es que una de las particularidades que permite hacer el PCI Express es la creación de tarjetas de expansión sin memoria propia, ya que se puede utilizar la del sistema a través de mecanismos DMA, lo cual es lo que hacen dispositivos como los SSD DRAM-Less. Por lo que el creador del mod ha tomado la opción de asignar 16 GB de los 32 GB de las direcciones de memoria de su PC para uso exclusivo del AMD Ryzen como tarjeta para IA.

En el vídeo se puede ver cómo el usuario comenta cómo el AMD Ryzen 5 4600G puede ejecutar sin problema buena parte de las aplicaciones para IA, no solo Stable Diffusion, sino también muchas otras como: FastChat, MiniGPT-4, Alpaca-LoRA, Whisper, LLM, y LLaMA. ¿El problema? Solo ha mostrado el rendimiento en el primero y tampoco ha especificado todo el proceso de construcción y configuración del hardware.

¿Por qué el tener mucha memoria es clave en la IA?

Resultados AMD Ryzen Tarjeta IA Stable Diffusion

La respuesta es simple: los modelos que se usan para IA tienen cierto peso y han de caber en memoria. Si bien en un entorno profesional podemos ver varias tarjetas gráficas trabajando al unísono y compartiendo sus espacios de memoria, en el mundo del PC no es así y más cuando muchas placas base ya no soportan ni los protocolos de comunicación entre tarjetas como son SLI y Crossfire a día de hoy. Por lo que muchos usuarios con un PC que se dedican al mundo de la IA terminan por escoger antes GPU acompañadas con una buena cantidad de VRAM, que no potencia.

Tened en cuenta que si necesitáis cargar un modelo de IA que requiera 16 GB, y tenéis una tarjeta gráfica de 8 GB, no vais a poder usarlo a no ser que coloquéis otra tarjeta gráfica en el sistema o adquiráis una con 16 GB. En cambio, un AMD Ryzen como tarjeta de expansión y tal cantidad de memoria sí que puede y lo mismo ocurriría con un Intel Core. La diferencia es que es algo mucho más lento a la hora de conseguir resultados, pero lo importante aquí es el bajo coste del experimento.

No obstante, no veremos CPU de bajo coste haciendo de tarjetas para la IA, sino más bien tarjetas gráficas orientadas a la IA, pero con una mayor cantidad de memoria respecto a los modelos convencionales. Y no lo decimos por decir, la GDDR6W, con capacidades de hasta 4 GB por chip de memoria, se ha creado precisamente para ello.