AMD Ryzen AI llevará el futuro de la IA a cada casa ¿se acabó la nube?

Hay muy poca información sobre él, la tratamos en su día y aunque debería estar disponible en cada tienda con los Ryzen 7040 en su haber dentro de la gama Phoenix, la realidad es que llegan con cuenta gotas por ahora. Tanto es así, que AMD ha hecho una demostración en el Computex 2023 de dicho Ryzen AI como si fuese el futuro, cuando en teoría se pueden comprar. ¿Cuál es la realidad? Que hay apenas 10 modelos en el mercado de toda una serie de portátiles, la mayoría, integrando el Ryzen 9 7940HS, y lógicamente, a unos precios de 1.500 euros hacia arriba por norma general, es decir, no son baratos. Dicho esto, la demostración de AMD ha sido realmente interesante y plantea un cambio de paradigma en el sector.

Hablaremos del paradigma del futuro más adelante, aunque el titular da muchas pistas, pero antes mejor hablamos de lo que han podido ver los chicos de Tom's Hardware en el Computex 2023 de la mano de David McAfee, vicepresidente corporativo y gerente general de Client Channel Business de AMD.

Un equipo, varias pruebas por mostrar y un pequeño inconveniente

ASUS-STRIX-SCAR-17-Computex-2023-Ryzen-AI

Este Ryzen AI es un motor específico para IA creado por Xilinx en su momento y que ha sido adaptado por AMD para ser incluido dentro de la gama Phoenix y sus Ryzen 7040 de la que tanto hemos hablado. Lo que tenía preparado AMD de la mano de McAfee es un ASUS STRIX SCAR 17 con el nombrando Ryzen 9 7940HS fabricado por TSMC a 4 nm para AMD. El consumo, que es un parámetro relevante aquí, es de entre 35W y 45W, según la configuración y permisibilidad del fabricante.

Por lo tanto, estamos ante un equipo de gama alta que pretende introducir el trabajo de la IA acelerado en nuestra casa, por un precio, de momento, algo elevado.

AMD-XDNA-AI-Engine

Ryzen AI tiene una tarea dentro de esta serie de procesadores, y como esperabas, esta es aumentar el rendimiento en cargas de inferencia con un consumo mínimo. La presentación de AMD iba por esos derroteros.

Y decimos iba, porque parte del argumento que presentaban en el Computex 2023 era mostrar cómo de rápido y eficiente era su Ryzen AI frente a nada menos que el Azure ONNX EP de manera online. AMD encontró problemas con el software y no pudieron demostrar dicha ventaja, pero sí que dejaron ver las pruebas de rendimiento con el equipo, y ahí vienen las sorpresas.

AMD Ryzen AI, silencioso, eficiente, tremendamente rápido y el futuro

Ryzen-AI-en-administrador-de-tareas-Windows-11

Evidentemente, AMD confiaba en que su Ryzen AI fuese más rápido que el servidor de Azure, algo que comentaremos al final por su relevancia. La versión de la IP de Xilinx debe ser más rápido que el motor neuronal de Apple, por ejemplo, de su M2, pero, ¿cuánto? ¿Cómo se desenvuelve realmente?

Pues las pruebas las puso AMD en dicho portátil, y mostró el rendimiento de Ryzen AI con una carga de trabajo con reconocimiento facial.

AMD-Ryzen-AI-reconocimiento-facial-portátil-IA

La muestra medía la latencia del sistema en un gráfico de barras, como se ve a la derecha de la imagen. Los chicos de Tom's Hardware dijeron que las barras eran impresionantemente bajas, es decir, la carga y latencia era prácticamente nula, el trabajo se realizó rápidamente y las imágenes pasaban como si nada, como si no le costase esfuerzo.

No había métrica de rendimiento concreta, como TOPS, por ejemplo, no había comparativa posible porque la demostración era en vivo y sin competencia, pero según cuentan, el rendimiento fue realmente sorprendente. Y no es de extrañar realmente si tenemos en cuenta que tiene 4 AI Stream, los cuales trabajan con datos de poca precisión entre enteros y flotantes.

El paradigma que presenta AMD e Intel

AMD Ryzen AI

Tenemos que meter a Intel aquí por motivos obvios, porque ambos van hacia el mismo camino, pero lógicamente nos vamos a centrar en AMD que es la protagonista. Si un simple acelerador que acaba de llegar al mercado y encima de los portátiles es capaz de ser más rápido que un servidor de Azure de manera online, ¿pueden terminar ambas compañías con el negocio actual a base de nuevo software para Windows?

Es decir, en cuanto empiecen a salir programas con IA de una manera exagerada, que llegará más pronto que tarde, ¿van a terminar con el negocio de webs varias? Por ejemplo, esas que escalan imágenes en resolución, o las que comprimen vídeos, etc. Hay que tener en cuenta que, como Intel, AMD está desarrollando herramientas para desarrolladores de manera que optimicen sus softwares con IA para Ryzen AI, así que no es ninguna hipótesis rara o especulación, es simple realidad.

Futuro algo incierto, depende del éxito y uso

AMD Ryzen AI 2

Dicho esto, ¿llegará a PC? Pregunta recurrente que McAfee contestó parcialmente al decir "todo se reduce a si la función en concreto ofrece o no el valor suficiente para que tenga sentido dedicar un área del chip tan valiosa para usar Ryzen AI". Es decir, o ven claro el hecho de que es un valor añadido al producto, o lo destinarán a portátiles solamente. ¿Por qué te estarás preguntando?

No es que un Ryzen 7000 actual no pueda trabajar con inferencia, es solo una cuestión de eficiencia. Ryzen AI es el futuro porque permite hacer el mismo trabajo con una carga mínima del procesador, y sobre todo, con un uso ridículo de la batería. Recordemos que Ryzen AI tiene como objetivo mejorar la eficiencia haciendo un trabajo duro como algo sencillo y sin consumir batería. En PC, que la CPU consuma unos pocos vatios en un momento dado no es un problema, en portátiles es clave por la batería.

Igualmente, McAfee afirmó que AMD está comprometida con su hoja de ruta y ello implica que puede, o no puede, llegar a todos los productos futuros. De hecho, dijo que están evaluando el impacto con esta serie Ryzen 7040, así que veremos si el usuario le da uso o no.