Intel aumenta el rendimiento de sus GPU Arc en la IA Stable Diffusion un 170%
La optimización para la IA es realmente un tema pendiente en todas las compañías de hardware y software. Es un mundo nuevo que se abre camino, como ya hemos visto varias veces, la última con NVIDIA, que multiplicó su rendimiento hasta por 5. Pues bien, Intel no se quiere quedar atrás y anuncia una mejora de rendimiento realmente muy alta, puesto que ha conseguido un 170% más con sus GPU en Stable Diffusion, en especial, con la Arc A770. Todo gracias al último driver y a Microsoft Olive, que está haciendo estragos y para bien con el hardware habilitado con unidades específicas para IA.
Intel está mejorando sus drivers por todas partes. Es la parte más débil del cómputo para gaming e IA, y por ello, chequera en mano y tras estabilizar los grupos de trabajo y desarrollo, las mejoras llegan cada pocas versiones tanto en juegos como en software destinado a la Inteligencia Artificial. En este caso también es así, aunque hay algo de "trampa".
Microsoft Olive, la cadena de herramientas para optimizar modelos con reconocimiento por hardware
Es gran parte de lo ganado por Intel y su driver. El modelo de Olive llega para unificar cualquier hardware con unidades específicas de IA para componer técnicas efectivas de compresión, compilación de los modelos ejecutables y optimizarlos.
Es una solución para optimizar un modelo sin esfuerzo y de manera bastante efectiva, como bien dice la propia Microsoft:
Al proporcionar un archivo de configuración que especifica su modelo e información específica del escenario, Olive ajusta las técnicas de optimización para generar los modelos óptimos en el "Pareto Frontier" en función del objetivo de métricas que establezca. Cuando trabaja con el archivo de configuración, normalmente necesita proporcionar información sobre el modelo de entrada, incluidos los nombres de entrada, las formas y la ubicación donde se almacena el modelo.
Además, usted especifica sus preferencias de rendimiento, como la latencia deseada, la precisión u otros factores relevantes. Además de esta información, puede elegir entre una variedad de optimizaciones proporcionadas por Olive que desea aplicar a su objetivo de hardware específico. También tiene la opción de definir el hardware de destino y utilizar cualquier característica adicional ofrecida por Olive. Al utilizar el archivo de configuración, todo lo que necesita hacer es ejecutar un comando simple, eliminando la necesidad de cualquier código Python.
Las Xe Matrix Extensions hacen posible el "milagro" de las Intel Arc y Stable Diffusion
Lógicamente no todo queda en manos de Microsoft Olive. Ya vimos como con ONNX y el driver 31.0.101.4900 el rendimiento aumentó bastante, donde tras pasar con el mismo driver a Olive como modelo optimizado se duplicó.
Pero este último driver de Intel para las Arc, el 31.0.101.4952 ha disparado el rendimiento desde el primer punto hasta un +170%, o si lo queremos ver driver contra driver en Olive, un 70% más de rendimiento en IA.
Lógicamente, Olive está usando de mejor manera y gracias al driver las instrucciones XMX, las cuales se especializan en ejecutar productos escalares y operaciones acumuladas en matrices sistólicas 2D. Por lo tanto, Intel tiene mucho que ver en la mejora tan espectacular en Stable Diffusion en tan solo un par de drivers, situándose a la estela una vez más de NVIDIA y manteniendo el pulso y el ritmo.