Microsoft, Intel y Samsung desvelan DirectML, la API enfocada a la IA ahora soporta la NPU de los procesadores Intel Core Ultra
El mundo de la IA en el hardware lleva ya unos meses desatado, pero curiosamente, el de la IA dentro de los SO está todavía muy verde. Un gigante como Microsoft, aunque tiene a OpenAI de su lado, realmente va con retraso en su SO principal como es Windows. Por ello, Microsoft ha comenzado a ponerse las pilas y presentado con Intel y Samsung la aplicación de DirectML enfocado a la IA con NPU, o lo que es igual, la IA trabajando en consonancia con el hardware a bajo nivel, en este caso, Intel AI Boost.
Por si no te has dado cuenta, de unos años a esta parte primero avanza el hardware y luego llega el software. Muchos dirán que esto ha sido así siempre, y no les faltará razón, el problema es que la brecha se ha agrandado tanto que a día de hoy tenemos por norma general características en nuestros PC que tardan meses, e incluso años, en estar funcionando o pulidas. En el caso de la IA no es diferente, pero por suerte, se están dando los primeros pasos.
Microsoft, Intel y Samsung de la mano a por DirectML enfocado a la IA en las NPU con AI Boost
Anunciada como tal a mediados del año pasado por Microsoft y definida como Direct Machine Learning, DirectML se diseñó como una API de bajo nivel para el aprendizaje automático con el objetivo de trabajar con cargas de inferencia destinadas a un motor, juego o cualquier tarea back-end o aplicación como tal.
Ya está en Windows 10 y Windows 11, pero es testimonial realmente, en particular, porque se necesitaba soporte por hardware y software anexo. Por lo tanto, aunque la API debutó primero, no era funcional realmente. Pero, ¿qué pasa con los Ryzen 7040 y su Ryzen AI como NPU? Pues que no hay compatibilidad por parte de AMD y Microsoft.
DirectML ha sido usado para acelerar tareas de IA con GPU AMD, NVIDIA e Intel, pero el hardware específico estaba quieto sin poder usarse... Hasta ahora. Por ello, el apoyo de Intel y Samsung ha sido crucial, y estas dos compañías se han adelantado a AMD de la mano de Microsoft para con DirectML.
Intel Core Ultra con Meteor Lake y su NPU han sido la clave
Llegaron más tarde que los Ryzen 7040 Phoenix, y en cambio, recibirán soporte en primer lugar. Microsoft y su DirectML están dando soporte a la NPU de los Core Ultra mediante Intel AI Boost, aunque solo se ofrecerá en Windows 11 por el momento.
Hay unos requisitos para poder usar DirectML con la NPU de Meteor Lake:
- DirectML 1.31.1
- NuGet
- ONNX Runtime 1.17
- Driver NPU de Intel más reciente
Si tenemos esto, ahora tenemos que saber la limitación de esta primera versión compatible de Intel AI Boost con DirectML, y es que aparte de ser restringida a los Core Ultra solo podremos usar un subconjunto de modelos de LLM para la NPU. ¿Y qué pinta Samsung aquí entonces? Pues apenas aparece, pero según Microsoft, ha sido un socio clave en el lanzamiento a aportar sus equipos.
Por tanto, debemos entender que sus portátiles con Intel Core Ultra han sido la plataforma de pruebas para todo lo que ha realizado Microsoft con DirectML en las NPU de Intel. ¿Y AMD? De momento no hay noticias sobre el soporte para Ryzen AI, pero entendemos que estarán trabajando de cara a lanzarlo con los Ryzen 8040 en no mucho tiempo.