A NVIDIA le acaba de salir un competidor muy fuerte en IA: así es AiMX, la tarjeta de SK Hynix

Nadie quiere renunciar a la IA. Es un mercado tan suculento y con tanto potencial que todos los grandes se están sumando, a su manera, para coger o crear un hueco en el sector que puedan aprovechar. NVIDIA lo domina con mano de hierro, pero están apareciendo opciones diversas en el último mes. La más nueva y que viene con mayor apoyo financiero detrás es sin duda la de SK Hynix con su AiMX, una tarjeta aceleradora que promete dejar a NVIDIA "en pañales".

Diversificación de estrategia, es lo que llega desde Corea del Sur, donde la marca participó en el evento conocido como AI Hardware & Edge AI Summit 2023, que en este caso, se celebró en EE.UU en el día de ayer. Pero aunque fue en Estados Unidos donde se pudo ver lo que la marca tiene preparado, desde Corea llegan las explicaciones oficiales, y parece que van muy en serio a por el trono.

SK Hynix AiMX, la tarjeta aceleradora para competir por el trono en IA

SK-Hynix-AiMX-demostración

Con el objetivo de compartir conocimiento sobre IA, Deep Learning y otros entresijos del sector, la conferencia dejó muy buen sabor de boca en cuanto a presentaciones. La más destacada es la que estamos tratando, porque incluye muchas novedades. En primer lugar, se trata de una tarjeta aceleradora mediante PCIe, lo que facilita su venta e implementación en cualquier sistema actual, incluso de escritorio.

En segundo lugar, porque está diseña para IA Generativa en exclusiva y está basada en PIM (Processing-In-Memory). Esto es una respuesta directa a lo que presentó Samsung para GDDR y CXL, así que resumiendo, es un tipo de memoria que integra un pequeño chip computacional, el cual es gestionado por un algoritmo que hace los cálculos en la propia memoria y devuelve un resultado al chip central.

Se le suele llamar también Memoria con funciones computacionales, es lo opuesto a lo que tenemos en mente como memoria, obviamente. Por ello, AiMX integra GDDR6-AiM como acelerador de memoria y diseño propio, que ya vimos en 2022, las cuales se unen a un ASIC dedicado.

Un rendimiento de otra liga

SK-Hynix-AiMX-tarjetas

Mediante la IA de Meta, OPT-13B, se obtuvieron los resultados, pero antes de verlos, ¿qué es OPT-13B? Meta lo describe así:

"Open Pretrained Transformers (OPT) es un conjunto de transformadores preentrenados solo para decodificadores que van desde parámetros de 125M a 175B, que pretendemos compartir de manera plena y responsable con los investigadores interesados. Entrenamos los modelos OPT para que coincidan aproximadamente con el rendimiento y los tamaños de la clase de modelos GPT-3, al mismo tiempo que aplicamos las mejores prácticas más recientes en recopilación de datos y entrenamiento eficiente.

Nuestro objetivo al desarrollar este conjunto de modelos OPT es permitir una investigación reproducible y responsable a escala, y traer más voces a la mesa para estudiar el impacto de estos LLM. Las definiciones de riesgo, daño, sesgo y toxicidad, etc., deben ser articuladas por la comunidad de investigación colectiva en su conjunto, lo que sólo es posible cuando hay modelos disponibles para el estudio."

Comentado esto y entendido, ¿qué pudo hacer AiMX? Pues en comparación con los equipos mostrados y montados con GPU (NVIDIA al parecer, se rumorea que eran H100, no está claro) la velocidad fue 10 veces más rápida y el consumo de energía se redujo en un impresionante -80%.

El presidente de SK Hynix comentó que "AiMX de SK Hynix es una solución que proporciona alto rendimiento, bajo consumo de energía y ahorro de costos en comparación con el uso de GPU existentes". Por lo pronto, y dado el músculo financiero que pretende implementar Lim en la IA, SK Hynix entra por la puerta grande al sector, y ahora tendrá que demostrar que puede batir a NVIDIA en su terreno, y parece que no lo tendrá difícil.