Samsung anuncia los primeros chips de memoria HBM-PIM: Memoria HBM con procesamiento de IA

Samsung anuncia los primeros chips de memoria HBM-PIM: Memoria HBM con procesamiento de IA

Samsung Electronics anunció en el día de hoy una nuevo tipo de memoria de alto rendimiento bautizada como HBM-PIM, la cual une a la ya conocida memoria High Bandwidth Memory (HBM) con potencia de procesamiento de Inteligencia Artificial (IA). La nueva Arquitectura de Procesamiento en Memoria (PIM por sus siglas en inglés) aporta potentes capacidades de computación de IA dentro de la memoria de alto rendimiento para acelerar el procesamiento a gran escala en los centros de datos, los sistemas de Computación de Alto Rendimiento (HPC) y las aplicaciones móviles con IA.

HBM-PIM

"Nuestra innovadora memoria HBM-PIM es la primera solución PIM programable del sector adaptada a diversas cargas de trabajo impulsadas por la IA, como el HPC, el entrenamiento y la inferencia. Tenemos previsto desarrollar este avance colaborando con los proveedores de soluciones de IA para conseguir aplicaciones de PIM aún más avanzadas", dijo Kwangil Park, vicepresidente sénior de Planificación de Productos de Memoria de Samsung Electronics.

"Estoy encantado de ver que Samsung está abordando los desafíos de ancho de banda/energía de la memoria para la computación HPC y la IA. El diseño de HBM-PIM ha demostrado un impresionante rendimiento y aumento de potencia en importantes clases de aplicaciones de IA, por lo que estamos deseando trabajar juntos para evaluar su rendimiento en otros problemas de interés para el Laboratorio Nacional Argonne", dijo Rick Stevens, Director Asociado del Laboratorio de Argonne para Computación, Medioambiente y Ciencias de la Vida.

La mayoría de los sistemas informáticos actuales se basan en la arquitectura von Neumann, que utiliza unidades de procesador y memoria separadas para llevar a cabo millones de intrincadas tareas de procesamiento de datos. Este enfoque de procesamiento secuencial requiere que los datos se muevan constantemente de un lado a otro, lo que provoca un cuello de botella en el sistema, especialmente cuando se manejan volúmenes de datos cada vez mayores.

En cambio, el HBM-PIM lleva la potencia de procesamiento directamente al lugar donde se almacenan los datos, colocando un motor de IA optimizado para DRAM dentro de cada banco de memoria -una subunidad de almacenamiento- que permite el procesamiento en paralelo y minimiza el movimiento de datos.

Cuando se aplica a la solución HBM2 Aquabolt existente de Samsung, la nueva arquitectura es capaz de ofrecer más del doble de rendimiento del sistema al tiempo que reduce el consumo de energía en más de un 70%. El HBM-PIM tampoco requiere ningún cambio de hardware o software, lo que permite una integración más rápida en los sistemas existentes.

Artículos relacionados