Tenstorrent muestra Grayskull, su hardware para IA basado en RISC-V con hasta 120 Cores Tensix, 1,2 GHz, 8 GB de LPDDR4 y 200W

Había muchas promesas y datos desvelados previamente por el padre de los AMD Ryzen, Jim Keller. El ingeniero dirige ahora la empresa Tenstorrent y prometió hacerle frente a su manera al hardware de IA de NVIDIA, pues bien, ha llegado el momento. En un anuncio bastante comedido, Tenstorrent ha presentado a Grayskull, su gama de productos para hardware de IA basados en la ISA RISC-V que pretenden cambiar las tornas del juego que ha planteado NVIDIA, y no precisamente por potencia pura en cada acelerador.

La apuesta de Keller, como siempre, es innovadora. Ya se vio cómo jugó a un juego distinto con los Ryzen, luego lo vimos con Tesla y finalmente con Intel y sus P-Core / E-Core. Ahora pretende jugar a algo distinto con NVIDIA, y para ello, sus nuevos aceleradores tienen unas bazas interesantes que los verdes ni rozan.

Tenstorrent Grayskull, dos modelos de acelerador para dos necesidades distintas: e75 y e150

Nombres fáciles y sencillos de memorizar, especificaciones poco impactantes y unas capacidades sorprendentes. Así es la tarjeta de presentación de esta serie de aceleradores, donde el e75 es la gama baja y el e150 la gama alta.

Comenzaremos por el menor, donde lo que tenemos es un acelerador para IA dentro de la gama Grayskull que integra un PCB PCIe 4.0 de perfil bajo enfocado al bajo consumo y a las empresas que requieren menos potencial de cálculo. Por ello, solo consume 75W en base a 96 núcleos Tensix a 1 GHz, integrando para ello 96 MB de RAM y 8 GB de LPDDR4 con un ancho de banda de 102,4 GB/s.

El mayor, el e150, amplía sus capacidades a 120 núcleos Tensix con una frecuencia de 1,2 GHz, 120 MB de RAM, misma interfaz PCIe 4.0 y 8 GB de LPDDR4 a 118,4 GB/s para un consumo de 200W. Vistas las especificaciones, ¿dónde está la ventaja frente a NVIDIA y cómo piensan competir? Ahí viene lo interesante.

Una variedad de capacidades que aportan gran polivalencia, con un precio realmente atractivo

Fácil de programar y fácil de escalar, todo con una gran polivalencia de software y a un precio muy reducido. La idea de Keller es simple: en un espacio reducido se puede escalar un gran número de sus aceleradores con una parte del consumo de una GPU de NVIDIA de gama alta para la IA como la H100, pero a un precio muy inferior.

Además, no necesitan memoria RAM externa para comunicarse entre aceleradores, esto se hace mediante una conexión de red interna, lo que multiplica el rendimiento consumiendo menos energía. A esto hay que sumarle un soporte para una amplia gama de modelos, como son BERT, ResNet, Whisper, YOLOV5 o U-Net.

Por si fuese poco, Tenstorrent Grayskull admite dos Devkit:

TT-Buda: ejecute modelos de inmediato

Ideal para clientes de producción que desean poner en funcionamiento los modelos con facilidad. Quieren flexibilidad, pero no tienen tiempo para programar nuevas operaciones o contactar al soporte cada vez que algo cambia.

TT-Metalium: acceso abierto al hardware y software de Tenstorrent

Excelente para clientes de desarrollo que desean personalizar sus modelos, escribir otros nuevos o incluso ejecutar código que no sea de aprendizaje automático. Sin Black Box, API cifradas ni funciones ocultas.

Gran compatibilidad y especificaciones requeridas bajas

Por si fuese poco, es compatible con cualquier CPU x86_64 del mercado, solo necesita 64 GB de RAM en el sistema para funcionar y entre 100 GB a 2 TB para poder correr sin problemas, sin olvidar Ubuntu obviamente.

Los precios son la mecha de esta dinamita propuesta por Keller: 599 dólares el Grayskull e75 y 799 dólares el e150, ya disponibles para pedirlos desde su web. Si no le ves el potencial a la apuesta del padre de los AMD Ryzen, Japón sí que la ve y se ha lanzado a comprar su hardware para el Centro de tecnología de semiconductores de vanguardia (LSTC), el cual lo utilizarán con los 2 nm de Rapidus para revolucionar el rendimiento en IA del país.