NVIDIA Jetson Orin Nano Super: el superordenador para IA más pequeño y barato del mundo incluye un hardware parecido a la Nintendo Switch 2

Por Borja Colomer
18/12/2024
Hardware

Estamos en un momento de la historia de la tecnología donde la inteligencia central es el tema central de interés por parte de la mayor parte de la industria. Las grandes compañías están invirtiendo miles de millones en hardware para poder entrenar modelos de IA cada vez más complejos y las GPU de NVIDIA son las más solicitadas. Viendo los altos precios que estas tienen, hay quienes optan por buscar alternativas. La propia NVIDIA ha decidido ampliar más su oferta de productos en el mercado con el lanzamiento del Jetson Orin Nano Super Developer Kit, el que consideran el superordenador para IA generativa más barato.

NVIDIA es conocida principalmente por sus tarjetas gráficas, pero lo cierto es que la compañía tiene otros productos de software y de hardware. Por ejemplo tenemos la familia Jetson de chips embedded de NVIDIA que traen un SoC personalizado en una placa de pequeño tamaño. Fue en 2014 cuando lanzaron el primer producto denominado Jetson TK1, el cual incluía un SoC Tegra K1 y se ejecutaba con Ubuntu Linux. Luego vimos el modelo Jetson TX1 con un Tegra X1, básicamente el mismo chip de la Nintendo Switch.

NVIDIA Jetson Orin Nano Super: mejora del 70% en IA y la mitad de precio respecto al Orin Nano original

El Jetson TX2 fue la evolución con el Tegra X2 en 2017 para ser usado en drones y pequeños dispositivos. Luego de este llegó NVIDIA Jetson Xavier con una mejora de 20 veces la aceleración de aplicaciones. Jetson Nano fue la siguiente generación en 2019, el cual seguía usando un Tegra X1 pero recortado y una GPU Maxwell de 128 cores. En septiembre de 2022, NVIDIA anunció el Jetson Orin Nano con una GPU Ampere de 512 CUDA Cores y una CPU Arm Cortex de 6 núcleos.

Ahora es el turno de ver a su sucesor, el conocido como NVIDIA Jetson Orin Nano Super Developer Kit, el cual sigue manteniendo un tamaño muy compacto, pero trae grandes mejoras de rendimiento. Esta versión Super es un 70% más rápido en tareas que impliquen el uso de la IA y no solo eso, sino que su precio se reduce a la mitad respecto a su predecesor, pasando así de 499 dólares a 249 dólares.

Al igual que el Jetson TX1 usaba hardware de Switch, el nuevo Jetson Orin Nano Super tendrá hardware parecido al de Switch 2

NVIDIA Jetson Orin Nano SUPER Developer Kit

El NVIDIA Jetson Orin Super dispone de una SoC compuesto por una CPU Arm Cortex-A78AE de 6 núcleos y una GPU NVIDIA Ampere de 1.024 núcleos CUDA y 32 Tensor Cores. Además de esto, dispone de un total de 8 GB de memoria LPDDR5 y una interfaz de 128 bits, lo que da lugar a una velocidad de 102 GB/s. Con estas especificaciones lo cierto es que se asemeja mucho a la Nintendo Switch 2 que esperamos que se anuncie dentro de unos pocos meses. De hecho, si miramos filtraciones pasadas de la Switch 2, esta tendría esa misma CPU y GPU, con la excepción de que tendrá 2 núcleos más a mayor frecuencia (2 GHz vs 1.7 GHz) y se rumorea que llegará con 12 GB de memoria RAM.

Además de esto, admite tarjetas de memoria SD y hasta un SSD NVMe externo. En cuanto a su TDP, este es variable entre los 7 a los 25W y se refrigera con un pequeño disipador con ventilador. En las pruebas de rendimiento mostradas, en modelos de lenguaje de gran tamaño (LLM) vemos como en Llama 3.2 es un 55% más rápido y en Gemma 2 es un 63% más rápido.