Así es la mini supercomputadora de NVIDIA para desarrollo e implementación de IA
NVIDIA ha lanzado el Jetson Orin Nano Super Developer Kit. Esta nueva versión de software incrementa el rendimiento de las cargas de trabajo de inteligencia artificial generativa, pasando de 40 billones de operaciones por segundo (TOPS) a 67 TOPS, además de mejorar el ancho de banda de memoria, de 68 GB/s a 102 GB/s.
El resultado es una mejora de hasta 1.7 veces en el rendimiento de modelos de IA generativa, con un consumo energético de solo 25 vatios.
Ejecución de modelos de IA generativa como LLMs y VLMs
El Jetson Nano es el ordenador más pequeño fabricado por NVIDIA. Este dispositivo de computación en el borde es ideal para la robótica móvil alimentada por batería, y ahora es más pequeño y económico que nunca.
NVIDIA continúa empujando los límites del rendimiento en la computación en el borde, permitiendo que los desarrolladores de robótica hagan sus sistemas más inteligentes y capaces.
El kit de desarrollo incluye un módulo Jetson Orin Nano de 8GB y una placa base de referencia para prototipos de aplicaciones de IA en el borde. El SoM cuenta con una unidad de procesamiento gráfico (GPU) basada en la arquitectura NVIDIA Ampere, con núcleos tensoriales, y un procesador Arm de seis núcleos.
Rebaja de precio para esta nueva supercomputadora
También NVIDIA explicó que esta arquitectura facilita la ejecución de múltiples flujos de trabajo de aplicaciones de IA concurrentes y mejora la inferencia de alto rendimiento. También es capaz de soportar hasta cuatro cámaras para obtener resoluciones y tasas de fotogramas más altas que las versiones anteriores.
El Nano Super es capaz de ejecutar casi cualquier modelo de IA generativa, desde modelos de lenguaje grande (LLMs) y modelos de lenguaje visual (VLMs) hasta transformadores visuales. La mejor noticia para los desarrolladores que ya usan Orin es que podrán aumentar el rendimiento mediante una actualización de software disponible en el sitio web de NVIDIA o en el repositorio de GitHub.
El Kit de Desarrollo Orin Nano 4GB también presenta una rebaja de precio, con un nuevo precio de $249, frente a los $499 anteriores. Con esta reducción de precio y las mejoras en rendimiento, el valor de la oferta es ahora 3.5 veces mayor, según NVIDIA.
El mes pasado, Rockwell Automation incorporó NVIDIA Omniverse a su software de gemelos digitales. El software Emulate3D de Rockwell Automation ahora utiliza interfaces de programación de aplicaciones (APIs) de NVIDIA Omniverse para crear gemelos digitales dinámicos a escala de fábrica basados en la interoperabilidad de OpenUSD y las tecnologías de renderizado NVIDIA RTX.
También en noviembre, NVIDIA añadió herramientas de IA abierta y simulación para el aprendizaje de robots, acelerando el desarrollo de robots, incluidos los humanoides.
Fuente: NVIDIA
