英伟达推出全新紧凑型生成式AI超级计算机,凭借软件升级在更低价格下提供更强性能。
英伟达(NVDA.O)推出全新紧凑型生成式AI超级计算机——Jetson Orin Nano Super开发者套件,凭借软件升级以更低价格提供更强的性能。
这款新产品体积小巧,大小仅与手掌相当,适用于从商业AI开发者到爱好者和学生的广泛人群,提升了生成式AI的能力和性能。而且,价格仅为249美元(约合1800元),较之前的499美元大幅下降。
这款开发者套件在生成式AI推理性能上提升了1.7倍,性能提升了70%,达到了67 INT8 TOPS,同时内存带宽提升了50%,达到了102GB/s,相较于其前身大幅提升。
无论是创建基于检索增强生成的LLM聊天机器人、构建视觉AI代理,还是部署基于AI的机器人,Jetson Orin Nano Super都是理想的解决方案。
对于已经拥有Jetson Orin Nano开发者套件的用户,新款Jetson Orin Nano Super的可用软件更新也将提升生成式AI的性能。
Jetson Orin Nano Super非常适合那些有兴趣在生成式AI、机器人技术或计算机视觉领域发展技能的人。随着AI领域从特定任务模型转向基础模型,它也提供了一个易于使用的平台,将创意变为现实。
另外,Jetson Orin Nano Super增强的性能为所有流行的生成式AI模型和基于变换器的计算机视觉提供了提升。
该开发者套件包括一个8GB内存的Jetson Orin Nano系统模块(SoM)和一个参考载板,提供了一个理想的平台用于边缘AI应用原型开发。
该SoM采用英伟达安培架构的GPU,配备张量核心和6核Arm CPU,支持多个并行AI应用管道和高性能推理。它最多支持四个摄像头,提供比之前版本更高的分辨率和帧率。
生成式AI正在快速发展。英伟达Jetson AI实验室为来自开源社区的前沿模型提供即时支持,并提供易于使用的教程。开发者还可以获得来自广泛Jetson社区的支持,并从其他开发者创建的项目中获得灵感。
Jetson平台运行包括英伟达Isaac(用于机器人技术)、英伟达Metropolis(用于视觉AI)和英伟达Holoscan(用于传感器处理)等英伟达AI软件。开发时间可以通过英伟达Omniverse Replicator(用于合成数据生成)和英伟达TAO工具包(用于微调来自NGC目录的预训练AI模型)来缩短。
Jetson生态系统的合作伙伴提供额外的AI和系统软件、开发工具和定制软件开发服务。它们还可以提供摄像头和其他传感器,以及载板和产品解决方案的设计服务。
为了提高1.7倍的生成式AI性能,Jetson Orin Nano和Orin NX系列的系统模块也将推出软件更新。现有的Jetson Orin Nano开发者套件用户可以立即升级JetPack SDK,以解锁提升后的性能。