黄仁勋从烤箱里端出的生成式AI超级电脑——Jetson Orin Nano Super

近日，老黄再次搞事情，从烤箱里端出来NVIDIA的一款新产品——Jetson Orin Nano Super。该设备是一款新型紧凑型生成式AI超级电脑，虽然小巧便携，却拥有强大的性能，专为商业AI开发者、爱好者和学生设计，价格亲民，仅售249美元，较前代产品价格大幅下降。
Jetson Orin Nano Super开发者套件仅手掌大小，价格从499美元降至249美元，性价比极高。与前代产品相比，这款新产品在生成式AI推断性能上实现了1.7倍的提升，运算效能提高了70%，达到每秒67兆次INT8运算（67 INT8 TOPS），同时内存带宽增加了50%，达到每秒102 GB，性能表现令人瞩目。
英伟达CEO黄仁勋表示，这款开发套件通过软件升级实现了性能飞跃，无论是构建基于检索增强生成（Retrieval-Augmented Generation, RAG）技术的大型语言模型（LLM）聊天机器人，还是打造视觉AI代理，亦或是部署基于AI的机器人，Jetson Orin Nano Super都能以更低的成本提供卓越的运算性能。
此外，这款超级电脑支持从7W到25W的功耗运行，适配各种边缘设备云算场景，适用于智慧城市、智慧农业、机器人开发等多个领域，展现出其强大的应用潜力。
此外，Jetson Orin Nano Super能够执行NVIDIA AI软件，包括用于机器人的NVIDIA Isaac、用于视觉AI的NVIDIA Metropolis，以及用于处理传感器数据的NVIDIA Holoscan。通过使用NVIDIA Omniverse Replicator生成合成数据，以及NVIDIA TAO Toolkit微调NGC目录里预先训练好的AI模型，可以大大缩短开发时间。
NVIDIA的Jetson生态系合作伙伴也为这款产品提供了额外的AI与系统软件、开发者工具及开发专属软件，助力用户实现更多创新。同时，合作伙伴还能提供摄影机和其他传感器，以及载板和产品解决方案的设计服务，为Jetson Orin Nano Super的应用提供全方位支持。
在AI技术从云端向终端延伸的趋势下，Jetson Orin Nano Super以其卓越的性能和广泛的应用前景，成为了推动实体AI发展的关键产品。黄仁勋以幽默的方式向家中三只狗展示这款产品，更是展现了NVIDIA对创新技术的热情和信心。