在美国俄勒冈州的仓库里,Agility Robotics 的人形机器人 Digit 正在执行物流装载任务,不再只是机械的搬运,而是根据环境实时调整响应动作。
与此同时,在机器人领域深耕 30 余年的波士顿动力 Atlas 也正在迎来新一轮进化,国内的宇树科技则希望借助更强的计算能力去突破机器人当下敏捷性与自主性的能力边界。
支撑这一切变化发生的“新大脑”,正是英伟达的 Jetson Thor。
自 2014 年推出以来,英伟达 Jetson 平台和机器人技术栈已构建起极具影响力的行业生态:吸引超过 200 万开发者投身创新,涵盖超 150 个硬件系统、软件与传感器的合作伙伴网络,其中 Jetson Orin 作为上一代核心产品,已成功帮助 7000 余个客户在各行业落地边缘 AI 应用。
雷峰网消息,当地时间 8 月 25 日,英伟达宣布发售 Jetson AGX Thor 开发者套件和量产级模组。
新一代基于 Blackwell 架构的机器人计算机实现了性能的跨越式升级:相较于上一代 Orin,其 AI 性能提升 7.5 倍,可释放高达 2070 FP4 TFLOPS 算力,且能效提升至 3.5 倍,凭借极致的算力与能效表现,实现复杂场景下的实时推理,进一步拓展边缘 AI 的应用边界。
“Jetson Thor 专为全球数百万开发者打造,助力他们构建可与物理世界交互、甚至改变物理世界的机器人系统。作为一款卓越的超级计算机,Jetson Thor 正致力于推动物理 AI 与通用机器人时代真正到来。”英伟达创始人兼首席执行官黄仁勋表示。
能效跃升 3.5 倍,Jetson Thor「解锁」机器人实时推理能力
当机器人从流水线上的“专用工具”,转身成为能在家庭、工厂、医院等多场景灵活作业的“通用助手”时,一个关键难题浮出水面:如何在可控的功耗下,达到最大算力以支撑复杂决策?
NVIDIA Jetson AGX Thor 为能效与算力的难题交出答案。
作为专为物理 AI 设计的“机器人超级大脑”,Jetson Thor 搭载了英伟达全新的 Blackwell 架构 GPU,在仅 130 瓦的功率范围内,实现了 2070 FP4 TFLOPS 的峰值 AI 算力,较上一代 Orin 提升 7.5 倍,且 Jetson Thor 的内存容量提升两倍达到 128G,显存带宽为 273GB/s,可轻松运行最新的生成式 AI 模型,且将能效优化至 3.5 倍。
这意味着,无论是在家庭场景中使用的服务机器人,还是在手术室里辅助医生的精密机械臂,都不用再为“续航焦虑”妥协——它们能以更低的能耗,持续输出强劲算力,实现长时间、稳定地完成任务。
这份能效优势,并非简单的硬件升级,而是从底层技术到架构设计的全面优化。
Jetson Thor 引入原生 FP4 量化技术,通过 4 位精度的权重与激活值,在不损失推理准确性的前提下,大幅减少算力消耗。搭配下一代 Transformer 引擎更能灵活切换 FP4 与 FP8 精度,让不同复杂度的任务都能匹配最优能耗方案。
此外,通过引入多实例 GPU(MIG)技术,Jetson Thor 能把单块 GPU 拆分成多个独立“计算单元”,比如一边用部分资源处理摄像头实时画面,一边用另一部分资源运行自然语言交互模型,这一技术能为关键工作负载预留计算资源,同时并行运行对时间敏感度较低的任务,确保性能的可预测性。
对于需兼顾多重关键任务的机器人应用而言,这一特性尤为重要。
这份高能效最终转化为机器人在物理世界里“反应迅速”的表现,与上一代产品相比相比, Jetson Thor 推理速度提升最高达 5 倍,借助 FP4 精度优化与推测解码技术,开发者还能进一步实现 2 倍的性能提升。
在采用 FP4 量化与基于 Eagle 的推测解码技术后,Qwen2.5-VL-7B 模型在 Jetson Thor 上的推理速度较 Jetson Orin,最高提升至 3.5 倍。
衡量系统响应速度的核心标准是首 Token 生成时间及输出 Token 生成时间。
在 Qwen2.5-VL-3B VLM 与 Llama 3.2 3B LLM 两款模型的测试中, Jetson Thor 的首 Token 生成时间均低于 200 毫秒,输出 Token 生成时间则均低于 50 毫秒。
在推测解码技术中,先由小型草稿模型生成候选 Tokens,再由大型模型验证 Tokens 的有效性。这种方式在保证生成准确性的同时,能加速生成式 AI 推理过程,最终实现更快、更高质量的输出。
银河通用、宇树科技采用,Jetson Thor 加速机器人产品商业化进程
性能参数是可用的基础,但真正的价值体现仍要回归商业化落地。
在仓储与制造一线,领先的人形机器人企业 Agility Robotics 旗下机器人 Digit 已经实现商用,可在仓库与制造环境中执行堆叠、装载及码垛等物流任务。
Digit 曾经被质疑“能走、能搬,却难以应对复杂任务”,而在引入 Jetson 系列产品后,它的反应速度和实时决策能力大幅提升,受益之下,Digit 计划将 Jetson Thor 作为第六代计算核心。
Agility Robotics CEO Peggy Johnson 评价道:“Jetson Thor 提供的强大边缘处理能力,将把 Digit 提升到一个新的水平,其实时响应能力更强,功能也能拓展至更复杂的任务领域。”
Digit 不再只是“搬运工”,而可能成为仓库和工厂中真正的多面手。
在工业与科研领域,波士顿动力的 Atlas 正在接受同样的“大脑移植”,Jetson Thor 的算力让 Atlas 能在设备端运行此前必须依赖服务器的 AI 工作流。
Jetson Thor 同样得到国内明星机器人企业的青睐,银河通用与宇树科技的人形机器人同样集成了这一产品。
银河通用 CTO 王鹤直言,公司旗下机器人 G1 Premium 在完成 Jetson Thor 集成后,运动速度和流畅性明显改善,并计划利用 Jetson Thor 支持更大规模的 VLA 模型,从而在复杂交互中展现出更接近人类的行为。
突破性能限制,打造友好安全的机器人产品是宇树科技的追求。
宇树科技创始人兼首席执行官王兴兴表示:“Jetson Thor 带来了计算能力的飞跃,让机器人有更强的敏捷性、更快的决策制定以及更高的自主水平,这对于机器人在现实世界中实现导航与交互至关重要。”
医疗与安全同样受益于这一算力飞跃。
手术室里的智能机器人需要在毫秒之间分析多路摄像数据,为医生提供即时反馈。工厂车间里的视觉 AI 系统,则要实时监测工人安全。借助 NVIDIA Holoscan 平台,Jetson Thor 可以将摄像头、雷达、激光雷达等传感器数据,以超低延迟直接传输至 GPU 内存,使这些应用成为现实。
在学术界,Jetson Thor 则成为科研人员突破边界的工具。斯坦福大学、苏黎世大学等实验室已将其用于感知与导航模型的实验。卡内基梅隆大学 AirLab 的负责人 Sebastian Scherer 回忆道:“过去,机器人研究受限于计算能力,无法满足实时决策需求。但 Jetson Thor 的到来,让我们得以探索更复杂的任务。”在他们的实验中,机器人已经能在复杂、非结构化环境中执行搜救和医疗分诊任务。
从仓库到工厂,从手术室到研究实验室,Jetson Thor 正在为机器人提供一颗足以应对真实世界挑战的“大脑”。