机器人

NVIDIA Isaac Sim 和 NVIDIA Isaac Lab 即将新增高级传感器物理特性、自定义和模型基准测试功能

在 COMPUTEX 2025 上,NVIDIA 宣布对其机器人仿真参考应用 NVIDIA Isaac Sim 和机器人学习框架 NVIDIA Isaac Lab 进行新的更新,以加速开发各种具体化的机器人。

Isaac Sim 和 Lab 将完全兼容 NVIDIA RTX PRO 6000 工作站和服务器,为训练中的每个机器人开发工作负载提供单一架构, 合成数据生成 机器人学习 ,以及 模拟

在本文中,我们将进一步探讨将于今年第二季度推出的 Isaac Sim 和 Isaac Lab 的新功能,以及这些更新如何加速机器人工作流程。

Isaac Sim 5.0 的新功能 

新的 Isaac Sim 基于 NVIDIA Omniverse OpenUSD 构建,将是开放和可定制的,通过 NVIDIA Launchable 加快开发速度,并支持先进的合成数据生成流程,以加速机器人仿真。

开放且完全可定制 

即将在 GitHub 上推出的 Isaac Sim 5.0 将是开放的、完全可定制的和可扩展的,使用户能够根据特定需求定制仿真,例如 合成数据生成 (SDG) 和 Software-in-the-Loop 测试。

企业对基础 Omniverse Kit 的其他支持和商业再分发权利需要 Omniverse Enterprise 许可证

借助 NVIDIA Brev 更快开始使用

Isaac Sim 5.0 将通过 NVIDIA Brev 进行访问,可让主要云提供商直接访问 NVIDIA GPU 实例。Brev 为开发者提供了一种启动 Isaac Sim 的即时方式,从而消除基础架构开销并加速迭代周期

您可以选择一键式可启动部署,也可以通过选择实例类型和端口配置自定义您的部署。

Screenshot of Isaac Sim NVIDIA Brev Launchable.
图 1。Isaac Sim Brev 窗口

先进的合成数据生成流程

仿真生成的合成数据可确保对现实世界的物理特性 (包括运动数据和环境交互) 进行准确建模。这也为捕捉现实世界中难以收集到的罕见场景提供了一种方法。

MobilityGen

高质量的 motion 数据 是训练更智能、适应性更强的机器人的基础,这些机器人能够在现实世界环境中安全高效地运行。这需要逼真的 motion 动力学和丰富的 ground-truth 数据,以开发可在机器人和环境中泛化的适应性强、高效的 mobility 模型。

视频 1。MobilityGen 用户使用 Isaac Sim 生成合成数据

MobilityGen 将作为 Isaac Sim 中的扩展程序提供,支持生成各种基于物理性质的数据和感知模型训练数据,例如占用地图、机器人状态、姿态、速度和图像。

MobilityGen 将作为 Isaac Sim 中的扩展程序提供,用于创建各种基于物理的数据以及用于感知模型训练的数据,例如占用地图、机器人状态、姿态、速度和图像。它还将支持各种数据采集方法,例如远程操作、自动操作和可定制的路线规划。生成的数据可用于训练自主移动机器人、四足机器人和 人形机器人 。来自 MobilityGen 的数据用于训练 X-Mobility 端到端通用导航模型。

将合成数据生成扩展到物理空间

视频 2。Isaac Sim 中用于生成合成图像和视频数据的扩展程序

物理 AI 使机器人、自动驾驶汽车和智能空间等系统能够在工厂、仓库和城市等现实环境中感知和采取行动。为了更好地从空间角度理解环境,开发者需要训练数据来准确模拟这些复杂 3D 环境中的摄像头会看到的多个移动的行为者和物体。

Isaac Sim 中的新扩展程序可生成用于训练视觉 AI 模型的合成图像和视频数据,包括:

  • Isaacsim.Replicator.Agent :模拟人类和机器人角色在 3D 环境中执行行走、坐姿或举重等动作。
  • Isaacsim.Replicator.Object :生成合成数据集,用于使用可配置场景和域随机化进行物体检测。
  • Incident Extension (即将在 Isaac 5.0 中推出) :生成基于事件的数据,例如火灾、溢出或掉落的物体。
  • Caption Extension (即将在 Isaac 5.0 中推出) :创建图像描述对,用于训练有关场景理解的视觉语言模型。

改进了 Cosmos 世界基础模型的数据格式兼容性

NVIDIA Cosmos Transfer 世界基础模型 (WFMs) 有助于将 Isaac Sim 生成的合成数据增强到模型训练所需的逼真度。 NVIDIA Omniverse Replicator 的新写入器针对 Cosmos Transfer 输入进行了优化,使用户能够轻松生成和导出用于提取的高质量合成数据。它支持独立工作流和脚本编辑器,并且可以无缝集成到现有的 Isaac Sim 合成数据生成脚本中。

增强型传感器仿真 

Side-by-side images of depth field generated by simulated depth sensor in Isaac Sim.
图 2。Depth sensor simulation 输出

准确的 传感器仿真 对于在现实世界中成功部署机器人和计算机视觉应用至关重要。Isaac Sim 将支持通用深度图噪声模型,使开发者能够逼真地模拟立体摄像头的噪声特征。此功能有助于生成噪声模式与真实传感器数据相似的深度图像,进一步提高合成输出的真实感。

改进的执行器模型 

Isaac Sim 现在支持通过 OpenUSD 架构定义的新关节摩擦模型,包括 actuator 和 friction 参数,该模型是与 Hexagon Robotics 和 maxon 合作开发的。这些模型使用制造商数据表中的真实数据,可确保模拟中关节和电机的驱动与实际行为密切反映,从而缩小模拟与现实之间的差距。有了更准确的 actuator 建模, 强化学习 (RL) 策略可以得到更好的训练,从而实现从模拟到物理硬件的更平稳过渡,并在现实世界中实现更可靠的机器人性能。

借助标准化 ROS 2 接口和 ZMQ 桥接器简化机器人工作流程

新的标准化 ROS 2 仿真接口通过引入一种一致的方法来通过 ROS 2 控制不同的模拟器,从而解决机器人领域持续存在的挑战。这个新的标准化接口由 Robotec.ai 牵头,并与 Gazebo、Open 3D Engine 和 NVIDIA 合作开发,通过为开发者提供一种一致的方法来控制 ROS 2 中的模拟,从而简化集成。

ZMQ 桥接器 是为 Isaac Sim 4.5 添加的扩展,可实现与 ROS 以外的外部应用程序的快速双向通信。它支持软件在环测试,并且可以扩展到边缘设备上的硬件在环。用例包括流式传输摄像头数据、传输 ground truth、发送控制命令和交换辅助数据。

Isaac Lab 2.2 的新增功能 

最新的 Isaac Lab 更新包括 GR00T N1 模型的基准测试脚本、增强的合成运动数据生成、通过 Omniverse Fabric 缩短加载时间,以及改进的吸盘抓手建模。

对 NVIDIA Isaac GR00T N 模型进行基准测试和评估

最新版本的 Isaac Lab 将支持用于 NVIDIA Isaac GR00T N 系列基础模型闭环评估的环境基准测试脚本。开发者可以加载这些预构建环境和工业任务 (例如螺母倾注和管道分拣) 来运行闭环基准测试。

A GIF of a bi-manipulation task of pipe sorting using a fine-tuned GR00T N1 model with GR00T-mimic data in Isaac Lab.
图 3。Isaac GR00T N1 部署在 Isaac Lab 上的 Fourier GR1 人形机器人,用于执行双操作任务

除了新的环境和基准之外,Isaac Lab 还将支持 LeRobot 数据格式,将 Isaac GR00T 蓝图生成的合成数据转换为合成操作运动生成 ,用于 Isaac GR00T N1 模型的后训练。然后,可以在 Isaac Sim 中针对大量“假设”场景进一步验证经过训练的策略。

使用 GR00T-Mimic 增强合成运动生成

Isaac Lab 2.2 基于 Isaac Lab 2.1 中引入的双手动操作,现在将包括预构建环境,如图 4 所示,在 NVIDIA GTC 2025 上进行了演示。

Fourier GR1 humanoid robot performing complex pick and place task using GR00T N1.
图 4。Fourier GR1 人形机器人使用 GR00T N1 执行复杂的双操作任务

这些示例环境专为数据采集而设计,预先填充了 Fourier GR1 人形机器人,因此可以更轻松地收集用于训练机器人策略模型的合成运动数据。这些新的训练环境使用人形机器人视角的视觉输入以及机器人状态信息,例如 GR00T N 模型的关节位置。

此外,还将提供样本数据、脚本、提示和模型检查点,以增强 Cosmos-Transfer1 中的合成数据。

提高生活质量 

新版本的 Isaac Lab 将使用 NVIDIA Fabric 。此 Omniverse 库支持高性能创建、修改和访问场景数据,以及在网络中的 CPU、GPU 和其他 Fabric 客户端之间高效通信场景数据。

结构可对数据进行索引并提供查询 API,使物理和渲染等系统能够仅访问所需的数据,而无需在每帧中遍历整个场景。这将加快加载速度并改进扩展,物理模拟和传感器数据采集等任务将与用户交互并行运行。

张量吸盘 

表面抓手是机器人操控的主要组件。物理精准的模拟和张量化访问对于实现基于吸盘的强化学习任务和控制行为至关重要。

以前,surface gripper 仅限于单个关节连接点,因此无法拾取多个物体。此外,它还缺乏调整物理行为的灵活性,例如使用吸力来吸引物体,因为它只能在当前位置静态地抓取物体。此外,必须针对每个环境单独映射每个抓手,而不是使用更精简、tensorized 访问方法。

视频 3。Isaac Lab 中经过改进的全新 surface gripper

现在,Isaac Sim 和 Isaac Lab 将允许用户创建和配置可变形的表面抓手,能够测量抓握力并以 tensorized 方式更新吸盘参数。

NVIDIA Isaac Sim 5.0 和 Isaac Lab 2.2 将于今年夏天推出。

采用生态系统 

Agility Robotics、Boston Dynamics、Fourier、Mentee Robotics、Neura Robotics 和 XPENG Robotics 正在使用 NVIDIA Isaac Sim 和 Isaac Lab 模拟和验证其人形机器人。Skild AI 正在使用仿真框架开发通用机器人智能,而 General Robotics 正在将其集成到其机器人仿真平台中。

此外,Adata 和 Advantech、台达电子、富士康、Foxlink、Solomon、Techman 和纬创等 台湾领先的电子和机器人制造商 正在使用 NVIDIA Isaac Sim 和 Lab 开发下一波 AI 机器人。

开始开发您的 robotics 解决方案

要接收有关以下其他资源和参考架构的更新,以支持您的开发目标,请注册 NVIDIA 开发者计划

观看 NVIDIA 创始人兼首席执行官 Jensen Huang 的 COMPUTEX 主题演讲以及 NVIDIA GTC 台北 2025 会议。

请于 5 月 28 日 (星期三) 上午 11 点 (太平洋夏令时间) 观看我们即将推出的 OpenUSD Insiders 直播 回顾 NVIDIA Isaac Sim 和 Isaac Lab 版本以及在台北国际电脑展览会上发布的其他物理 AI 公告

订阅我们的时事通讯,并在 LinkedIn、Instagram、X 和 Facebook 上关注 NVIDIA Robotics,及时了解最新动态。探索 NVIDIA 文档和 YouTube 频道,并加入 NVIDIA Developer Robotics 论坛。要开启您的机器人开发之旅,请立即注册我们的免费 NVIDIA Robotics Fundamentals 课程。

开始使用 NVIDIA Isaac 库和 AI 模型 开发物理 AI 系统

 

 

 

标签