跳至正文
RFL_GLOBAL
EN
  • 第五波 // 开发中
  • 分层VLA
  • 零样本

DAEDALUS

分层零样本VLA

三层分层VLA(GeneralVLA启发):可操作性分割识别可抓取区域,文本驱动的3D规划生成接近轨迹,碰撞感知抓取执行处理物理交互。每层可独立测试。

模块状态: 开发中

PROTEUS + ABYSSOS + CHIRON

3层

部门
ANIMA
波次
W5
领域
操控
第五波 // ANIMA 套件
操纵 — 分层零样本VLA
DAEDALUS // W5 // 015/079
01核心挑战

操纵是堆栈,不是单体

端到端VLA联合学习所有内容 — 感知、规划、执行 — 在单个不透明网络中。当它们失败时,你无法判断哪个阶段出了问题:模型误识别了物体,规划了不可行的路径,还是计算错了抓取力?

单体模型还需要硬件来调试。没有机器人就无法测试抓取规划,没有完整管线就无法验证感知。DAEDALUS将操纵解耦为三个可独立测试的层 — 在硬件之前离线调试每一层。

02解决方案

DAEDALUS 提供什么

DAEDALUS是三层分层VLA:可操作性分割 → 3D轨迹规划 → 碰撞感知抓取执行。每层独立运行,通过类型化接口通信,无需硬件即可测试。

流程

  1. 01可操作性分割 — 从视觉输入中识别可抓取区域、接触面和操纵可操作性
  2. 02文本驱动3D规划 — 基于自然语言指令和分割的可操作性生成接近轨迹
  3. 03碰撞感知抓取执行 — 通过力控制、碰撞避免和自适应抓取处理物理交互
  4. 04层隔离 — 每个阶段可使用模拟输入独立测试,实现硬件前验证

能力

  • 可操作性分割基于视觉的可抓取区域和接触面识别,使用PROTEUS→ 在规划如何抓取之前知道抓什么
  • 知识引导规划通过ABYSSOS深度和空间推理的文本条件3D轨迹生成→ 无需在硬件上反复试验即可规划接近路径
  • 碰撞感知执行使用CHIRON运动原语和碰撞检测的力控抓取执行→ 具有自适应抓取策略的安全物理交互
03工程挑战

为什么这很难

将操纵分解为层创建了大多数系统回避的接口边界:

  1. 01可操作性分割必须对新物体零样本泛化 — 无需逐对象训练
  2. 02规划层接收分割掩码而非原始图像 — 边界处的信息损失必须最小化
  3. 03轨迹生成必须在没有完整物理模拟的情况下感知碰撞 — 近似但快速
  4. 04抓取执行必须在遵循规划轨迹的同时实时处理力反馈
  5. 05层接口必须类型化和版本化以允许独立测试和演进
  6. 06每层有不同的延迟要求:分割(~100ms)、规划(~200ms)、执行(<10ms)

DAEDALUS通过在层之间定义清晰的类型化接口解决这个问题 — 可操作性图、轨迹规格、力配置文件 — 实现每个操纵阶段的独立测试。

04性能基准

系统性能

跨三层分层管线测量:

系统性能
指标数值
可测试层3个独立验证的阶段
硬件需求离线可用 — 硬件前工作
规划模式知识引导轨迹生成
执行透明度完整的逐层检查
05构建状态

已构建的功能

已完成 3/5 个组件
已构建的功能
组件状态说明
可操作性分割已完成通过PROTEUS的零样本可抓取区域检测
3D规划层已完成使用ABYSSOS深度的文本条件轨迹生成
抓取执行进行中CHIRON运动原语集成进行中
核心模型已完成分割和规划模型生产就绪
API层进行中公共API,待数据集基础设施
06应用场景

DAEDALUS 部署场景

  • APP_01

    硬件前验证

    在部署到物理机器人之前完全在软件中测试和调试操纵管线 — 在每一层捕获故障。

  • APP_02

    可调试操纵

    当抓取失败时,检查哪一层出了问题:糟糕的分割、不可行的计划还是力计算错误。不再黑盒调试。

  • APP_03

    模块化机器人

    独立替换各个层 — 升级感知而无需重新训练规划,替换执行而无需改变视觉栈。

07技术

底层技术

基础:GENERALVLA启发的层次结构

  • 三层分解:感知 → 规划 → 执行
  • 层之间的类型化接口用于独立测试
  • 来自视觉基础模型的零样本可操作性检测
  • 具有空间推理的文本条件轨迹规划

DAEDALUS 实现

  • 第1层:基于PROTEUS的可操作性分割与可抓取性评分
  • 第2层:ABYSSOS深度 + 语言条件3D轨迹规划器
  • 第3层:CHIRON运动原语与力反馈和碰撞避免
  • 类型化层间协议:AffordanceMap → TrajectorySpec → ForceProfile

ANIMA模块集成

  • PROTEUS提供零样本视觉可操作性分割
  • ABYSSOS提供单目深度用于3D空间推理
  • CHIRON提供运动原语执行和力控制

层规格

  • 分割:~100ms延迟,掩码输出
  • 规划:~200ms延迟,轨迹输出
  • 执行:<10ms循环,力控制
  • 用于离线测试的模拟接口
08论文

研究基础

  1. [01]GeneralVLA启发的分层操纵 — 具有类型化层接口的分解VLA用于可测试机器人