toolin.ai logo
toolin.ai
首页
AI工具
AI技能包
AI资讯
精选推文
AI提示词
提交AI工具提交
toolin.ai logo
toolin.ai

AI玩家的创作利器库,发现最佳AI工具组合,提升您的创作效率

AI工具1,319个
技能包11个
产品功能
  • AI工具
  • AI技能包
  • AI资讯
  • 精选推文
关于我们
  • 关于Toolin
  • 联系我们
  • 合作洽谈
  • 更新日志
关注我们
© 2025 toolin.ai. All rights reserved.
服务条款隐私政策

FineVLA:用哪只手、抓哪里,一句话全搞定

2026/07/08
·toolin小编

港大 XLANG Lab × 阿里 Qwen 团队开源 FineVLA 框架,把机器人策略学习中的语言监督从‘做什么’细化到‘怎么做’,在 RoboTwin 仿真拿到 86.8% 成功率(+15),真实双臂 62.7/100,代码模型基准全部开源。

FineVLA:用哪只手、抓哪里,一句话全搞定
FineVLA:用哪只手、抓哪里,一句话全搞定
2026/07/08

FineVLA:用哪只手、抓哪里,一句话全搞定

港大 XLANG Lab × 阿里 Qwen 团队开源 FineVLA 框架,把机器人策略学习中的语言监督从‘做什么’细化到‘怎么做’,在 RoboTwin 仿真拿到 86.8% 成功率(+15),真实双臂 62.7/100,代码模型基准全部开源。

背景:VLA 模型为什么还不够"听话"四个核心组件FineVLA-Tool:97 万条轨迹 → 47159 条代表性样本RoboFine-VLM:让 VLM 学会描述机器人"怎么动"RoboFine-Bench:评测细粒度动作理解FineVLA-Policy:验证细粒度语言的策略收益实验结果模型理解能力RoboTwin 仿真:倒 U 型曲线真实双臂:可控因素全面提升怎么用应用场景
AI产品

告诉机器人"把杯子放进篮子",它能完成任务,但用哪只手、从哪个方向接近、抓杯身还是杯柄——这些决定执行效果的细节,现有机器人数据集很少标注。于是模型学到的是"最终要成功",却难以从语言中学到执行约束。香港大学 XLANG Lab 和阿里巴巴 Qwen 团队联合提出的 FineVLA 框架,要解决的就是这个长期痛点:让 VLA 模型不仅能完成任务,还能按照人类指定的方式完成任务。

最佳混合策略在 RoboTwin 仿真中达到 86.8%/82.5%(比基线提升 +15.0/+11.1),在真实双臂机器人上达到 62.7/100(Raw-only 为 49.9)。代码、模型、评测基准均已开源。

FineVLA 概览

接触区域、目标物体、执行臂、轨迹方向、失败恢复——这些执行敏感因素都可通过语言控制。

背景:VLA 模型为什么还不够"听话"

VLA(Vision-Language-Action)模型已能根据自然语言完成抓取、放置,但语言监督粒度太粗。同样是"拿起勺子",不同轨迹可能用左臂或右臂、绕障碍或直线、接触勺柄或勺头,但数据集里往往共享同一条目标级指令。

这带来监督歧义:模型学到了"成功",却学不到使用哪只手、从哪个方向接近这些执行约束。构建可控 VLA 系统面临三个核心挑战:

  • 缺乏从异构数据到细粒度标注的基础设施
  • 缺乏评测机器人细粒度理解的基准和可扩展低成本标注器
  • 缺乏细粒度语言是否真的提升策略学习的系统性证据

FineVLA 把这三个问题一次性接住,形成"数据—模型—评测—策略"的完整闭环。

完整闭环

左侧:FineVLA-Tool 数据构建;右侧:FineVLA-Policy 策略训练。

四个核心组件

FineVLA-Tool:97 万条轨迹 → 47159 条代表性样本

把异构机器人数据转成高质量细粒度监督,四个阶段:

  1. 格式统一:从 Bridge V2、BC-Z、RT-1、RoboMIND 等 10 个开源数据集汇总 972247 条轨迹,统一成 LeRobot2.1 格式
  2. 动作规范化:把各异的时间参考和运动学表示统一为绝对坐标 + 归一化四元数旋转,移除损坏轨迹
  3. DTW 聚类去重:基于动态时间规整计算动作相似度并层次聚类,从 97 万条筛选出 47159 条代表性样本
  4. 十维细粒度标注:动作序列、执行体(左/右臂)、目标物体、接触与接近方式、轨迹方向、失败恢复等 10 个维度——平均词数从 9.3 涨到 96.8(10.4 倍)

FineVLA-Tool 流程

从 10 个开源数据集汇总 97 万条轨迹,统一格式 + 聚类去重 + 十维细粒度标注。

RoboFine-VLM:让 VLM 学会描述机器人"怎么动"

通用 VLM 常漏掉物体歧义区分、接触区域、运动路径这些执行细节。团队对 Qwen3.5-VL-397B-A17B 做全参数监督微调,得到 RoboFine-VLM——能输出覆盖 10 个控制维度的步骤级动作描述,可作为未来数据扩展的可扩展标注器。

RoboFine-Bench:评测细粒度动作理解

包含 500 段视频、32 种机器人形态、11631 个原子事实,与训练集严格不重叠,设两个轨道:

  • VQA 轨道:1030 道问题,沿十个维度分布,汇聚成 Grounding / Action / State 三个评测轴
  • Caption 轨道:要求模型生成动作对齐的步骤级描述,由 LLM 评判输出与原子事实的对齐度,产出一致性、覆盖率、反幻觉三项指标

FineVLA-Policy:验证细粒度语言的策略收益

保持视觉观察和动作标签不变,只改变配对语言(Raw-only / FG-only / Mixed),严格隔离语言监督效果。

实验结果

模型理解能力

RoboFine-VLM 在 VQA 轨道拿到 68.2%,超过最强通用基线 GPT-5.4(60.2%)+8.0 个点;Caption hard 设置 82.2%,超 GPT-5.4(78.0%)。自动评分与人工排名高度一致(Spearman 0.943)。

RoboTwin 仿真:倒 U 型曲线

两个关键发现:

  • FG-only 在所有设置中均优于 Raw-only(增益 +1.4 到 +8.1),细粒度监督不损害任务成功率
  • 成功率呈倒 U 型趋势,峰值在 FG:Raw = 1:2 到 1:1 之间

最佳设置达 86.8%/82.5%,比基线 +15.0/+11.1。Raw 告诉模型"做什么",FG 告诉模型"怎么做",两者互补。

仿真结果

真实双臂:可控因素全面提升

在 CobotMagic 双臂平台上用"配对评测"——同一视觉场景下仅改变一个语言控制因素。FG:Raw=1:1 在 Avg(ID) 达 62.7/100(Raw-only 49.9,FG-only 54.4)。

具体控制因素上的提升:姿态 +23、颜色 +18、接近方向 +18、旋转方向 +10、执行臂 +4。较大增益集中在目标级指令未指定的因素上——这正是 FineVLA 最有价值的地方。

真实机器人评分

姿态从 24 提到 47,颜色从 22 提到 40,接近方向从 60 提到 78。

怎么用

开源资源齐全:

  • 论文:arxiv.org/abs/2605.27284
  • 项目主页:finevla.xlang.ai
  • GitHub:github.com/xlang-ai/FineVLA
  • 评测基准:HuggingFace 上的 RoboFine-bench
  • 标注模型:HuggingFace 上的 RoboFine-VLM-397B-A17B

应用场景

  • 机器人策略研究团队:直接复用 FineVLA-Data 的 47159 条细粒度标注,或用 RoboFine-VLM 扩展自家数据的标注
  • VLA 模型评测:RoboFine-Bench 提供 Grounding / Action / State 三轴系统评测,补上"细粒度理解"这一长期空白
  • 双臂 / 人形机器人团队:混合训练配方(FG:Raw=1:1)已验证能提升姿态、接近方向等关键控制因素
  • VLM for Robotics:RoboFine-VLM 可作为可扩展标注器,把更多无标签机器人视频转成细粒度监督

💡 提示:核心结论不是"给数据加更长描述",而是 细粒度语言应当增强而非替代目标级指令。最佳配比是 FG:Raw ≈ 1:2 到 1:1,纯细粒度反而不如混合训练——Raw 管"做什么"、FG 管"怎么做",两者缺一不可。

项目地址:github.com/xlang-ai/FineVLA

所有文章

作者

avatar for toolin小编
toolin小编

分类

  • AI产品
背景:VLA 模型为什么还不够"听话"四个核心组件FineVLA-Tool:97 万条轨迹 → 47159 条代表性样本RoboFine-VLM:让 VLM 学会描述机器人"怎么动"RoboFine-Bench:评测细粒度动作理解FineVLA-Policy:验证细粒度语言的策略收益实验结果模型理解能力RoboTwin 仿真:倒 U 型曲线真实双臂:可控因素全面提升怎么用应用场景

相关文章

阿里 HappyHorse 1.1:视频生成五大维度升级
AI产品

阿里 HappyHorse 1.1:视频生成五大维度升级

阿里巴巴发布 HappyHorse 1.1 视频生成模型,动态表现力、主体一致性等五大维度提升,1080P 价格下调 25%,已上线百炼平台。

avatar for toolin小编
toolin小编
8小时前
Seko 无限画布:一个灵感生成武侠大片
AI教程

Seko 无限画布:一个灵感生成武侠大片

Seko 搭载 Seedance 2.0 全能模式,通过 Agent 工作流自动生成剧情、角色和分镜,720P 成本直降 50%,10 分钟出片。

avatar for toolin小编
toolin小编
8小时前
DeepSeek Deep Code:Claude Code 的国产终端替代
AI产品

DeepSeek Deep Code:Claude Code 的国产终端替代

DeepSeek 官方推荐的开源终端编程 Agent Deep Code,支持深度思考、推理强度调节与 Agent Skills,三步即可上手。

avatar for toolin小编
toolin小编
1天前