toolin.ai logo
toolin.ai
首页
AI工具
AI技能包
AI资讯
精选推文
AI提示词
提交AI工具提交
toolin.ai logo
toolin.ai

AI玩家的创作利器库,发现最佳AI工具组合,提升您的创作效率

AI工具1,343个
技能包11个
产品功能
  • AI工具
  • AI技能包
  • AI资讯
  • 精选推文
  • 提交AI工具
关于我们
  • 关于Toolin
  • 联系我们
  • 合作洽谈
  • 更新日志
关注我们
© 2025 toolin.ai. All rights reserved.
服务条款隐私政策

MobileForge 实操:让 GUI Agent 跑起无标注数据飞轮

2026/07/13
·toolin小编

快手联合浙大开源 MobileForge,通过 MobileGym + HiFPO 让手机 GUI Agent 在真实 App 中自探索、自反馈、自优化,附完整代码与模型。

MobileForge 实操:让 GUI Agent 跑起无标注数据飞轮
MobileForge 实操:让 GUI Agent 跑起无标注数据飞轮
2026/07/13

MobileForge 实操:让 GUI Agent 跑起无标注数据飞轮

快手联合浙大开源 MobileForge,通过 MobileGym + HiFPO 让手机 GUI Agent 在真实 App 中自探索、自反馈、自优化,附完整代码与模型。

MobileForge 是什么开始前的准备资源清单实测效果(参考)你需要什么第一步:跑通 MobileGym 探索1.1 目标 App 探索1.2 MobileGym-Curriculum:把证据转任务1.3 MobileGym-Critic:分层评估第二步:跑 HiFPO 训练循环2.1 带 hint 的多次尝试2.2 任务过滤2.3 轨迹与步骤选择2.4 hint-contextualized step-level GRPO第三步:评测域内:AndroidWorld域外:MobileWorld GUI-only验证结果常见问题
AI教程

手机 GUI Agent 在真实 App 上的最大瓶颈不是"不会点",而是"不会适应"——App 数量庞大、更新频繁,每适配一个 App 都要人工写任务、录专家轨迹、标奖励信号,成本直接失控。快手联合浙大、清华开源的 MobileForge 把这个过程变成无标注闭环:Agent 在真实 App 中自探索、自反馈、自优化。本教程带你跑通它的全链路。

MobileForge 是什么

MobileForge 由两个耦合组件组成:

  • MobileGym:交互与评估底座。在目标 App 中探索可达状态,基于真实交互轨迹挖掘可执行任务,对完整执行过程做分层评估
  • HiFPO(Hierarchical Feedback-Guided Policy Optimization):层级反馈引导的策略优化。调度多次尝试、复用失败 hint、筛选有价值任务和步骤,用 hint-contextualized step-level GRPO 更新模型

整条流水线没有人工任务、没有专家演示、没有人工奖励标签:

目标 App 探索 → 任务课程生成 → 多次 rollout → 分层评估 → 任务/轨迹/步骤过滤 → 带纠错 hint 的 GRPO 训练

开始前的准备

资源清单

  • 论文:https://arxiv.org/abs/2606.19930
  • 项目主页:https://mobile-forge.github.io/
  • GitHub:https://github.com/kwai/MobileForge
  • 全链路数据集:https://huggingface.co/collections/lgy0404/mobileforge-datasets
  • 全链路模型:https://huggingface.co/collections/lgy0404/mobileforge-models

实测效果(参考)

| 模型 | AndroidWorld Pass@3 | 备注 | | | | | | Qwen3-VL-8B(基线) | 55.2% | 通用 VLM | | ForgeQwen3-8B(适配后) | 67.2% | 接近 GUI 专用基座 | | GUI-Owl-1.5-8B(基线) | 69.0% | GUI 专用 | | ForgeOwl-8B(适配后) | 77.6% | 端内最强 |

跨域(MobileWorld GUI-only,训练时不见任何 MobileWorld 数据):ForgeOwl-8B 达 41.0%,高于基线的 37.6%。

你需要什么

  • 一台能跑 8B VLM 训练的 GPU 机器(多卡更佳,多节点训练脚本已提供)
  • 熟悉 PyTorch / HuggingFace transformers
  • Android 模拟器或真机环境(用于 AndroidWorld rollout)
  • Python 3.10+

第一步:跑通 MobileGym 探索

MobileGym 解决"没有人工任务时 Agent 该学什么"。它包含三个阶段。

1.1 目标 App 探索

MobileForge 直接进入目标 App,结合 APK 中声明的 activity 等结构信息和当前截图,生成面向功能的探索目标。探索采用类深度优先遍历,需要从父状态分支到新目标时恢复父状态继续。

每个被探索到的状态转移会记录:操作前后截图、执行动作、目标元素、执行元数据、自然语言摘要。这些记录组成证据池。

注意:探索轨迹不是专家示范。它的唯一作用是发现真实可达的页面、可操作控件、实际存在的功能,避免模型凭空幻想。

1.2 MobileGym-Curriculum:把证据转任务

对每条探索轨迹,系统判断行为是否连贯、原目标是否完成,然后围绕同一 App 功能生成多个任务变体。

每个任务是一个五元组:(任务指令, 预估步数预算, 核心功能, 变化类型, 前置条件)。重点不是 schema 复杂,而是每个任务必须锚定到真实观察到的 App 行为。

1.3 MobileGym-Critic:分层评估

Critic 不是训练奖励模型,而是用 agentic hierarchical evaluator 对完整 rollout 输出三类反馈:

  • 轨迹级 outcome label:任务最终是否完成
  • 步骤级 process label:每一步是否合理及原因
  • 纠错 hint:总结失败原因、要避免的行为、建议的替代策略、关键任务洞察

这一步是 MobileForge 区别于传统 RL 的关键:失败轨迹里也有正确的局部步骤,成功轨迹里也有冗余动作,Critic 把这些信息拆开。

第二步:跑 HiFPO 训练循环

HiFPO 把 MobileGym 的反馈变成策略更新,分四步。

2.1 带 hint 的多次尝试

每个任务让当前策略连续尝试 K 次:

  • 第一次无额外 hint
  • 失败或不合理时,Critic 生成纠错 hint
  • 第二次尝试时把 hint 追加到任务指令

Agent 不是简单多采样,而是在同一任务上累积经验——前一次失败变成下一次的上下文。实测(Qwen3-VL-8B,200 任务):无 hint 总成功率 52.0% → 加 hint 后 77.0%,Pass@3 从 49.0% → 72.5%。

2.2 任务过滤

计算每个任务的多次尝试经验成功率 SR(x):

  • 全成功任务:当前策略已掌握,移除(训练价值不大)
  • 全失败 / 部分成功任务:保留

这反直觉:MobileForge 不丢弃失败任务,因为失败轨迹里可能有正确的导航/搜索/识别步骤,只要步骤级反馈能挑出来,失败也能转化成学习材料。

2.3 轨迹与步骤选择

对保留任务:

  • 有成功轨迹:选步骤质量最高的成功轨迹
  • 全部失败:选局部合理步骤比例最高的失败轨迹
  • 训练集只保留 Critic 判定合理的局部步骤

长链路轨迹被拆成密集的 step-level 样本,同时避免强化失败轨迹里的错误动作。

2.4 hint-contextualized step-level GRPO

每个 step-level 样本包含任务、截图、交互历史、当时的纠错 hint。模型在同一带 hint 状态下采样多个候选动作,用规则化 GUI action reward 做组内比较(GRPO)。

这是 MobileForge 的训练目标消融结论:no-hint SFT 效果弱(甚至低于基线),hint SFT 有提升,但 hint-contextualized GRPO 在 200 和 900 任务设置下都是最好。900 任务时达 50.9% AndroidWorld Pass@1。

第三步:评测

域内:AndroidWorld

在 116 个 AndroidWorld 任务上评测 Pass@1/Pass@2/Pass@3。训练时只在这 20 个 App 生态内探索、生成任务、rollout、训练。

域外:MobileWorld GUI-only

117 任务划分上测试,训练过程中不使用任何 MobileWorld rollout、任务或反馈。这一项最能说明适配不是"记住训练 App"。

实测 ForgeOwl-8B 在 MobileWorld 上达 41.0%,验证了方法本身的泛化性;但 ForgeQwen3-8B(基于通用 Qwen3-VL-8B)只从 7.6% 提到 10.3%——跨域泛化强依赖基础模型本身的手机 GUI 能力。

验证结果

跑完一轮 MobileForge 适配后,检查这些指标:

  1. AndroidWorld Pass@3:相比基线应有 +10 个百分点以上的提升
  2. hard 任务单次成功率:GUI-Owl-1.5-8B 基线上 hard 任务从 19.3% → 29.8% 是参考
  3. tag-wise 失败率下降:MobileForge 在 verification、search、complex UI、screen reading、repetition、information retrieval 等 App grounding 强相关能力上提升明显;game-playing、multi-app、memorization、math-counting 仍较难

常见问题

  • 没有 Gemini 2.5 Pro 跑不了 Critic? 论文消融显示,Critic 决策模型换成 Qwen3-VL-8B 仍能把基线 Pass@1 从 40.5% 提到 44.8%。闭环不强制依赖某个闭源评价器。
  • 失败任务要不要扔? 不要。MobileForge 的最佳策略是保留全失败和部分成功任务,用步骤级反馈恢复其中合理的局部动作。
  • landing screen 生成任务够用吗? 不够。以 Broccoli 为例,只基于 landing screen 会让 27.3% 任务集中在菜谱删除等首页功能;基于探索轨迹的 Curriculum 能覆盖购物清单、烹饪助手、膳食计划、设置等更广功能。

一手来源:

  • MobileForge 论文(arXiv:2606.19930)
  • MobileForge GitHub(kwai/MobileForge)
  • MobileForge 项目主页
所有文章

作者

avatar for toolin小编
toolin小编

分类

  • AI教程
MobileForge 是什么开始前的准备资源清单实测效果(参考)你需要什么第一步:跑通 MobileGym 探索1.1 目标 App 探索1.2 MobileGym-Curriculum:把证据转任务1.3 MobileGym-Critic:分层评估第二步:跑 HiFPO 训练循环2.1 带 hint 的多次尝试2.2 任务过滤2.3 轨迹与步骤选择2.4 hint-contextualized step-level GRPO第三步:评测域内:AndroidWorld域外:MobileWorld GUI-only验证结果常见问题

相关文章

歌歌AI(GoGo):国内首个纯中文 AI 音乐模型实操解析
AI产品

歌歌AI(GoGo):国内首个纯中文 AI 音乐模型实操解析

专为华语优化,单卡 10 秒生成一首中文歌,已接入抖音、剪映等七大平台。歌歌AI 模型能力、接入方式与创作者变现路径。

avatar for toolin小编
toolin小编
21小时前
Claude Sonnet 5 发布:性能逼近 Opus 4.8,价格只要 60%
AI产品

Claude Sonnet 5 发布:性能逼近 Opus 4.8,价格只要 60%

Anthropic 发布 Claude Sonnet 5,默认开启自适应思考、引入新分词器,定价维持 $3/$15,8月31日前享 $2/$10 限时价。

avatar for toolin小编
toolin小编
1天前
ShotStream:实时导演多镜头长视频的开源框架(ECCV 2026)
AI产品

ShotStream:实时导演多镜头长视频的开源框架(ECCV 2026)

港中文 & 快手可灵联合开源 ShotStream,首个实时流式多镜头长视频生成框架,生成速度提升 25 倍,支持边生成边调整情节。

avatar for toolin小编
toolin小编
21小时前