GELab-Zero团队 投稿量子位 | 公众号 QbitAI
首次将GUI Agent模型与完整配套基建同步开放,支持手搓党一键部署!
这就是阶跃星辰刚刚开源的GELab-Zero。
其中4B版本的GUI Agent模型在手机端、电脑端等多个GUI榜单上全面刷新同尺寸模型性能纪录,取得SOTA成绩。
随着AI在手机等消费终端的普及,Mobile Agent正从“能不能用”迈向“能否规模化落地”。
GUI Agent是执行能力最强的形态之一。它基于视觉理解即可适配几乎所有App,无需厂商额外改造,接入成本极低。
此外,阶跃还同步开源了基于真实业务场景的自建评测标准AndroidDaily,以期推动GUI领域模型评测向消费级、规模化应用发展。
同尺寸性能 SOTA,端到端、轻量化、速度快
要知道,让GUI Agent在不同品牌与系统版本的设备上顺畅运行并不轻松。
移动生态的高度碎片化让开发者需处理多设备ADB连接、依赖安装、权限配置、推理服务部署、任务编排与回放等繁琐流程,工程成本高昂,精力难以聚焦在策略创新与体验设计上。
要推动移动端Agent真正规模化,必须首先降低开发与使用门槛,让开发者专注于创造价值,而非重复搭建底层设施。
基于此,阶跃开源了GELab-Zero。
它主要包含三部分:
一个能在本地运行的GUI Agent模型GELab-Zero-4B-preview即插即用的完整推理工程基建,解决所有脏活累活基于真实业务场景的自建评测标准AndroidDaily
研究团队在ScreenSpot、OSWorld、MMBench、Android World多个开源基准测试上对GELab-Zero-4B-preview模型进行了全面评估。
这些基准测试涵盖了GUI理解、定位、交互等多个维度。
从测试结果可以看出,GELab-Zero-4B-preview在多项开源基准测试中超越其他主流模型,拿下同尺寸SOTA。
值得一提的是,GELab-Zero-4B-preview的表现还超越了参数量更大的GUI-Owl-32B等模型,性能更优,也更易部署。
来看一下研究团队给出的示例场景。
复杂任务
场景1:在外卖平台同时采购跨品类、不同规格和数量的商品。
Prompt:去饿了么离我最近的盒马鲜生购买:红颜草莓300g、秘鲁比安卡蓝莓125g(果径18mm)、当季新鲜黄心土豆500g、粉糯贝贝南瓜750g、盒马大颗粒虾滑、2瓶盒马纯黑豆豆浆300ml、小王子夏威夷果可可脆120g、盒马菠菜面、盒马五香牛肉、5袋好欢螺柳州螺狮粉(加辣加臭)400g、m&m’s牛奶巧克力豆100g
可以看到,模型精准识别了物品信息,并顺畅地完成了多步骤、重复性的购买操作。
场景2:在企业福利APP中领取餐券。
Prompt:打开给到App,在我的,下滑寻找,员工权益-奋斗食代,帮我领劵。
上述示例展示了GELab-Zero-4B-preview执行的能力和范围具有很强的泛化性,无论在国民级APP还是小众产品平台,都可以顺利完成任务。
模糊指令
场景1:在某个视频平台上播放指定演员的经典作品。
Prompt:在腾讯视频上找一部成龙的经典动作片播放。
接到指令后,GELab-Zero-4B-preview自主拆解“经典”这一需求,确定执行标准。
过程中,模型先打开腾讯视频,识别并关闭了弹窗,搜索“成龙”后在电影类目中选择了页面上成龙评分最高的代表作播放。
场景2:找一个周末能带孩子玩的地方。
Prompt:帮我找个周末能带孩子去玩的地方。
接到指令后,模型首先在内容平台搜索“北京周末带娃”,然后自主判断衡量标准后为用户推荐北京园博园“顽酷奇遇”,并为用户提炼出该地点的亮点——“有巨型装置卡通,亲子活动丰富”。
可以看到,GELab-Zero-4B-preview模型能够很好地执行复杂任务和模糊指令,不仅可以准确、流畅地执行涉及到多步骤、多主体、重复操作的任务,也能对“好看”“适合玩的”“经典”等偏笼统和主观性的指令进行自主拆解,确定执行路径和标准。
GUI+基建=GUI Agent MCP,一键拉起部署
针对GUI智能体,研究人员构建了一整套完整的技术架构体系,可以一键拉起获得类似开源GUI Agent MCP的体验。
具体能力如下:
轻量级本地推理支持4B模型在消费级硬件上运行,兼顾低延迟与隐私。一键任务启动提供统一部署流水线,自动处理环境依赖和设备管理。多设备任务分发可以分发到多台手机并记录交互轨迹,实现可观测、可复现。多种Agent模式涵盖ReAct闭环、多智能体协作以及定时任务等多种工作模式。
这些能力让GELab-Zero能够灵活应对真实场景的复杂任务流,并为后续扩展提供扎实底座。
Agent开发者可基于这套基建快速测试新想法、验证交互策略;企业级用户则能直接复用这套基建,将MCP能力快速植入到产品业务中。
自建并开源贴合真实业务场景的评测基准
此外,研究团队基于手机、IoT、汽车等行业头部公司的真实合作案例,建立了高度贴合业务场景的评测基准。
当前的主流基准测试,大部分聚焦于生产力类应用(如邮件与文档处理)。
然而在日常真实场景中,用户高频依赖的却是生活服务类应用,如外卖、打车、社交、支付等,而这部分场景不仅覆盖面更广,也更能体现当下GUI Agent 的实用价值。
为此研究者提出 AndroidDaily,一个面向真实世界、动态演进的多维基准体系。
它聚焦在现代生活六大核心维度:饮食、出行、购物、居住、信息消费、娱乐,并优先选择在这些类别中具有代表性(高频使用、应用商店日活排名靠前)的主流应用进行测试,高度还原真实任务执行流程(包括询问用户新万博体育:信息补充输入、高危操作请求用户接管)。
评测结果显示,GELab-Zero-4B-preview在AndroidDaily测试中准确率达到73.4% ,在移动端复杂任务中表现优秀。
为了平衡评估的全面性和执行效率,AndroidDaily采用了静态评测和端到端评测双轨评估体系。
静态评测考察模型的grounding(界面理解、元素识别)和action规划能力,用于检验其在推理与执行一致性等基础层面的表现。
端到端测试重点衡量GUI Agent在真实环境中处理复杂任务时的执行效果与稳定性。
其中,静态测试包含3146个actions,提供任务描述和逐步的屏幕截图,要求Agent预测每一步的动作类型和动作值(如点击坐标、输入文本),主要评估数值准确率。
这种方法无需复杂的工程基础设施,可以快速、低成本地进行大规模模型迭代和测试。
而端到端测试包含235个任务,典型任务场景包括出行交通(打车、导航、公共交通等)、购物消费(电商购物、支付、订单管理等)、社交通讯(消息发送、社交互动等)、内容消费(新闻阅读、视频观看、内容收藏等)、本地服务(外卖、到店服务)等。
在完全功能化的测试环境(如真实设备或模拟器)中进行,Agent需要从头到尾自主执行任务,最终以整体任务成功率作为评价指标,能真实反映智能体在复杂环境中的综合能力。
团队表示,希望通过GELab-Zero的开源,进一步降低移动端Agent的开发门槛,让新万博体育:开发者能够快速构建和验证自己的想法。
未来,研究团队将始终坚持开放、可控、隐私优先的原则,持续优化模型性能、扩展跨平台支持、丰富生态工具链。
GitHub:https://github.com/stepfun-ai/gelab-zero抱抱脸:https://huggingface.co/stepfun-ai/GELab-Zero-4B-preview
《betway体育入口》,《Q8X2R7L1T4J5M9B6W3》体育在线app
“台湾麻将规则”
优德买球
……
11月30日
“手机足球网即时比分”樊振东踢足球
↓↓↓
11月30日,广西柳州:融江江水交汇 现“泾渭分明”景观,亚美体育官方网,欧宝app最新,千亿官方App,菲彩平台
11月30日,2024,我们期待什么样的高职发展,捕鱼千炮版官方正版,财神捕鱼赢了10万块,开户送体验金可提现,欧博赌场网站
11月30日,还在刮!北京今天大风仍在线阵风6级 最高气温1℃,凯发娱乐客户端登录注册,威尼斯城娱乐在线注册,必赢亚洲手机app下载,欧亿娱乐主管q44144
11月30日|外交部:BBC妄言新疆番茄采收存在“强迫劳动” 是典型的双标|365直播足球|亚虎娱乐国际中心|九州娱app|银河赌场网站
11月30日|中老铁路“黄金大通道”活力持续显现|火狐体育怎么买串|ag真人登录|ManBetx线路检测|英国威廉希尔备用网址
11月30日|广州:讲述华侨故事 感悟家国情怀|万博娱乐正网|正版金沙游戏|万博max手机版|日博体育开户首页……
11月30日,澳门各界:澳门载荷专家诞生激励澳门青少年追寻“航天梦”,体育投注官网网址,沙巴体育直播源下载娱乐平台登录,猪哥风云劲爆料B,ayx乐鱼app官方下载
11月30日,侨乡浙江瑞安:审批提速掀华侨回乡落户热,爱游戏ayx体育官网,凤凰彩票官网,雷速体育在线,手机版体球足球比分
11月30日|湖南先进制造业应用场景对接会4月28至29日在长沙举办|雷速体育最新网页|九州体育开户网址|皇冠评测注册|冠军999策略手机版
11月30日,2024横店影视节定档 首届国际影片交易会同步进行,优德体育注册,现金直营投注,ag真人游戏厅,澳门网上网站网址大全
11月30日,韩媒:韩国会大楼被封,已禁止议员出入,168全站APP,皇冠365安卓下载,炸金花官方网,银河直播官方版下载
11月30日,这场论坛,诠释中法人文“双向奔赴”,优博网站是多少,k1体育棋牌二维码,BETVLCTOR伟德官网app下载,世界杯足球怎么购买
11月30日|新闻1+1丨“专精特新”,如何持续释放强动能?|ag手机网页注册|威廉国际|银河期货有限公司|ag亚洲游戏试玩
11月30日|中新健康丨达芬奇机器人+荧光显像技术精准导航 上海专家成功救回12岁女孩生命|立博最新地址|万人牛牛怎么开庄|大发888怎么开户|黄金城gcgc手机版下载
11月30日|中新教育丨高校清退留学生,释放何种信号?|沙巴在哪开户|盛世线路入口官网|星际线上平台|靠谱的买球平台
剑网3让步取消装备修理费,张翰不小心打扰刘涛|联合国警告:加沙的用水和卫生情况仍严重受限|真人葡京 国际厅|凯发是正规平台吗|澳门官方网投平台|尊龙app官方
监制:邓金木
策划:赖晗
主创:唐征宇 林箴贺 陈佛烘 颜亦阳 陈林韵
编辑:王家菁、段圣祺