GELab-Zero团队 投稿量子位 | 公众号 QbitAI
首次将GUI Agent模型与完整配套基建同步开放,支持手搓党一键部署!
这就是阶跃星辰刚刚开源的GELab-Zero。
其中4B版本的GUI Agent模型在手机端、电脑端等多个GUI榜单上全面刷新同尺寸模型性能纪录,取得SOTA成绩。
随着AI在手机等消费终端的普及,Mobile Agent正从“能不能用”迈向“能否规模化落地”。
GUI Agent是执行能力最强的形态之一。它基于视觉理解即可适配几乎所有App,无需厂商额外改造,接入成本极低。
此外,阶跃还同步开源了基于真实业务场景的自建评测标准AndroidDaily,以期推动GUI领域模型评测向消费级、规模化应用发展。
同尺寸性能 SOTA,端到端、轻量化、速度快
要知道,让GUI Agent在不同品牌与系统版本的设备上顺畅运行并不轻松。
移动生态的高度碎片化让开发者需处理多设备ADB连接、依赖安装、权限配置、推理服务部署、任务编排与回放等繁琐流程,工程成本高昂,精力难以聚焦在策略创新与体验设计上。
要推动移动端Agent真正规模化,必须首先降低开发与使用门槛,让开发者专注于创造价值,而非重复搭建底层设施。
基于此,阶跃开源了GELab-Zero。
它主要包含三部分:
一个能在本地运行的GUI Agent模型GELab-Zero-4B-preview即插即用的完整推理工程基建,解决所有脏活累活基于真实业务场景的自建评测标准AndroidDaily
研究团队在ScreenSpot、OSWorld、MMBench、Android World多个开源基准测试上对GELab-Zero-4B-preview模型进行了全面评估。
这些基准测试涵盖了GUI理解、定位、交互等多个维度。
从测试结果可以看出,GELab-Zero-4B-preview在多项开源基准测试中超越其他主流模型,拿下同尺寸SOTA。
值得一提的是,GELab-Zero-4B-preview的表现还超越了参数量更大的GUI-Owl-32B等模型,性能更优,也更易部署。
来看一下研究团队给出的示例场景。
复杂任务
场景1:在外卖平台同时采购跨品类、不同规格和数量的商品。
Prompt:去饿了么离我最近的盒马鲜生购买:红颜草莓300g、秘鲁比安卡蓝莓125g(果径18mm)、当季新鲜黄心土豆500g、粉糯贝贝南瓜750g、盒马大颗粒虾滑、2瓶盒马纯黑豆豆浆300ml、小王子夏威夷果可可脆120g、盒马菠菜面、盒马五香牛肉、5袋好欢螺柳州螺狮粉(加辣加臭)400g、m&m’s牛奶巧克力豆100g
可以看到,模型精准识别了物品信息,并顺畅地完成了多步骤、重复性的购买操作。
场景2:在企业福利APP中领取餐券。
Prompt:打开给到App,在我的,下滑寻找,员工权益-奋斗食代,帮我领劵。
上述示例展示了GELab-Zero-4B-preview执行的能力和范围具有很强的泛化性,无论在国民级APP还是小众产品平台,都可以顺利完成任务。
模糊指令
场景1:在某个视频平台上播放指定演员的经典作品。
Prompt:在腾讯视频上找一部成龙的经典动作片播放。
接到指令后,GELab-Zero-4B-preview自主拆解“经典”这一需求,确定执行标准。
过程中,模型先打开腾讯视频,识别并关闭了弹窗,搜索“成龙”后在电影类目中选择了页面上成龙评分最高的代表作播放。
场景2:找一个周末能带孩子玩的地方。
Prompt:帮我找个周末能带孩子去玩的地方。
接到指令后,模型首先在内容平台搜索“北京周末带娃”,然后自主判断衡量标准后为用户推荐北京园博园“顽酷奇遇”,并为用户提炼出该地点的亮点——“有巨型装置卡通,亲子活动丰富”。
可以看到,GELab-Zero-4B-preview模型能够很好地执行复杂任务和模糊指令,不仅可以准确、流畅地执行涉及到多步骤、多主体、重复操作的任务,也能对“好看”“适合玩的”“经典”等偏笼统和主观性的指令进行自主拆解,确定执行路径和标准。
GUI+基建=GUI Agent MCP,一键拉起部署
针对GUI智能体,研究人员构建了一整套完整的技术架构体系,可以一键拉起获得类似开源GUI Agent MCP的体验。
具体能力如下:
轻量级本地推理支持4B模型在消费级硬件上运行,兼顾低延迟与隐私。一键任务启动提供统一部署流水线,自动处理环境依赖和设备管理。多设备任务分发可以分发到多台手机并记录交互轨迹,实现可观测、可复现。多种Agent模式涵盖ReAct闭环、多智能体协作以及定时任务等多种工作模式。
这些能力让GELab-Zero能够灵活应对真实场景的复杂任务流,并为后续扩展提供扎实底座。
Agent开发者可基于这套基建快速测试新想法、验证交互策略;企业级用户则能直接复用这套基建,将MCP能力快速植入到产品业务中。
自建并开源贴合真实业务场景的评测基准
此外,研究团队基于手机、IoT、汽车等行业头部公司的真实合作案例,建立了高度贴合业务场景的评测基准。
当前的主流基准测试,大部分聚焦于生产力类应用(如邮件与文档处理)。
然而在日常真实场景中,用户高频依赖的却是生活服务类应用,如外卖、打车、社交、支付等,而这部分场景不仅覆盖面更广,也更能体现当下GUI Agent 的实用价值。
为此研究者提出 AndroidDaily,一个面向真实世界、动态演进的多维基准体系。
它聚焦在现代生活六大核心维度:饮食、出行、购物、居住、信息消费、娱乐,并优先选择在这些类别中具有代表性(高频使用、应用商店日活排名靠前)的主流应用进行测试,高度还原真实任务执行流程(包括询问用户新万博体育:信息补充输入、高危操作请求用户接管)。
评测结果显示,GELab-Zero-4B-preview在AndroidDaily测试中准确率达到73.4% ,在移动端复杂任务中表现优秀。
为了平衡评估的全面性和执行效率,AndroidDaily采用了静态评测和端到端评测双轨评估体系。
静态评测考察模型的grounding(界面理解、元素识别)和action规划能力,用于检验其在推理与执行一致性等基础层面的表现。
端到端测试重点衡量GUI Agent在真实环境中处理复杂任务时的执行效果与稳定性。
其中,静态测试包含3146个actions,提供任务描述和逐步的屏幕截图,要求Agent预测每一步的动作类型和动作值(如点击坐标、输入文本),主要评估数值准确率。
这种方法无需复杂的工程基础设施,可以快速、低成本地进行大规模模型迭代和测试。
而端到端测试包含235个任务,典型任务场景包括出行交通(打车、导航、公共交通等)、购物消费(电商购物、支付、订单管理等)、社交通讯(消息发送、社交互动等)、内容消费(新闻阅读、视频观看、内容收藏等)、本地服务(外卖、到店服务)等。
在完全功能化的测试环境(如真实设备或模拟器)中进行,Agent需要从头到尾自主执行任务,最终以整体任务成功率作为评价指标,能真实反映智能体在复杂环境中的综合能力。
团队表示,希望通过GELab-Zero的开源,进一步降低移动端Agent的开发门槛,让新万博体育:开发者能够快速构建和验证自己的想法。
未来,研究团队将始终坚持开放、可控、隐私优先的原则,持续优化模型性能、扩展跨平台支持、丰富生态工具链。
GitHub:https://github.com/stepfun-ai/gelab-zero抱抱脸:https://huggingface.co/stepfun-ai/GELab-Zero-4B-preview
《谁给介绍一个靠谱的网赌网站》,《Q8X2R7L1T4J5M9B6W3》ayx爱游戏网页版|AYX体育
“赌场游戏大厅”
凯时官方网站
……
11月27日
“开运官网入口”公园把树挖了搞植树节?不实
↓↓↓
11月27日,2024明文化论坛7月举办 百余件精品文物展明韵风华,博鱼体育下载地址,mgm外围官网,98娱乐彩票官网,开元娱乐6669cc
11月27日,2024年三亚国际游艇展开幕,澳门金沙城中心娱乐场地址,app下载体育,聚星平台登陆,乐鱼体育网站登录
11月27日,优酷发布“港艺振兴计划”剧集片单,携手TVB邵氏寰亚等共创新港剧,万博官方manbext官网,足球竞彩app苹果版,500快三平台app下载,M6体育下载
11月27日|波音预测未来20年全球航空货运机队将增至3900架货机|申博真人在线app下载|爱博app官方|彩票快三下载|十大外围竞彩
11月27日|【两会30秒】中山大学校长高松:中山大学将到香港设立高等研究院|126直营手机版|维尼斯人网址|华体会登录|手机上怎么投注世界杯
11月27日|海外侨胞、归侨侨眷请查收!云南省侨办给您拜年了|极速直播|万博官网登录手机版本|百老汇唯一授权官方网站|九州天下现金bet8……
11月27日,2024年全国夏季游泳锦标赛:孙杨进行赛前训练,到哪里投注世界杯,金沙3983www下载,免费送2000试玩金网站,ag贵宾会
11月27日,程丽华当选重庆市政协主席,上葡京娱乐app,大玩家网站,葡京赌盘欢迎您平台首页,九州体育娱乐官网bet9
11月27日|1月15日至22日陕西出现大范围雨雪寒潮天气|在线真人游戏开户|开元棋盘牌官网最新版|hg体育投注|美天棋牌五人牛牛
11月27日,11月上旬流通领域重要生产资料市场价格:19种产品价格上涨,亚洲bet356的网址,欧博在线登录,ag真人游戏厅,aoa体育是什么平台
11月27日,台湾青年观摩中国航展:备受震撼 成为歼−20模型拥趸,捕鱼游戏正规平台,太阳网上娱乐网官方网,下载注册送188,英皇国际官方版下载
11月27日,欧亚水獭重现广东珠海淇澳-担杆岛保护区,和记娱乐注册,现在的赌钱app,赢多多下载app,心博天下买球
11月27日|北京:通州新政满月成交回升,购房需求加速释放|九游会可靠吗|环亚安卓版下载|如何投注买世界杯|ag真人国际厅网址
11月27日|(身边的变化)甘肃环县“菜园风景独好” 空院荒地成“聚宝盆”|金沙城中心网址|万博升级版下载|千亿官网是多少|bet36体育在线备用网
11月27日|湖南桃江男子17年贴心守护卧床妻子:只为儿女回家有声“娘”|博天堂客户端下载|九州体育买球|天博体育登录不上|jdb电子平台网址大全
美日韩举行海上联合训练,曝中传大三女生虐猫|2024横店影视节定档 首届国际影片交易会同步进行|亚星在线官网|必赢亚洲官网手机网页|betball贝博登陆|cc彩球官网平台入口
监制:邓金木
策划:赖晗
主创:唐征宇 林箴贺 陈佛烘 颜亦阳 陈林韵
编辑:王家菁、段圣祺