猫眼电影
猫眼电影记者 郑学词 报道Q8X2R7L1T4J5M9B6W3
VLA(Visual-Language-Action)大模型到底能跑多快?在这篇 RT-VLA(Real-time VLA)论文中,来自 Dexmal 原力灵机(由范浩强等人联合创立的具身智能公司)的研究者公布了一个反直觉的发现:它可以非常快!
具体而言,对于常用的 Pi0 级别的模型(30 亿参数),在单张消费级显卡 RTX 4090 上最快可以跑到 30fps。这和大家对于 VLA 模型动辄要几十甚至上百毫秒的刻板印象形成鲜明对比。
为实现这点,研究者深入分析 Pi0 的模型结构,通过一系列优化把用时从开始的 100+ ms 进行数倍缩减(针对双视角,甚至已经达到 27ms),显著强于 openpi 里采用的基于 jax 的自动优化的结果。
此外,研究者基于现有结果探讨了未来的“实时”运行的 VLA 结构,设计出一个有潜力最高实现 480Hz 闭环控制的算法框架。目前,优化后的代码已在 GitHub 开源,全部实现均打包为一个只依赖于 torch 和 triton 的单一文件,大家可在自己的项目里 “开箱即用”。这是Dexmal 原力灵机继开源一站式 VLA 工具箱 Dexbotic之后的又一开源代码工作。
论文名称:Running VLAs at Real-time Speed论文链接:https://arxiv.org/abs/2510.26742GitHub:https://github.com/Dexmal/realtime-vla
解决什么痛点?
现在机器人 VLA 大模型动辄几十亿参数,虽然有不错的泛化能力,但是延迟问题总是绕不过。即使是在高端推理显卡上,高达百毫秒级别的推理时间让机器人的实时控制困难重重,就像一个人看见东西后要愣一下才做出动作。
如果我们能够把模型运行到和相机一样快的频率(25fps、30fps 甚至 50fps),那么就可以在完全不丢帧的情况下处理视觉信息,让 VLA 模型的实时运行成为可能。
如何实现?
Pi0 模型计算流程图示,它主要包括 1 个视觉编码器,1 个编码器和 1 个解码器;所有这些又可进一步分解为一系列的矩阵乘法和标量运算。
对于 Transformer 这类模型,当它进行单次推理(比如只处理一个问题或一张图片)时,其内部计算过程实际上是由一长串零碎的 “矩阵计算小任务” 组成;而像 Pi0 这种采用 “流匹配” 技术的模型,需要反复迭代十次才能得出最终结果,每一次迭代本身就包含几十层计算。这样算下来,整个推理过程涉及数百层、上千个操作。任务如此零碎,让计算优化变得异常困难。
本文研究者通过深入分析模型推理过程中的计算问题,融合和并行优化每一个计算步骤,清除了推理方面的大部分障碍,再加上其他方面的优化,最终把整个 VLA 模型跑进了所需的时间之内。
这就像给了 VLA 大模型一份 “高性能 AI 大脑调校指南” ;它通过一系列深入的底层优化,把笨重的 AI 大模型变成能跑实时任务的 “闪电侠”,并在此基础上,构想出一个能同时具备条件反射、视觉反馈和智能思考的下一代机器人控制系统。
效果展示
上图所示的任务是抓取一支自由下落的笔。 这个任务对反应时间的要求极为苛刻。机器人观察到笔开始下落后,必须在极短的时间内做出反应并在正确的时间启动抓取动作,快一点或者慢一点都会导致任务失败。
最终呈现的效果是 从 “看到笔” 到 “执行抓取” 的端到端总反应时间被缩短到 200 毫秒以内,这大概对应到一个 30 cm 左右的最短下落距离。而人类在这个任务上的一般表现也不过如此。
下一步规划
基于上述取得的成果,研究者设计了一套完整的、围绕 GPU 打造的机器人控制框架,它能驱动 VLA 大模型,像 “直播” 一样对机器人进行流式的实时控制,让机器人拥有 3 种不同速度的 “反应神经”:
超快反应(480Hz):处理来自力传感器等高速信号。就像你的手一碰到烫的东西会瞬间缩回,不需要经过大脑思考。这部分由模型的 “解码器” 负责,能每秒生成 480 次控制指令。视觉反应(30Hz):处理来自摄像头的画面。就像你看着球飞过来,用眼睛跟踪并判断落点。这部分由模型的 “编码器” 负责。智能思考(<1Hz):处理语言理解和任务规划。就像你在执行任务时,还能分心听一下队友的指令或者自己琢磨一下策略。这部分速度最慢,但赋予了机器人更高的智能。
通过分析与实验,这个框架下一步规划最高能以 480Hz 的频率生成机器人控制信号;这个速度,已经摸到了实现基于力反馈进行控制的门槛。
未来展望
机器人有没有可能达到 “又聪明又快” 的效果?这篇文章只是一个起点。针对未来不断增加中的边缘计算算力,研究者展望了更进一步的可能性:
“眼睛” 最快能有多快?从 30fps 到 60fps,甚至 120fps,是否有新万博体育:的任务变得可行?“大脑” 最大能有多大?在实时性约束下,我们是否可以从 3B 模型,走向 7B,13B 模型,甚至更大模型?“反应” 速度的极限在哪里?在 VLA 框架下,我们是否还可以建立亚毫秒、甚至微秒级的反馈回路?
从这篇文章出发,一个能够参与实时控制 VLA 的世界的大门正在被打开。
??时事1:澳洲看世界杯的网站
??11月01日,【在希望的田野上】各地多举措推进粮食稳产增产,
“跟在我的后面,你们一定要活下来。”一位宿老对所有弟子叮嘱,而后一声大吼,他已经开路,杀了出去。
,九州体育手机版登录入口。??11月01日,“宝总”胡歌的宝岛情:繁花似锦,不虚此行,
三要充分认识农村工作面临的新形势和新任务,切实增强当好村干部的信心和决心。当前,中原经济区建设、汝州市省直管,给我们带来了机遇和挑战。从国家到地方,对做好“三农”工作、新型农村社区建设都高度关注,非常重视。国家连续出台了一系列强农惠农政策,上级部门也相继出台了粮食直补、农村生态文明建设、危房改造和环境整治等一系列补助政策,可以说,村庄建设和农村工作正面临着非常好的形势和环境。能否抓住机遇、加快发展,是对我们能力的一个考验。我相信,只要我们能够紧紧抓住这一有利时机,创新思路、加压苦干,聚精会神搞建设,一心一意谋发展,一定会大有可为、大有作为,成就一番新事业,创出一片新天地。
,188宝金博下载,棋牌真金,亚美下载。??时事2:新葡萄手机下载
??11月01日,国务院任免国家工作人员2024中国国际应急管理展览会在京开幕,
大家下午好!今天,我们在这里隆重集会,纪念五四运动94周年,表彰20xx年度共青团工作先进集体和个人。借此机会,我谨代表学院党委向在座的青年朋友,并通过你们向全院的广大共青团干部和青年朋友们致以节日的问候和诚挚的祝愿!向将受到表彰的共青团工作先进集体和先进个人表示热烈祝贺! 同学们,青年朋友们!一年来,我院广大团员青年在学院党委及上级团组织的领导下,在院团委的指导下坚持学习实践科学发展观,紧紧围绕党政中心工作,以“育人为本,服务为上”为工作理念,以“素质教育学分化,过程服务个性化”为工作思路,开拓创新、锐意进取,在学生思想政治教育、校园文化建设、科技创新、社会实践活动、校运会服务等方面取得了可喜的成绩。院团委荣获陕西大中专学生志愿者暑期“三下乡”社会实践活动“先进单位”、“20xx年度陕西省高校共青团工作优秀单位”称号、20xx年度咸阳市共青团工作优秀奖,数控工程学院团总支获陕西省五四红旗团总支,材料工程学院团总支获咸阳市五四红旗团总支,“一加”春雨爱心社荣获“咸阳市优秀青年志愿者服务队”称号,侯涛同志荣获“咸阳市优秀青年志愿者”称号,等等。这些成绩的取得是全院各级团学组织、各级团学干部带领广大团员青年努力奋斗的结果。在此,我谨代表学院党委向战斗在一线的全院各级团学组织、全体团学干部、全体团员青年表示衷心的感谢!大家辛苦了!
,91111威斯尼斯人怎么会打不开呢,雷竞技下载iOS,世界杯竞彩网站下载。??11月01日,风暴“伊莎”袭击英国 希思罗机场多架航班艰难降落,
神箭惊荒林!
,7m足球比分,2026年世界杯投注额,真钱金沙下注。??时事3:银河场注册
??11月01日,【理响中国】坚定不移走中国特色金融发展之路,
同样的情况发生了雷族、金狼部落,没有人愿意送死,都想远离那株妖异的柳树。
,欧洲杯买球球,比较正规的娱乐平台,刺激战场国际服哪个区真人多。??11月01日,15国华裔青少年浙江宁波告别寻根之旅,
非常感谢大家来参加这个家长会,你们的孩子身体长高了,学习进步了,也越来越懂事了。教孩子们的每一位任课老师都是优秀的,但我们每一位家长更是优秀的,没有你们的理解、支持和配合,我们的工作就不会取得这么大的效果,孩子们就不会有这么大的进步。所以在这里我要感谢所有支持我们工作,配合我们工作的家长们。是你们相信我们,支持我们,配合我们的工作,才使孩子们逐渐地成长起来!今天,把大家请到学校来,就是要和各位家长进一步沟通,进一步互相理解、互相支持,一起帮助孩子取得更大的进步,为他们获得美好幸福的人生奠定坚实的基础。
,双赢棋牌网站,百老汇体育APP,od体育官方网站。??时事4:世界杯买球平台app
??11月01日,山西古建筑100问——“关外巨刹”慈云寺,何以见证多民族文化交响?,
雨族众人商量对策。
,爱游戏体育注册地址,哪里可以下载捕鱼达人4破解版,永利登入视讯。??11月01日,广西新投运一条绿电“高速” 助力新能源高效利用,
石昊不曾出手,便惊退了山中的几位可怕的霸主。
,世界杯足彩投注规则,亚洲bet官网,金沙体育馆。责编:周中枢
审核:陈家瑛
责编:伊斯梅利亚












