12博现‘在的’网址 汽车动态 09-23_新万博体育
12博现在的网址 最近更新|更新列表|字母检索|下载排行|苹果专区|分类导航
网络游戏 单机游戏 手机应用 电脑软件 专题 热门排行榜
爱体育官网登录 扑克王app地址 斗牛游戏排行榜 kb体育入口 澳门星际游戏

当前位置：首页 → 电脑软件 → 打LGD满头大汗？如何评价BLG表现 → 12博现在的网址 v4.94 安卓最新版

12博现在的网址

12博现在的网址

  • 电脑版下载
猜你喜欢
标签： 12博现在的网址 365投注上限
详情
介绍
猜你喜欢
相关版本

内容详情

12博现在的网址

新智元报道

编辑：LRST

【新智元导读】杜克大学团队发现，扩散大语言模型只需关注少量「中奖」token，就能在推理时把速度提升61-97倍，还能让模型更懂格式、更听话。新策略DPad不训练也能零成本挑出关键信息，实现「少算多准」的双赢。

在大型语言模型的优化中，业界通常认为计算量与模型性能正相关。

然而，杜克大学陈怡然教授团队的一项最新研究DPad，却揭示了一个反直觉的现象：对于扩散大语言模型（dLLMs），通过一种「先验丢弃」策略，主动减少其计算量，不仅能带来高达61倍的推理加速，还能意外地增强模型语境学习的能力。

这一发现源于对dLLM内部一种「中奖彩票」（Lottery Ticket）现象的洞察。模型在生成文本时，其庞大的注意力网络中似乎隐藏着一个极度稀疏但高效的「中奖组合」。

DPad的核心贡献就在于，它无需训练，便能在推理时动态地、近乎零成本地找出这个组合，从而实现速度与精度的双重飞跃。

论文地址：https://arxiv.org/abs/2508.14148

代码地址：https://github.com/Crys-Chen/DPad

论文作者团队来自杜克大学CEI中心，由实习生陈欣骅、黄思韬及郭聪博士共同完成，指导教师为李海教授、陈怡然教授，其他作者还包括魏迟越、何银涛、张健一。

独特的注意力机制

dLLM的草稿纸

团队发现，dLLM的独特之处在于双向注意力，这使得它在生成文本时，会关注所有待生成的后文词元（Suffix Token），并将它们用作规划全文的「草稿纸」。

「草稿纸」机制使得模型能在Transformer的第n层往后文写入信息，然后在第n+1层读取后文信息，用于辅助前文的解码。

图1 「草稿纸机制」示意图，左下角为前文往后文写入信息，右上角为前文从后文读取信息

反直觉的实验

随手一抓，都能中奖？

前文提到，dLLM在解码前文时，会将大段的后文词元作为草稿纸。

团队进一步分析了模型对后文词元的注意力分数，发现模型对后文词元的注意力随着距离快速衰减，但还是会有一些零星「尖峰」。

说明后文词元有强烈的稀疏性，仅存在少量比较重要的词元。

这个发现完美契合了深度学习中著名的「彩票假说」（Lottery Ticket Hypothesis）。

受此启发，团队提出了「扩散彩票假说」（Diffusion Lottery Tickets Hypothesis）：在dLLM的后缀token中，存在一个稀疏的「中奖彩票」子集，只要能「抽中」它们，就能在大幅降低计算成本的同时，达到甚至超越完整模型的性能。

图2 当前块对后缀token的注意力分数图。可以看到，后文token存在部分尖峰

这也是正常词元剪枝(Token Pruning)的逻辑——统计注意力分数，确定不重要的词元，然后将其删除。

然而，DPad团队并不满足于此，他们进行了一项颠覆性的实验：强行删除那些距离很远、但注意力得分很高的「尖峰」词元。

结果出乎意料——模型的准确率几乎毫无损失！

不同于自回归模型，dLLM展现出了惊人的「自愈能力」，仿佛后文词元的信息可以自由流动，当一个关键路径被阻断时，注意力会立刻转移到邻近的词元上，形成新的信息通路。

图3 「注意力迁移」现象，删除「关键词元」后，模型的注意力尖峰转移到附近词元

这个「注意力迁移」现象有力地证明：dLLM的全局规划能力并非依赖于某些特定位置的「明星词元」，而更像是一种分布式的、可替代的冗余系统。

研究人员并没有必要花费大量的计算去确定「关键词元」，直接先验地剪枝，最终保有一套系统就行。

DPad的核心

从「事后剪枝」到「事前筛选」

基于上述发现，DPad提出了一套全新的「事前筛选」逻辑。

不再让模型「全力计算后才发现浪费」，而是在计算开始前就果断地丢弃掉绝大部分冗余部分。

实现该目标的核心是两大策略：

1.滑动窗口 (Sliding Window)：将模型的「目光」强制聚焦在当前解码位置附近的一个固定长度窗口内，从根本上杜绝了对遥远未来的无效关注。

这好比作家在写当前章节时，只详细规划紧邻的几章，而不是构思最后一章的具体措辞。

2.距离衰减丢弃 (Distance-decay Dropout)：在窗口内部，也并非一视同仁。DPad采用一种随距离递减的概率来保留词元，即「越近的草稿越详细，越远的草稿越潦草」。

这两招简单而有效，共同构成了一个动态的「中奖彩票」筛选器，让模型在每一解码步都只使用一个极度稀疏但高效的注意力子集。

图4 (a)自回归模型；(b) 传统dLLM，需要关注所有后缀token；(c) DPad，仅关注附近少数经过筛选的后缀token

颠覆性的成果

速度与精确度的意外双赢

DPad带来的并非传统意义上「牺牲精度换速度」的权衡，而是一场双赢。

「严格匹配」准确率的大幅提升

在常规评测中，「灵活匹配」（Flexible-Match）只要求答案数值正确，而「严格匹配」（Strict-Match）则要求模型严格遵循范例的格式与推理步骤，是衡量模型「语境学习能力」的关键指标。

图5 「灵活匹配」得分和「严格匹配」得分。原始模型（左）没能按照「####」的格式输出答案，没能通过「严格匹配」；使用DPad（右）后模型成功「记得」按「####」输出答案，通过「严格匹配」

图6 DPad在LLaDA-Instruct上的效果

实验显示，原始的LLaDA-Instruct模型在GSM8K任务上严格匹配率仅为37.38%，因为它虽然能算对答案，却无法很好地复刻范例格式。

而应用DPad后，通过滤除大量无关后文词元的干扰，模型能更专注于学习prompt中的有效信息，严格匹配率跃升至63.84%。

这表明，DPad让模型变得更「专注」，更能领会并执行复杂指令。

图7 DPad在LLaDA-1.5上的效果

图8 DPad在Dream-Base上的效果

意料之中的惊人加速比

当模型不再需要为海量冗余信息耗费算力后，其推理速度得到了指数级解放。在短示例、长文本生成场景下，DPad的优势被发挥到极致：

图9 在GSM8K(1024 tokens, 1-shot)任务上，LLaDA-1.5+Fast-dLLM+DPad实现了61.39倍的加速

图10 在HumanEval(2048 tokens, 0-shot)任务上，Dream-Base+Fast-dLLM+DPad实现了97.32倍的加速

在LLaDA-1.5模型（1024 词元输出）上，DPad结合并行解码等优化后，实现了61.39倍的综合加速。

在Dream模型（2048 词元输出）上，这一数字更是达到了97.32倍。

总结

DPad证明，对于dLLM而言，「少即是多」。

它通过一种巧妙的、免训练的「事前筛选」机制，揭示并利用了dLLM中潜在的稀疏结构。

其带来的不仅是接近两个数量级的推理加速，更有对模型深层能力的意外增强。

这项工作为我们开辟了一条全新的优化思路：未来的模型设计或许可以更大胆地探究稀疏性，让dLLM在「化繁为简」的道路上走得更远。

参考资料：

https://arxiv.org/abs/2508.14148

相关版本

    多平台下载

    查看所有0条评论>网友评论

    发表评论

    (您的评论需要经过审核才能显示) 网友粉丝QQ群号:766969941

    查看所有0条评论>>

    相关软件
    3D森林舞会 贝斯特全球最奢华的游戏平台下载 必赢bwin体育 亚星手机APP 凯时国际在线官网 全球代言体育平台 亚盈体育官网入口 澳门十大电子游艺平台首页 澳门永利电子官网 靠谱的足球外围推荐 银河信誉平台 m6足球官网 新网代理 mg摆脱大奖 9州娱乐平台 江南游戏网页 皇冠即时比分网 太阳2注册地址 爱游戏体育下载官网 北京pk10开奖直播 上快赢 缅甸金满娱乐 AG真人体育下载 银河网址 网上打钱的金花 金马会 万博官方manbext体育 凯发娱乐网址多少啊 免费计划软件 九游会ag真人官网网址 鸿博体育客户端下载 快乐炸金花老版本安卓版下载 线上赌博排名前十 平博信用能干什么 dafa娱乐场经典版 斗牛赢现金是什么游戏 电子游艺送彩金平台 亿博网投平台 澳门电玩城安全 真钱扑克在线 谁有九卅登录九卅娱乐 凯发在线平台 足球平台 BET9app下载 开元棋牌电子网投 买滚球的APP软件有哪些 亿博网站是多少 博狗体育官网 天博正规吗 乐橙lc8首页 m6米乐什么平台 临武六合特码王 开元娱乐66ky 立博苹果版 线上现金手机版下载 游戏厅捕鱼有龙有凤凰 开博体育官网网址 葡京手机版网址 im体育开户 万博平台 365app体育在线 贝博bb平台app 买球大全 皇冠体育客户端网站 365天天彩票网官网 十博体育客户端下载 AGGAME 米乐体育官方下载 麻将下载 电子捕鱼网址 澳门真钱体育 天博官方平台 免费送金币牛牛 下载天博体育 纬来体育网址是多少 乐动体育体育下载 平博体彩 华体会注册送18 千赢国际下载地址 至尊赌场免费安装 美高梅网投网 m6米6体育app官网下载 99真人开户 世博体育是真的吗 万博网页手机在线登录 澳门mg娱乐网址 十大网络棋牌 PG爱尔兰精灵 竞博手机版网页版登录 和记娱乐在线登录 365bet正规网站是多少 德扑圈输的回不了头了 万赢国际教育 AG官方平台 万博首页地址 最新国际标准针灸经络穴位挂图(女性真人版).epub 千亿体育登陆 maxbextx官方网站 华体会体育登录系统 OD在哪玩 九州开户网址 另版美女六肖图 米乐可靠吗 ASIA GAME 博天下平台 大发体育网站是什么 首页天9国际手机版 十大正规赌网 ag是真人吗 万博手机网页版网址 优博网址 新天地网站娱乐平台 贝投 澳门永利下注 ag捕鱼王3d高手 线上赌钱苹果版 棋牌娱乐大厅 AOA体育 银河总站网址是多少 英亚体育平台下载app 乐动体育登录入口
    热门网络工具
    新万博体育：我们 | 意见反馈 | 版权声明 | 合作伙伴 | 友情连接 | 联系我们 | 网站地图
    copyright 2022-2025 2265软件园.All Right Reserved