新万博体育

　　猫眼电影记者 陈嘉桦 报道Q8X2R7L1T4J5M9B6W3

智东西作者 程茜编辑 心缘

智东西10月31日消息，今天凌晨，大模型独角兽月之暗面开源混合线性注意力架构Kimi Linear，该架构首次在短上下文、长上下文、强化学习扩展机制等各种场景中超越了Transformer架构的全注意力机制（Full Attention）。

Kimi Linear的核心是线性注意力模块Kimi Delta Attention（KDA），通过更细粒度的门控机制扩展了Gated DeltaNet，从而能够更有效地利用有限状态RNN内存。论文中指出，Kimi Linear既可以满足Agent对效率和测试时扩展的需求，同时也不会牺牲模型质量。Kimi在社交平台X发布帖子称，Kimi Linear随时可以作为全注意力的直接替代品。

研究人员基于KDA和多头潜在注意力（MLA）的逐层混合，预训练了具有30亿个激活参数和480亿个总参数的Kimi Linear模型。

其实验表明，在相同的训练方案下，Kimi Linear在所有评估任务中均显著优于全注意力机制，同时将KV缓存使用率降低75%，并在100万个Token的上下文中解码吞吐量提升6倍。

论文提到，这些结果表明，Kimi Linear可以作为全注意力架构的直接替代方案，并具有更优异的性能和效率。

Kimi开源了KDA内核和vLLM的实现，并发布了预训练和指令调优的模型检查点。

▲Kimi Linear的Hugging Face开源主页

GitHub：https://github.com/fla-org/flash-linear-attention/tree/main/fla/ops/kda

Hugging Face：https://huggingface.co/moonshotai/Kimi-Linear-48B-A3B-Instruct

一、剑指标准注意力机制两大瓶颈，解码吞吐量最高提升6倍

随着Agent热潮涌起，尤其是在长时域和强化学习场景下的推理计算需求正成为核心瓶颈。这种向强化学习测试时扩展的转变，使得模型必须在推理时处理扩展轨迹、工具使用交互以及复杂的决策空间，从而暴露了标准注意力机制的根本性缺陷。

传统Transformer架构的softmax注意力机制，存在计算复杂度高、KV缓存占用大两大瓶颈。

在此基础上，Kimi提出了混合线性注意力架构Kimi Linear，可以满足Agent的效率需求和测试时间扩展性，同时又不牺牲模型质量。

其核心是Kimi Delta Attention（KDA），这是一个硬件高效的线性注意力模块，它在Gated DeltaNet的基础上扩展了一种更细粒度的门控机制。与GDN采用粗粒度的头部遗忘门控不同，KDA引入通道级对角门控，其中每个特征维度都保持着独立的遗忘率。

这种细粒度设计能够更精确地控制有限状态RNN的记忆，从而释放混合架构中RNN类模型的潜力。

至关重要的是，KDA使用Diagonal-Plus-LowRank（DPLR）矩阵的特殊变体对其转移动态进行参数化，从而实现定制的分块并行算法，该算法相对于一般的DPLR公式大幅减少了计算量，同时保持与经典delta规则的一致性。

Kimi Linear将KDA与周期性的全注意力层以3:1的均匀比例交错排列。这种混合结构在生成长序列时，通过全注意力层保持全局信息流，同时将内存和键值缓存的使用量降低高达75%。

通过匹配规模的预训练和评估，Kimi Linear在短上下文、长上下文和强化学习风格的后训练任务中，始终能够达到或超越强大的全注意力基线模型的性能，同时在100万上下文长度下，解码吞吐量最高可提升到完整MLA的6倍。

Kimi研究团队的主要贡献包括：

1、线性注意力机制KDA，改进了门控delta规则，提高了循环内存管理和硬件效率；

2、Kimi线性架构采用3:1 KDA与全局注意力比率的混合设计，在减少内存占用的同时超越了完全注意力质量；

3、大规模的公平经验验证：通过1.4T个token的训练运行，Kimi Linear在短、长上下文和RL风格的评估中优于完整的注意力机制和其他基线，并完全开源了内核、vLLM集成和检查点。

二、通过细粒度门控改进Delta规则，多个组件提升表达能力

论文中介绍了KDA的分块并行化，展示了如何在对角门控下保持稳定性的同时，将一系列秩为1的矩阵变换压缩成稠密表示，在输出阶段，研究人员采用块间递归和块内并行策略来最大化矩阵乘法吞吐量，从而充分利用张量核心的计算潜力。

▲输出阶段

在表达能力方面，KDA与广义DPLR公式一致，两者都表现出细粒度的衰减行为，然而这种细粒度的衰减会在除法运算期间引入数值精度问题。

通过将变量a和b都绑定到k，KDA有效地缓解了这一瓶颈，将二级分块矩阵计算的次数从四次减少到两次，并进一步消除了三次额外的矩阵乘法。因此，与DPLR公式相比，KDA的算子效率提高了约100%。

▲KDA算子效率情况

此外，KDA模型架构主要基于Moonlight，除了细粒度的门控之外，研究人员还利用了多个组件来进一步提升Kimi Linear的表达能力。

神经参数化：输出门采用类似于遗忘门的低秩参数化方法，以确保参数比较的公平性，同时保持与全秩门控相当的性能，并缓解注意力陷阱问题；

▲Kimi Linear模型架构示意图

混合模型架构：研究人员将KDA与少量全局注意力层混合。经验表明，3:1的统一比例，即3个KDA层对应1个全MLA层，能够提供最佳的质量-吞吐量平衡。

MLA层不采用位置编码（NoPE）：研究人员对所有MLA层应用了NoPE。其发现与先前的研究结果一致，用专门的位置感知机制来补充全局NoPE注意力机制，可以获得具有竞争力的长上下文性能。

▲Kimi Linear合成任务的结果

三、性能评估整体优于MLA，通用知识、推理、中文任务得分第一

研究人员评估了Kimi Linear模型与全注意力MLA基线、混合门控DeltaNet（GDN-H）基线的性能，所有基线均采用相同的架构、参数数量和训练设置。

研究人员使用1.4T预训练语料库将Kimi Linear模型与两个基线模型（MLA和混合GDN-H）进行了比较，评估主要集中在三个方面：通用知识、推理（数学和编程）以及中文任务，Kimi Linear在几乎所有类别中都始终优于两个基线模型。

在常识方面：Kimi Linear在BBH、MMLU和HellaSwag等所有关键基准测试中得分最高；推理能力方面：Kimi Linear在数学和大多数编程任务方面领先，与GDN-H相比，其在EvalPlus上的得分略低；中文任务上：Kimi Linear在CEval和CMMLU上取得了最高分。

▲Kimi Linear与全注意力MLA基线、混合GDN基线的性能比较

研究人员称，Kimi Linear可以成为短上下文预训练中全注意力架构的有力替代方案。

在经过相同的监督式微调流程后，研究人员测试发现，Kimi Linear在通用任务和数学与代码任务中均表现出色，始终优于MLA和GDN-H。

在通用任务中，Kimi Linear在各种MMLU基准测试、BBH和GPQA-Diamond上均取得了最高分。

在数学与编程任务中，它在AIME 2025、HMMT 2025、PolyMath-en和LiveCodeBench等高难度基准测试中超越了所有基线模型。

▲Kimi Linear与MLA、GDN-H在长上下文基准测试中的比较

总体结果总结：在预训练和SFT阶段，Kimi Linear优于GDN-H，GDN-H又优于MLA；在长上下文评估中，这一层级发生了变化，Kimi Linear保持领先地位，GDN-H的性能下降落后于MLA；在强化学习阶段，Kimi Linear性能优于MLA。

效率方面，随着序列长度的增加，混合Kimi Linear模型在较短的序列长度（4k–16k）下，性能与MLA相当，从128k开始速度显著提升。对于512k个序列，Kimi Linear的性能是MLA的2.3倍；对于1M个序列，其性能是MLA的2.9倍。在100万个Token上下文长度的解码效率方面，Kimi Linear的速度是全注意力机制的6倍。

▲Kimi Linear与MLA、GDN-H在效率方面的比较

结语：攻克全注意力机制瓶颈，Kimi Linear实现性能、效率双超越

Kimi Linear通过KDA的细粒度门控与高效分块算法、3:1混合注意力架构，首次实现性能超越全注意力以及效率大幅提升的突破，且在100万个token长上下文、强化学习等场景中表现突出，使得其可以兼顾效率和可扩展性，为下一代Agent发展、解码密集型大模型提供了高效解决方案。

同时，Kimi Linear可以作为全注意力架构的直接替代品，这意味着在实际应用中，开发者可以直接采用Kimi Linear架构来改进现有模型，而无需进行大规模的重新设计和训练，有效降低开发成本和计算资源成本。

??时事1：美女真人A级视频免费看

??10月27日,英雄联盟LPL春季赛揭幕 新赛季新变化创造新看点,

　　刚走出数里，小不点就遇到了老族长，他极速而来，脸上充满了忧愁与焦急。

,男女生一起努力生孩子。

??10月27日,广东已成立梅大高速茶阳路段塌方灾害调查评估组，省长任组长,

　　“轰”的一声，村外尘土冲天，青鳞鹰松开了巨爪，一头庞然大物坠落在地上，砸出一个大坑，土石飞溅，烟尘冲起。

,被强迫露出两个奶头给男生吃,国产欧美亚洲另类,黄黄污污网站在线观看禁18。

??时事2：日日干夜夜拍天天添天天日天天操

??10月27日,“龙的传人”书画艺术交流展台北开幕 ,

　　一、20__年全市档案工作基本情况

,玖辛奈同人漫画黄裸,欧美激情 二区,足浴店美女玩双飞A片。

??10月27日,香港航青团团员：青年应“情高志远”,

　　数十里外，石山并立，狂暴的瀑布垂挂，或许这已不算是瀑布，而算是山洪，隆隆声震的人耳朵都快聋了。

,18岁视频免费在线观看,大黑吊爆肏肏屁股视频,higgsfieldai安卓版下载。

??时事3：哪里可以看毛片

??10月27日,重庆警方破获特大制售假冒伪劣电热毯案 涉案总金额2000余万元,

　　“先保住现在的命要紧，事后想办法将狈村知晓的人全都杀个干净，既然他们不仁，逼迫我们至此，就别怪我们不义！”石云峰寒声道，第一次露出这样可怕的表情。

,在线看黄视频网站,97久久精品人人澡人人妻,在线无码91超碰。

??10月27日,江苏南京：三棵千年古银杏迎来最佳观赏季,　　编队刚到达任务海区，雷达部位就报告海区出现可疑目标。编队迅速调整阵位，组成攻击、防御两个阵型。此时受短时降雨影响，海上涌浪明显增强，艇身摇摆不定，能见度低。指挥员立即指挥车舵兵保持航向稳定，配合抓取目标。,美女扒开内裤羞羞视频网站,日韩精品视频,女高中打屁股 ╳网站。

??时事4：香蕉视频A片

??10月27日,中国驻卢森堡使馆驳斥美国驻卢使馆对中卢关系无理指责,

　　“老祖，你就这样主持公道吗？”石子陵大喝。

,欧美性爱网站有哪些?,欧美一级性爱黄色视频免费,日韩黄色网站免费观看。

??10月27日,（新春走基层）兰州新区农业升级增效锦上添“花”：30万枝郁金香香飘全国,

　　第四、提高服务群众、为民办实事的能力。 农村基层干部直接和农民群众打交道，官虽然不大，但其作用和能量却不可低估。群众始终把我们当成党和政府形象的化身。农村基层干部认真为群众办实事，遇事同群众商量，干部的形象就好，党在农民群众中的威望就高。反之，就会直接影响党和政府的形象。我们要切实解放思想，转变观念，自觉地从那些不合时宜的观念、做法和体制的束缚中解放出来，破除不思进取、小富即安的思想，树立强烈的发展意识;破除墨守成规、因循守旧的思想，树立强烈的创新意识;破除封闭保守、固步自封的思想，树立强烈的开放意识。按照县委总体发展目标和发展思路，把主要精力放在实施 “ 六大工程 ” 、 “ 三大战役 ” ，搞活商贸流通，培育新的经济增长点，增加农民的收入上来。要通过提高服务水平，帮助群众解决好制约发展的各种问题，为群众提供良好的产前、产中、产后服务。特别要结合落实中央四个长效机制文件，巩固先进性教育成果，落实服务承诺制，开展各种便民利民活动，切实为群众办实事，做好事，解决好群众最直接、反映最强烈的热点难点问题，帮助解决一家一户难以解决的问题，努力为群众发展经济排忧解难，推动农村经济发展，实现共同富裕。

,亚州图片国产主播,一级A片激情,老太婆性杂交欧美肥老太。