新万博体育

　　猫眼电影记者 陈琮英 报道Q8X2R7L1T4J5M9B6W3

近一年以来，统一理解与生成模型发展十分迅速，该任务的主要挑战在于视觉理解和生成任务本身在网络层间会产生冲突。早期的完全统一模型（如 Emu3）与单任务的方法差距巨大，Janus-Pro、BAGEL 通过一步一步解耦模型架构，极大地减小了与单任务模型的性能差距，后续方法甚至通过直接拼接现有理解和生成模型以达到极致的性能。

香港中文大学 MMLab 和美团的研究者相信，在不久的将来统一模型的性能一定能够达到单任务的水平，但同时也引起了他们的思考，目前通过拆解架构换取性能提升的方式真的是正确的吗，它是否背离统一模型的初衷，它能够提升性能的内在原因又是什么，这种方式真的是统一模型必须的吗？

「统一模型的初衷」以及「 架构解耦的缺点」

统一理解生成模型的初衷是为了通过透明化、合理化的图文交错思考过程，提高单任务的性能，例如让模型走迷宫时统一模型可以生成每一步对应的图像，可以在模型做数学题的时候给图像画上辅助线，或者是在生成一张图像的时候边画边思考有没有生成不合理的地方并且自动修正，这些都是 Uni-MMMU 等当前统一模型基准所关注，也是它本身被独立成一个领域的初衷。

再回到架构解耦的模型，例如 BAGEL 上，它本身如果要实现图文交错思考，需要经历隐空间解码到文字或者像素空间，然后再编码到隐空间的复杂过程，两个任务也几乎不在同一个模型空间中，具有计算开销大、信息丢失两大问题。虽然在当前情况下相比于其可观的性能，这个问题似乎并不显著，但是研究者认为随着研究的进行，这会是一个很大的问题。

AIA: 模型架构解耦不是统一模型必须的

为了探究清楚「架构解耦带来性能提升的内在原因」以及「探索不使用架构解耦的前提下提升模型性能的方式」，香港中文大学 MMLab 和美团联合推出了 AIA。

论文标题：Architecture Decoupling Is Not All You Need For Unified Multimodal Model论文链接：https://arxiv.org/abs/2511.22663代码：https://github.com/zhengdian1/AIA网页：https://github.com/zhengdian1/AIA-project

研究者首先通过研究不同架构的统一模型在每一层网络中跨模态交互的强度，他们惊讶地发现不管如何进行模型架构解耦，理解和生成任务在同一层网络中始终呈现负相关的关系，同时进一步验证了这个现象与输入的模态、长度和类别都没有关系，这说明是模型自发在学习如何合理地分配两个任务在每一层中的占比，从而 「缓解冲突」，这又说明架构解耦本质上并没有解决任务之间冲突的问题。

研究者进一步在最后一列可视化了现在单任务 SOTA 的模型的多模态交互模式（HunyuanImage-3.0 虽然是统一模型，但更侧重于生成效果），结果发现随着模型解耦程度的增强，其对应的跨模态交互模式会趋向于单任务的表现，这也是能够实现性能提升的主要原因。

基于这个发现，研究者设计了Attention Interaction Alignment (AIA) 损失，通过将单任务模型的跨模态交互模式作为学习目标，在训练的过程中显式地约束统一模型的交互模式。

AIA 效果如何？

研究者在 Emu3 和 Janus-Pro 这两种完全统一架构、轻微模型解耦架构上进行了实验，如下表所示，结果表明本文的方法能够在没有任何其他 trick 的情况下提升这些模型的性能，减小了与更高解耦程度模型的差距。

同时，研究者给出了使用 AIA 损失之后 Emu3 和 Janus-Pro 跨模态交互模式曲线变化，可以发现加入了 AIA 损失之后，两个模型的交互曲线都向单任务模型的表现靠近了，既证明了 AIA 损失的有效性，同时也说明了模型架构解耦不是唯一能够提高统一模型性能的方式。

当然，研究者也承认在目前情况下完全统一的方法和高解耦程度的模型之间存在很大的差距，但正如 Emu3.5 的出现，他们认为这个差距会越来越小。因此，研究者呼吁新万博体育：的人抛开表层的框架和数据配比，深入研究统一模型的任务冲突问题，寻找更优的解法。

AIA 好训吗？

由于 Emu3 只有预训练 (PT) 阶段是统一训练的，因此研究者在其 PT 权重上进行微调，而 Janus-Pro 给的是最终 SFT 微调后的权重，研究者在此基础上进行后训练。

研究者通过调整 AIA 损失与 next-token-prediction (NTP) 损失的比重来测试其微调的敏感度，结果发现训练 Emu3 的时候由于其预训练知识比较薄弱，AIA 损失在一个很大的范围内都能达到稳定收敛的效果。而在 Janus-Pro 中，由于其本身预训练知识很强，AIA 的加入非常容易影响模型训练，但在合适的比重情况下仍然能够达到不错的效果。

AIA 有什么优势？

AIA 损失的加入可以一定程度上减少现在常见的数据配比工程问题，本文的方法在生成与理解数据配比在 1:1 的情况下能够达到更好的效果，这说明在一定程度上两个任务的训练不再是冲突的，产生了协同优化的效果。

统一模型训练的正确道路是什么？

通过结合现在所有统一模型训练的问题以及本文的实验分析，可以发现不管怎样解耦模型，其始终会在统一训练的过程中动态分配不同任务在同一层的权重来缓解冲突，那这是否实际上代表了统一模型的正确行为？

另一条统一路径是移除所有可以用来区分任务的线索（即采用统一分词器、消除任务相关特殊 token、使用交错数据数据输入），迫使模型只能从输入中学习真正的统一空间。虽然这种方法或许可以解决任务间的负相关问题，但也会显著增加训练难度。

未来展望

AIA 迈出了统一模型训练原理分析的第一步，研究者希望能够有新万博体育：志同道合的研究者加入这个领域的探索。统一模型现在的理论、架构都远远没有达到成熟，需要大家共同进行探索。同时研究者也希望大家能够更加关注统一模型真正的意义，不要一味地关注当前单任务基准上的性能。

??时事1：91毛片aa

??11月29日,国网辽宁省电力有限公司原三级顾问辛国良接受审查调查,

　　今年以来，乡党委、政府在县委的正确领导下，团结和带领广大干部群众以xx大和xx届四中全会精神为指导，深入贯彻落实科学发展观，结合我乡实际，紧紧围绕增加农民收入这一中心，突出结构调整、项目建设、基础设施和新农村建设等工作重点，积极构建和谐社会，全乡经济和社会各项事业呈现出又好又快发展的良好态势。总括起来主要有以下几个方面的进展：一是围绕学习贯彻党的xx大和xx届四中全会精神的要求，以科学发展观为统领，狠抓学习型党组织建设，深入开展创先争优活动，不断破除不适应、不符合科学发展的思想观念，进一步完善发展思路，以开拓创新的精神促进科学发展，在各个方面推出了新举措，取得了新成效。二是发挥资源和环境优势，项目建设工作成效明显。投资3000万元的洁云毛驴养殖及驴肉深加工项目，高台华盛化工有限公司投资500万元的节能环保项目，投资150万元的空心砖生产项目、万丰山煤矿勘探项目正在扎实推进。三是发挥地域优势，狠抓种植业结构调整，在经济作物种植上有了新的进展，四是加大政策引导和扶持力度，整合资源、重点突破，以奶肉牛、肉兔养殖为重点的草畜产业和水面养殖发展势头强劲;以危房改造为重点的新农村建设工作进展良好;以集镇路改造 、乡集贸市场建设为重点的基础设施建设力度大并进展顺利。五是重视解决民生问题，着力促进社会和谐，各项强农惠农政策全面落实，社会各项事业协调发展;坚持和完善“民情”、“法德进家”、“一庭三所联动”等行之有效的矛盾纠纷排查调处机制，群众反映的一些突出问题得到了较好解决，为经济社会发展创造了稳定和谐的社会环境。六是全面加强精神文明建设和党的建设，创先争优活动全面深入开展，党内激励关怀帮扶机制全面落实，公民思想道德教育和精神文明创建活动扎实有效，群众性文化体育活动丰富多彩。始终坚持“抓班子，带队伍，促发展”的思路，加强党的自身建设和队伍建设。继续深入开展了城乡党组织“1+1”结对互帮、积分制管理、承诺制等党性实践活动。建立健全农村干部现代远程教育站点管理制度，规范站点运行程序，达到了干部经常受教育，群众长期得实惠的目的，党建工作水平在创新中不断提高。七是全乡各级干部的精神状态和工作作风进一步提升，乡领导在解决难题，加强督查等方面加大了抓落实的力度，推动了各项工作的有效开展。

,五十老女人裸体视频。

??11月29日,中国石油吉林油田公司原党委委员、副总经理、安全总监尹旭接受纪律审查和监察调查,

　　石村中人更加愤怒了，这还在他们的地界，狈村的人行事肆无忌惮，这样布置，绝对会造成血腥悲剧。

,扒开腿让我躁你很舒服的导演是谁,在线看的av网站,凹凸视频精品一区二区。

??时事2：欧美大胆A片

??11月29日,“潭美”远离海南岛 三亚部分景区仍暂停营业,

毕业班（精选31篇）

,在线看国产日韩,西施被 黄漫扒衣服的软件,国产第6页。

??11月29日,最高人民法院发布涉农民事典型案例,

　　突然，一道宏大的声音发出，震动了这片大荒，山脉摇颤，群峰共鸣，如天崩了一般、诸神的殿堂坠落了下来。

,一级全黄A片免费观看,中国男人gay视频,国产国产剧在线观看MV。

??时事3：国产精品一二区欧洲精品

??11月29日,考研报名人数连涨8年后下降36万 卷学历不香了？,

　　首先我在学乐网注册了账号，并下载了有关的参考资料学习，之后参加了小学1-3年级的比赛。里面的交通知识题目可真丰富，有交通基础知识判断题、交通标志题、交通行为规范题，虽然赛前我进行了认真的准备，但是题目内容太多了，还是会时不时地做错题目，可我不肯认输，做错的题目找到正确答案后，我又进入去参赛。由于进入参赛的时间太迟了，我没能做到足够的积分，也就没能获得名次了，但我还是很开心，因为这次参赛，让我懂得了很多交通知识，使自己以后更会注意交通安全了。

,茶茶一∨k帆布鞋lVK,我爱我妻原创申精的背景故事,久久精品精品久久。

??11月29日,中外科学家揭秘二叠纪末生物大灭绝新发现,