猫眼电影
猫眼电影记者 张作珍 报道P6F3X2M7T9QJ8L1B4WZR
RAG准确率提升10.6%,多项基准拿下新SOTA!
ACL 2025最新研究提出Lexical Diversity-aware RAG(DRAG)框架,首次系统性地将词汇多样性引入RAG的检索与生成过程,提供了一个轻量、通用且易扩展的解决方案。
在多项基准任务中,该方法带来了显著性能提升,尤其在HotpotQA上刷新了当前最优结果。
在大语言模型的浪潮下,Retrieval-Augmented Generation(RAG)已经成为提升模型事实性和时效性的重要手段。然而,现有方法普遍忽视了一个看似细微却极为关键的问题——词汇多样性(lexical diversity)。
同一个问题,不同的表达方式,往往让检索模型“晕头转向”,最终导致错误答案。
由此,来自北航、北大、中关村实验室的研究团队提出了这项最新工作,他们首次将“词汇多样性”引入检索增强生成的相关性评估过程,并通过新颖的风险稀疏校准机制解决了生成阶段被无关信息干扰的问题。
团队认为,该方法对信息检索、问答系统、专业领域大模型应用都具有重要价值。未来,他们计划进一步拓展该方法到新万博体育:专业场景,让大模型不仅能“读懂”,更能“理解”复杂的人类语言表达。
词汇多样性:RAG的隐形痛点
研究团队指出,现有RAG方法大多通过“单一标准”判断检索文档是否相关,但现实情况要复杂得多。如图所示,以问题“What is Hattie McDaniel’s occupation?”为例,其中的语义成分表现出不同程度“词汇多样性”:
不变词(Invariant):人名“Hattie McDaniel”一般不会变形;可变词(Variant):词语“occupation”可以对应“profession”“actress”甚至“Academy Award”;补充信息(Supplementary):答案可能依赖“American celebrity”等扩展语境。
这种词汇多样性往往导致模型错误地将部分相似但无关的文档判为相关,或者忽略了真正有用的信息。
两大关键创新
为解决“词汇多样性”带来的挑战,研究团队提出了该框架,核心在于两个互补模块:
1、Diversity-sensitive Relevance Analyzer(DRA)
传统检索相关性评估往往“一刀切”,把整体查询和检索文档进行比较。该方法则进一步拆解查询语义,针对不同成分采用差异化策略:
不变成分:如人名、地名等必须精确匹配的关键词,该方法强调其检索文档应与该成分严格匹配;可变成分:如“occupation”—“profession”,DRA借助LLM的语义扩展和分析能力,在检索时允许一定语义灵活性;补充成分:如“American celebrity”,该方法通过检索需求的明确程度来判断是否需要真正提供有用的补充证据。
在此基础上,该方法通过该模块对相似度检索结果进行重排序,输出一个更细粒度、多维度的相关性评分,避免检索时存在的“假阳性”和“假阴性”的常见问题。
2. Risk-guided Sparse Calibration
即使有了更精准的检索,生成阶段仍然可能“被干扰”。Risk-guided Sparse Calibration的设计灵感来自“风险控制”:它会实时监控每个生成token的“被误导风险”,并在必要时进行解码校准。
词汇风险(Lexical Risk):检测生成内容是否过度依赖低相关的词汇;注意力风险(Attention Risk):评估模型注意力是否集中在无关段落;预测风险(Prediction Risk):衡量当前预测是否与检索证据存在冲突。
RSC的独特之处在于它的稀疏性(sparse calibration):只对高风险token动态干预,而不会对全局输出强行重写,从而保证了生成质量与效率的平衡。
最终,DRA负责“挑选更靠谱的材料”,RSC负责“防止模型走偏”,形成了检索与生成环节的双保险,让RAG更稳健、更准确。
实验结果:显著超越现有方法
团队在多个开放域问答基准上验证了该方法:
其中,该方法在PopQA/TriviaQA(短文本问答):准确率分别提升4.9%和4.4%;HotpotQA/2WikiMultiHopQA(多跳问答):准确率均提升10.6%,展现出强泛化性;在ASQA(长答案生成):在str-em、QA-F1等指标上刷新SOTA。
不仅如此,该方法在不同类型、大小的模型上均表现出显著增益,如Llama2-7B, Llama2-13B, Qwen2-7B, Alpaca-7B和Mistral-7B等。
论文链接:
https://aclanthology.org/2025.acl-long.1346/代码(即将开源):
https://github.com/Zhange21/DRAG
??时事1:二八杠棋牌
??09月27日,重庆南川:彩林绘就绚丽画卷 引游客打卡,
“大哥哥,我们与世无争,一直很安宁,不想与你冲突。请你不要生气也不要发怒,如果我们有不对的地方,会向你赔礼的。”小不点扑闪着大眼,很认真与诚挚的说道。
,贝博体育平台官网首页下载。??09月27日,山西·太谷第二十一届科技节启幕 签约15个项目,
不管是刚加入深外不久的初一同学,还是步入了关键期的初二同学,或是和我一样向着中考飞奔的初三同学,我愿与大家携手共进,在这一个新的学习阶段里,更加努力拼搏,为学校、为人生的明天,再添辉煌!
,ku娱乐备用网址线路,10betapp体育官网,ag8体育官网。??时事2:678体育在线投注
??09月27日,河北省出台防汛避险人员转移条例,
蓦地,她抬起了头,双眼中射出两道惊人的光束,道:“我们走眼了!”
,必发足球,ballbet贝博BB娱乐登录,35bet体育平台。??09月27日,高质量建设现代农村金融服务体系, 坚持因地制宜、科学抗旱,河库灌区及时开闸放水,增加流量,采取疏通渠道、维修涵闸等措施,做到远送多浇、有水可浇;引黄灌区根据抗旱需水情况,及时开闸放水,争取多引黄河水;平原灌区发挥机电井作用,采取有效措施保障机井通电,并组织投入各类排灌机械179.4万台,努力增加抗旱播种面积。丘陵岗区利用坑、塘、堰、坝等小型水利工程组织抗旱播种。夏播以来,全省累计抗旱浇水7977.3万亩次,播种进度与常年相当。,火狐免费试玩,九游会备用网址,棋牌游戏网站。
??时事3:王者娱乐棋牌
??09月27日,敢作善为抓落实(思想纵横),
毕业班 篇20
,im体育在线登陆,伟德网赌,利记官网app下载网址。??09月27日,26国50余名青少年江西庐山体验中华茶文化,
~年即将结束,新的一年又将来临。金鸡交好卷,黄犬送佳音。值此辞旧迎新之际,我谨代表公司向长期关心和支持我们的各位朋友、各位嘉宾致以新年的问候;向敢争敢拼、锐意进取的全体同仁致以新年的祝贺;向长期在幕后为公司的发展事业默默奉献的所有家属致以崇高的敬意和由衷的感谢!
,江南官方体育网页版,手机版新星国际客户端,免费pg电子试玩。??时事4:亚新平台首页
??09月27日,元素周期表何时上新119号?中外科学家在合成赛道上比肩冲刺,
十几天后,喀嚓一声脆响,一枚蛋出现了裂纹,碧玉般的壳裂开,从里面滚落出一个小家伙,浑身青色鳞片闪光。
,可以买角球的买球平台,凯发娱乐手机网页,ca88游戏。??09月27日,香港金融科技周推动金融科技发展,
3、占领宣传阵地,及时展示办学成果,加强校园文化建设。
,BV伟德安卓app下载,金沙银河娱官网,体育娱乐网址。责编:王福顺
审核:孙昌旭
责编:和雪梅