猫眼电影
猫眼电影记者 欧文斯科宁 报道P6F3X2M7T9QJ8L1B4WZR
RAG准确率提升10.6%,多项基准拿下新SOTA!
ACL 2025最新研究提出Lexical Diversity-aware RAG(DRAG)框架,首次系统性地将词汇多样性引入RAG的检索与生成过程,提供了一个轻量、通用且易扩展的解决方案。
在多项基准任务中,该方法带来了显著性能提升,尤其在HotpotQA上刷新了当前最优结果。
在大语言模型的浪潮下,Retrieval-Augmented Generation(RAG)已经成为提升模型事实性和时效性的重要手段。然而,现有方法普遍忽视了一个看似细微却极为关键的问题——词汇多样性(lexical diversity)。
同一个问题,不同的表达方式,往往让检索模型“晕头转向”,最终导致错误答案。
由此,来自北航、北大、中关村实验室的研究团队提出了这项最新工作,他们首次将“词汇多样性”引入检索增强生成的相关性评估过程,并通过新颖的风险稀疏校准机制解决了生成阶段被无关信息干扰的问题。
团队认为,该方法对信息检索、问答系统、专业领域大模型应用都具有重要价值。未来,他们计划进一步拓展该方法到新万博体育:专业场景,让大模型不仅能“读懂”,更能“理解”复杂的人类语言表达。
词汇多样性:RAG的隐形痛点
研究团队指出,现有RAG方法大多通过“单一标准”判断检索文档是否相关,但现实情况要复杂得多。如图所示,以问题“What is Hattie McDaniel’s occupation?”为例,其中的语义成分表现出不同程度“词汇多样性”:
不变词(Invariant):人名“Hattie McDaniel”一般不会变形;可变词(Variant):词语“occupation”可以对应“profession”“actress”甚至“Academy Award”;补充信息(Supplementary):答案可能依赖“American celebrity”等扩展语境。
这种词汇多样性往往导致模型错误地将部分相似但无关的文档判为相关,或者忽略了真正有用的信息。
两大关键创新
为解决“词汇多样性”带来的挑战,研究团队提出了该框架,核心在于两个互补模块:
1、Diversity-sensitive Relevance Analyzer(DRA)
传统检索相关性评估往往“一刀切”,把整体查询和检索文档进行比较。该方法则进一步拆解查询语义,针对不同成分采用差异化策略:
不变成分:如人名、地名等必须精确匹配的关键词,该方法强调其检索文档应与该成分严格匹配;可变成分:如“occupation”—“profession”,DRA借助LLM的语义扩展和分析能力,在检索时允许一定语义灵活性;补充成分:如“American celebrity”,该方法通过检索需求的明确程度来判断是否需要真正提供有用的补充证据。
在此基础上,该方法通过该模块对相似度检索结果进行重排序,输出一个更细粒度、多维度的相关性评分,避免检索时存在的“假阳性”和“假阴性”的常见问题。
2. Risk-guided Sparse Calibration
即使有了更精准的检索,生成阶段仍然可能“被干扰”。Risk-guided Sparse Calibration的设计灵感来自“风险控制”:它会实时监控每个生成token的“被误导风险”,并在必要时进行解码校准。
词汇风险(Lexical Risk):检测生成内容是否过度依赖低相关的词汇;注意力风险(Attention Risk):评估模型注意力是否集中在无关段落;预测风险(Prediction Risk):衡量当前预测是否与检索证据存在冲突。
RSC的独特之处在于它的稀疏性(sparse calibration):只对高风险token动态干预,而不会对全局输出强行重写,从而保证了生成质量与效率的平衡。
最终,DRA负责“挑选更靠谱的材料”,RSC负责“防止模型走偏”,形成了检索与生成环节的双保险,让RAG更稳健、更准确。
实验结果:显著超越现有方法
团队在多个开放域问答基准上验证了该方法:
其中,该方法在PopQA/TriviaQA(短文本问答):准确率分别提升4.9%和4.4%;HotpotQA/2WikiMultiHopQA(多跳问答):准确率均提升10.6%,展现出强泛化性;在ASQA(长答案生成):在str-em、QA-F1等指标上刷新SOTA。
不仅如此,该方法在不同类型、大小的模型上均表现出显著增益,如Llama2-7B, Llama2-13B, Qwen2-7B, Alpaca-7B和Mistral-7B等。
论文链接:
https://aclanthology.org/2025.acl-long.1346/代码(即将开源):
https://github.com/Zhange21/DRAG
??时事1:完美体育网页版在线登录
??09月27日,无人机灯光秀亮相山西太原晋阳湖,
如血凰般的老人闻言,眸子中露出奇光,久久没有说话。
,百老汇棋牌游戏平台。??09月27日,中法人文合作发展论坛在巴黎举行,
这里我要强调的是,平时如果真是工作需要。按章程办理,大家在一起吃吃饭,喝喝酒,无可非议。关键问题是我们中的一些人有时根本就没有来人,而是几个人在一起赌博,最后吃饭款也由政府买单。这实在是太过分了,这种现象以后我们发现一起,查处一起,绝不手软。还有少数同志遇到酒就来劲,喝起来就不要命,酒桌上推杯换盏,称兄道弟,一喝就喝得不认得天南地北,大话连篇,什么话都说,什么事都做。把干部的形象都跌尽了。二是玩风太盛。目前我镇干部队伍中,玩风是比较厉害的,玩风主要表现在打扑克、搓麻将、钓鱼等方面。特别是赌博之风愈演愈烈,不仅在家里赌、还拉到饭馆茶楼赌,拉到食堂赌,有的甚至在办公室也赌。不来赌资不开桌,不来大赌不刺激,少则几十元,多则成千上万元。我早就说过,工作之余,同事之间打打牌、玩玩小麻将,搞一些小刺激是可以的。但我们的少数同志却不分场合,不分对象,在什么场合下都玩,跟什么人都玩。少数同志在大庭广众之下与一些做生意人在一起也玩。玩出矛盾来还大吵大闹,这哪里有党纪国法!哪里像共产的样子,哪里像国家干部的样子?
,皮皮斗地主官方下载,新mg游戏网站登录入口,MG电子手机版登陆。??时事2:fg捕鱼输了好多钱
??09月27日,总投资超千亿 24个项目“牵手”呼和浩特航天经济开发区,
刑事案件不认罪会无罪吗(刑事案件没认罪认罚会不会重判)
,线上赌博排行榜前十,亚娱官网是多少,足球现金网开户。??09月27日,江西鹰潭发生龙舟侧翻事故 造成1人死亡2人失联,
“算了,我们先回去,那水宝有眉目了,它于我族来说干系甚大,也许足以让我雨族崛起,出现一位人皇。”
?第一百三十章,万象城w77网址,宝马娱乐平台,万豪在线平台。??时事3:万博的网址谁知道
??09月27日,数字赋能 中轴线文化遗产“活”起来,
毫无疑问,狻猊的原始符文极其珍贵,就是大族也要动心与眼热,太古遗种中的至强者,其宝术与各家的镇族神通不分上下。
,权威资料,太阳集团棋牌娱乐,188金博网注册。??09月27日,西藏昌都:“云中球场”上的藏东小镇足球赛,
农业信用卡可以逾期几天还款?怎么跟银行协商解决?
,KB体育,金沙棋牌游戏网址,沙巴体育和cmd体育。??时事4:盈鑫国际
??09月27日,九幅“字画像”读懂2024全国两会热话题,
近年来,随着电子商务的快速发展,京东白条作为一种便捷的消费信贷方式,受到了越来越多消费者的青睐。然而,随之而来的逾期问题也引起了广泛关注。很多人都在疑惑,京东白条逾期两个月会上门走访吗?本文将围绕这一问题展开探讨,并对京东白条逾期一个月的处理方式以及逾期协商还款方式进行介绍。 一、京东白条逾期两个...
??09月27日,经港珠澳大桥珠海公路口岸 通关港澳单牌车突破150万辆次,
他在思索,是不是要效仿,也以符文凝练出一柄利器来。
,至尊炸金花安卓版,英亚app下载,贝博艾弗森体育官网入口。