独家快讯 让RAG真正读懂“言外之意”!新框架引入词汇多样性,‘刷新’多基准_新万博体育

新万博体育

图片
搜索
猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

让RAG真正读懂“言外之意”!新框架引入词汇多样性,刷新多基准

2025-09-28 11:09:14
来源:

猫眼电影

作者:

项峥

手机查看

  猫眼电影记者 张梅菊 报道P6F3X2M7T9QJ8L1B4WZR

RAG准确率提升10.6%,多项基准拿下新SOTA!

ACL 2025最新研究提出Lexical Diversity-aware RAG(DRAG)框架,首次系统性地将词汇多样性引入RAG的检索与生成过程,提供了一个轻量、通用且易扩展的解决方案。

在多项基准任务中,该方法带来了显著性能提升,尤其在HotpotQA上刷新了当前最优结果。

在大语言模型的浪潮下,Retrieval-Augmented Generation(RAG)已经成为提升模型事实性和时效性的重要手段。然而,现有方法普遍忽视了一个看似细微却极为关键的问题——词汇多样性(lexical diversity)。

同一个问题,不同的表达方式,往往让检索模型“晕头转向”,最终导致错误答案。

由此,来自北航、北大、中关村实验室的研究团队提出了这项最新工作,他们首次将“词汇多样性”引入检索增强生成的相关性评估过程,并通过新颖的风险稀疏校准机制解决了生成阶段被无关信息干扰的问题。

团队认为,该方法对信息检索、问答系统、专业领域大模型应用都具有重要价值。未来,他们计划进一步拓展该方法到新万博体育:专业场景,让大模型不仅能“读懂”,更能“理解”复杂的人类语言表达。

词汇多样性:RAG的隐形痛点

研究团队指出,现有RAG方法大多通过“单一标准”判断检索文档是否相关,但现实情况要复杂得多。如图所示,以问题“What is Hattie McDaniel’s occupation?”为例,其中的语义成分表现出不同程度“词汇多样性”:

不变词(Invariant):人名“Hattie McDaniel”一般不会变形;可变词(Variant):词语“occupation”可以对应“profession”“actress”甚至“Academy Award”;补充信息(Supplementary):答案可能依赖“American celebrity”等扩展语境。

这种词汇多样性往往导致模型错误地将部分相似但无关的文档判为相关,或者忽略了真正有用的信息。

两大关键创新

为解决“词汇多样性”带来的挑战,研究团队提出了该框架,核心在于两个互补模块:

1、Diversity-sensitive Relevance Analyzer(DRA)

传统检索相关性评估往往“一刀切”,把整体查询和检索文档进行比较。该方法则进一步拆解查询语义,针对不同成分采用差异化策略:

不变成分:如人名、地名等必须精确匹配的关键词,该方法强调其检索文档应与该成分严格匹配;可变成分:如“occupation”—“profession”,DRA借助LLM的语义扩展和分析能力,在检索时允许一定语义灵活性;补充成分:如“American celebrity”,该方法通过检索需求的明确程度来判断是否需要真正提供有用的补充证据。

在此基础上,该方法通过该模块对相似度检索结果进行重排序,输出一个更细粒度、多维度的相关性评分,避免检索时存在的“假阳性”和“假阴性”的常见问题。

2. Risk-guided Sparse Calibration

即使有了更精准的检索,生成阶段仍然可能“被干扰”。Risk-guided Sparse Calibration的设计灵感来自“风险控制”:它会实时监控每个生成token的“被误导风险”,并在必要时进行解码校准。

词汇风险(Lexical Risk):检测生成内容是否过度依赖低相关的词汇;注意力风险(Attention Risk):评估模型注意力是否集中在无关段落;预测风险(Prediction Risk):衡量当前预测是否与检索证据存在冲突。

RSC的独特之处在于它的稀疏性(sparse calibration):只对高风险token动态干预,而不会对全局输出强行重写,从而保证了生成质量与效率的平衡。

最终,DRA负责“挑选更靠谱的材料”,RSC负责“防止模型走偏”,形成了检索与生成环节的双保险,让RAG更稳健、更准确。

实验结果:显著超越现有方法

团队在多个开放域问答基准上验证了该方法:

其中,该方法在PopQA/TriviaQA(短文本问答):准确率分别提升4.9%和4.4%;HotpotQA/2WikiMultiHopQA(多跳问答):准确率均提升10.6%,展现出强泛化性;在ASQA(长答案生成):在str-em、QA-F1等指标上刷新SOTA。

不仅如此,该方法在不同类型、大小的模型上均表现出显著增益,如Llama2-7B, Llama2-13B, Qwen2-7B, Alpaca-7B和Mistral-7B等。

论文链接:

https://aclanthology.org/2025.acl-long.1346/代码(即将开源):

https://github.com/Zhange21/DRAG

??时事1:威廉希尔官网首页

??09月28日,西部陆海新通道助“奉节眼镜”开拓东南亚市场,

  三是希望你们自觉遵守国家的法律、学校的规章制度、中学生守则和中学生日常行为规范。

,彩e。

??09月28日,2024北京龙形半程马拉松在延庆激情开跑,

  这四人都是中年男子,年富力强,都在最强盛的状态,符文一转,天地如雷罡汹涌,蓝色闪电劈舞,而后化成了浪涛,向着小不点那里冲去。

,亚游九游会,儿童版国际象棋真人版,九游会线上平台。

??时事2:澳门棋牌游戏大厅

??09月28日,中法建交60周年 跨国企业投资约10亿欧元增强供应链韧性,

  1、不随便离开大人,不跟陌生人走,要熟记家人的电话和家庭住址。

,万博官网网站,MG电子全站APP,葡京新会员活动。

??09月28日,国家统计局:2023年全国居民人均可支配收入39218元,

  “就差主药了。”老族长说道,看向拳头大的金色朱厌。

,三亚娱乐,网投体育平台有哪些,什么是金沙下注。

??时事3:太子稳定网站

??09月28日,旅韩大熊猫“福宝”正式与公众见面,

  “这些鼎好像不凡啊,平日你们做什么用?”来自罗浮大泽的中年人蛟苍开口问道。

,贝博官网网站,必威MXapp,足球比赛188。

??09月28日,台湾建筑师扎根福建乡村 两岸携手古村落焕新颜,

  “呜呜……还没睡呢。”一群孩子惨兮兮的说道。不过他们并不疲困,反而精力旺盛,不然也不至于在这里泡着了。

,在哪买足球赌注,银河国际版,尊龙手机端下载。

??时事4:沙巴体育电竞

??09月28日,阿里云PolarDB斩获SIGMOD最佳论文,成功破解经典多主架构难题,

  一是健全完善各项政策措施。要建立和完善有利于农民向城镇转移的运行机制,稳步推进农村土地流转制度改革,解除农民后顾之忧,保障农民利益不受侵害,推进农民向城镇转移。要进一步改革城镇户籍管理制度,创造条件,逐步推行按实际居住地进行登记的户籍管理制度,统一城乡户籍管理。要进一步降低外来从业人员进城落户的限制条件,简化入户手续,并调整教育、就业计划生育等相关政策,保证新落户居民的基本权利。要建立城乡平等就业制度,将外来从业人员纳入城镇公共就业服务范围,逐步建立城乡平等的就业制度,继续清理限制农民进城就业的歧视性政策规定,取消对外来人员及其用工单位的不合理收费,逐步将外来人员纳入城镇公共就业服务范围。

,去哪里赌博最安全,皇冠登录官网,ag亚美体育下载。

??09月28日,央行再推新工具,市场别担心年底缺钱!,

  第一:做一个永远的读书人

,b体育平台下载官网,九州官网,天博国际在线客服。

责编:于开秀

审核:大卫·斯

责编:王宁远

相关推荐 换一换