(3秒深度分析)188bet最新地址安卓版v60.53.03.66.1.613.09.02-2265安卓网_新万博体育

新万博体育

图片
搜索
猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

混元OCR模型核心技术揭秘:统一框架、真端到端

2025-11-29 03:37:44
来源:

猫眼电影

作者:

阿尔艾因

手机查看

  猫眼电影记者 邓家佳 报道Q8X2R7L1T4J5M9B6W3

HunyuanOCR模型团队 投稿量子位 | 公众号 QbitAI

腾讯混元大模型团队正式发布并开源HunyuanOCR模型!

这是一款商业级、开源且轻量(1B参数)

的OCR专用视觉语言模型,模型采用原生ViT和轻量LLM结合的架构。

具体而言,其感知能力(文本检测和识别、复杂文档解析)优于所有公开方案;语义能力(信息抽取、文字图像翻译)表现出色,荣获ICDAR 2025 DIMT挑战赛(小模型赛道)冠军,并在OCRBench上取得3B以下模型SOTA成绩。

目前,该模型在抱抱脸(Hugging Face)趋势榜排名前四,GitHub标星超过700,并在Day 0被vllm官方团队接入。

团队介绍,混元OCR专家模型实现了三大突破:

(1)全能与高效统一。

在轻量框架下支持文字检测和识别、复杂文档解析、开放字段信息抽取、视觉问答和拍照图像翻译,解决了传统专家模型功能单一和通用视觉理解大模型效率低下的痛点。

(2)极简端到端架构。

摒弃版面分析等前处理依赖,彻底解决流水线错误累积问题,大幅简化部署。

(3)数据驱动与RL创新。

验证了高质量数据价值,并证明强化学习可显著提升多项OCR任务性能。

目前模型参数已在抱抱脸和ModelScope等渠道开源,并提供基于vLLM的高性能部署方案,旨在助力科研与工业落地。

HunyuanOCR核心技术大揭秘

作为一款具备商业级性能的开源多语言VLM,混元OCR专家模型的核心动机在于构建一个真正统一、高效的端到端OCR基础模型。

其核心技术主要聚焦于以下几个方面:

轻量化模型结构设计、高质量预训练数据生产、重应用导向的预训练策略和OCR任务定制的强化学习。

轻量化模型结构设计

下图为HunyuanOCR架构示意图。

不同于其他开源的级联OCR方案或专家模型,混元OCR模型贯彻端到端训推一体范式,各项任务仅需单次推理即可获取完整效果。

HunyuanOCR采用由原生分辨率视觉编码器、自适应MLP连接器和轻量级语言模型构成的协同架构。

视觉部分基于SigLIP-v2-400M,引入自适应Patching机制支持任意分辨率输入,有效避免了长文档等极端长宽比场景下的图像失真与细节丢失。

连接器通过可学习的池化操作充当桥梁,在自适应压缩高分辨率特征的同时,精准保留了文本密集区的关键语义。

语言模型侧则基于Hunyuan-0.5B,通过引入创新的XD-RoPE技术,将一维文本、二维版面(高宽)及三维时空信息进行解耦与对齐,赋予了模型处理多栏排版及跨页逻辑推理的强大能力。

与依赖多模型级联或后处理的传统方案不同,HunyuanOCR采用了纯粹的端到端训练与推理范式。

该模型通过大规模高质量的应用导向数据进行驱动,并结合强化学习策略进行优化,实现了从图像到文本的直接映射。这种设计彻底消除了传统架构中常见的“错误累积”问题,并摆脱了对复杂后处理模块的依赖,从而在混合版面理解等高难度场景中展现出远超同类模型的鲁棒性与稳定性。

高质量预训练数据生产

为了系统性提升HunyuanOCR在多语言、多场景及复杂版面下的感知与理解能力,研究团队构建了一个包含超2亿“图像-文本对”的大规模高质量多模态训练语料库。

通过整合公开基准、网络爬取真实数据及自研工具生成的合成数据,该数据库覆盖了9大核心真实场景(包括文档、街景、广告、手写体、截屏、票据卡证、游戏界面、视频帧及艺术字体)以及超过130种语言的OCR数据。

这套完整的数据生产与清洗流水线,为模型提供了坚实的高质量多模态训练资源,具体揭示如下:

(注:图为高质量预训练数据,(a)(b)(c)展示了数据合成和仿真增强的效果,(d)(e)展示自动化QA数据生产的案例)

在数据合成方面,研究人员基于SynthDog框架进行了深度扩展,实现了对130多种语言的段落级长文档渲染及双向文本(从左到右和从右到左两种阅读顺序)支持,并能精细控制字体、颜色、混合排版及手写风格,有效提升了跨语言泛化能力。

同时,引入自研的Warping变形合成流水线,通过模拟几何变形(折叠、透视)、成像退化(模糊、噪声)及复杂光照干扰,逼真还原自然场景下的拍摄缺陷。

这种“合成+仿真”的策略显著增强了模型在文本定位、文档解析等任务中的鲁棒性。

针对高阶语义理解任务,团队开发了一套集“难例挖掘、指令式QA生成与一致性校验”于一体的自动化流水线。

遵循“一源多用”原则,该流水线实现了对同一图像进行文本定位、结构化解析(Markdown/JSON)及多维推理问答(信息抽取、摘要、计算)的统一标注。系统优先挖掘低清晰度或含复杂图表的难例,利用高性能VLM生成多样化问答对,并通过多模型交叉验证机制确保数据质量。

这一流程有效解决了复杂场景下高质量VLM训练数据稀缺的问题,大幅提升了模型的数据利用效率。

重应用导向的预训练策略

HunyuanOCR采用循序渐进的四阶段预训练策略:

前两阶段聚焦视觉&语言对齐与通用理解能力构建。

其中Stage-1为热身阶段,冻结LLM并仅训练ViT与MLP适配器,通过Caption和OCR数据实现视觉特征与文本语义空间的对齐,强化基础感知与结构化理解。

Stage-2解冻所有参数进行端到端学习,依托约300Btoken数据及涵盖文档解析、文字检测和识别、图片翻译、VQA的多任务合成样本,深度增强模型对文档、表格、公式、图表等复杂结构化内容的感知和理解能力。

后两阶段则侧重长文档处理能力与实际应用场景适配。

Stage-3将上下文窗口扩展至32k,通过长窗口数据训练满足长文档图像解析与理解需求。

Stage-4开展应用导向的退火训练,结合精心筛选的人工标注真值数据与高质量合成数据,通过统一指令模版与标准化输出格式规范模型响应模式,既提升了复杂场景下的鲁棒性,也为后续强化学习阶段奠定了坚实基础。

下面的表格展示了混元OCR模型四阶段预训练:

OCR任务定制的强化学习方案

尽管强化学习已在大型推理模型中取得显著成功,Hunyuan视觉团队创新性地将其应用于注重效率的轻量级OCR专家模型。

针对OCR任务结构化强且易于验证的特点,采取了混合策略:

对于文字检测识别和文档解析等具有封闭解的任务,采用基于可验证奖励的强化学习。

而对于翻译和VQA等开放式任务,则设计了基于LLM-as-a-judge的奖励机制。这种结合证明了轻量级模型也能通过RL获得显著性能跃升,为边缘侧和移动端的高性能应用开辟了新路径。

以下是三个主要注意事项:

第一,严苛的数据筛选。

数据构建严格遵循质量、多样性与难度平衡原则,利用LLM过滤低质数据,并剔除过于简单或无法求解的样本以保持训练的有效性。

第二,自适应奖励设计。

文字检测和识别任务上,综合考虑IoU与编辑距离。

复杂文档解析任务聚焦于结构与内容的准确性;VQA采用基于语义匹配的二值奖励;而文本图像翻译则引入经过去偏归一化的软奖励(例如0~5的连续空间),特意扩展了中段分数的粒度,以便更敏锐地捕捉翻译质量的细微差异。

第三,GRPO算法与格式约束优化。

训练阶段采用群组相对策略优化(GRPO)作为核心算法,为了确保训练的稳定性,团队引入了严格的长度约束与格式规范机制,任何超长或不符合预定义Schema(如结构化解析格式)的输出将直接被判为零奖励。

这一强约束机制迫使模型专注于生成有效、规范且可验证的输出,从而在受限条件下习得精准的推理与格式化能力。

项目主页:

https://hunyuan.tencent.com/vision/zh?tabIndex=0

Github:

GitHub-Tencent-Hunyuan/HunyuanOCR

抱抱脸:

https://huggingface.co/tencent/HunyuanOCR

论文:

https://arxiv.org/abs/2511.19575

??时事1:88游戏

??11月29日,安徽启动低温雨雪冰冻灾害Ⅳ级应急响应,

  1、上下学途中我们须在人行道内行走,没有人行道的要靠路边行走; 过马路时要走斑马线,严格遵守红灯停,绿灯行的规则。宁慢一分,不抢一秒。

,云顶娱乐登陆不了。

??11月29日,报告:当前中国区域应急救援力量发展呈现五大主要特点,

  首先,我们应该更好地配合学校,配合老师,督促孩子搞好临考前的复习工作。最重要的是做好后勤保障工作,合理饮食,适度地增加营养,合理的安排作息时间,让孩子有一个健康的身体迎接中考。孩子们冲刺中考,真得很累,家长和学校应该把孩子们的吃和喝安排好,不要让孩子们的身体受影响。孩子的每一点进步都离不开老师的辛苦,我们做家长的为了孩子更要积极配合老师,家长对教育的投资是最明智的投资,是回报率最高的投资,所以我想在座的每位家长都会用心琢磨一套适合自己孩子的教育方法,把精力新万博体育:的投入到关心孩子的学习中去,和孩子共同努力。

,世界杯买球比例是多少,新宝6平台登录地址,欧洲杯盘口网站。

??时事2:im体育手机官网下载

??11月29日,特朗普宣布将前往法国 参加巴黎圣母院重新开放仪式,

  石毅抬头,双目深邃,有日月转动、星河陨落的景象,非常恐怖,而后射出两道绚丽的光束,由符文组成,密密麻麻,激射向天空。

,AG鸭游,AG平台刷水有用吗,皇冠比分Vs90。

??11月29日,刷牙后到底要不要漱口?,

  “无论怎样也要除掉他,不然离开百断山,他一旦进入补天阁,就更不容易下手了。”有人低语。

?第一百四十七章 金刚神力,星光娱乐官网app下载,mile米乐官网,足彩外围正版网站。

??时事3:申搏sunbet官网

??11月29日,国务院任免香港特别行政区政府主要官员,

  “孩子,你一定要小心啊,那是什么地方,怎么会遇到太古凶兽的子嗣?你一定要注意安全啊!”

,千亿国际登入,电竞赛事竞猜平台,银河app。

??11月29日,美国亚利桑那州一热气球坠毁 致4人死亡1人重伤 ,

  石毅不说话,站在原地,眸中神光隐现。

,环亚娱乐登录网址,半岛官网,mile体育官方版下载。

??时事4:百家乐在哪玩

??11月29日,众行致远|9图速览什么是APEC,

  至于一群大老爷们,更是早已呼吸粗重,恨不得能立刻得到宝驹。

,bet365体育下载,永利电子游戏网站开户,牛宝体育体育。

??11月29日,创新打造“博士产研诊所” 江西崇仁助企纾困添新招,

  鼎盖剧烈抖动,看的人心惊胆战,村人几次想上前将其盖严,但都被老族长阻止了,这是鼎内的药魂,是精华所在,就是要如此熬炼,不容惊扰。

,ag永乐国际官网,qq世界杯投注,云顶在线注册。

责编:董育雄

审核:吴宗宝

责编:黎万强

相关推荐 换一换