猫眼电影
猫眼电影记者 雅歌 报道Q8X2R7L1T4J5M9B6W3
在短视频推荐、跨模态搜索等工业场景中,传统多模态模型常受限于模态支持单一、训练不稳定、领域适配性差等问题。
近日,字节跳动抖音 SAIL 团队联合香港中文大学 MMLab 提出 SAIL-Embedding——一款专为大规模推荐场景设计的全模态嵌入基础模型,不仅实现了视觉、文本、音频的统一表征,更在抖音真实业务场景中带来显著效果提升,相关技术报告已正式公开。
论文标题:SAIL-Embedding Technical Report: Omni-modal Embedding Foundation Model技术报告:https://arxiv.org/pdf/2510.12709HuggingFace:https://huggingface.co/BytedanceDouyinContent/collections
SAIL-Embedding 能力概览
突破传统局限:
全模态 + 工业级优化双管齐下
现有多模态嵌入模型主要分为两类:以 CLIP 为代表的双塔架构,虽高效但模态融合浅;以 MLLM 为基础的融合架构,虽语义能力强却多局限于图文模态。SAIL-Embedding 则从根源上解决这些痛点:
全模态输入:覆盖短视频核心信息维度
不同于仅支持图文的传统模型,SAIL-Embedding 可处理任意模态组合——包括视觉模态侧的视频关键帧/封面、文本模态侧的标题/标签/OCR/ASR 文本、以及音频模态侧的背景音乐/语音,以适配抖音等短视频平台的信息结构。例如,在视频检索任务中,模型能同时利用画面内容、字幕文本与背景音效,避免单一模态信息缺失导致的语义偏差。
SAIL-Embedding 架构图
训练稳定性升级:动态难负样本 + 自适应数据平衡
为解决大规模训练中的噪声干扰与数据分布不均问题,团队提出引入两种策略:
动态难负样本挖掘:通过 F1 分数自适应确定相似度阈值,筛选「难区分」的负样本(如主题相似但内容不同的视频),让模型更聚焦细粒度语义差异,避免简单负样本导致的训练低效。
自适应多源数据平衡:基于 Sinkhorn 算法计算训练集与验证集的分布相似度,自动分配各数据源权重,减少人工调参依赖,同时兼顾数据质量与多样性,缓解工业数据与开源数据的领域鸿沟。
创新训练体系:
从内容理解到推荐适配的全链路优化
SAIL-Embedding 的训练并非单一阶段,而是一套覆盖「基础能力-任务适配-推荐增强」的多阶段体系,确保模型既能理解内容语义,又能贴合真实推荐场景需求:
内容感知渐进式训练:从通用到领域的精准过渡
训练分三阶段逐步深入:
第一阶段:用超 10B 样本的大规模多模态数据(含图文音)预训练,奠定基础语义理解能力;第二阶段:聚焦与下游任务(如视频检索、标签分类)对齐的高质量数据,优化任务适配性;第三阶段:引入难负样本微调,强化模型对相似内容的判别能力。
内容感知的渐进式训练
推荐感知的增强训练:融入用户行为信号
针对推荐场景,团队将多模态表征向用户历史序列表征和线上 ID 表征两个维度进行知识蒸馏以融于用户协同行为信息:
序列到物品蒸馏:通过多维度的用户历史兴趣序列筛选机制,利用用户具有正向交互行为的历史观看序列(如最近 10 个观看视频)与目标视频的关联,让模型学习用户兴趣的时序延续性;
ID 到物品蒸馏:对齐推荐系统中的多元化 ID 表征嵌入,将用户偏好信号(如点击、关注等)融入多模态表征,使嵌入结果更贴合推荐侧应用需求。
协同感知的两阶段推荐增强训练
实测性能:
刷新多任务 SOTA,抖音业务指标显著提升
无论是标准数据集的基准测试,还是抖音真实场景的在线实验,SAIL-Embedding 均展现出卓越性能:
离线任务性能:多场景检索与分类任务综合领先
(1) Item-to-Item Retrieval (物品到物品检索)
在 21 个涵盖内容理解、搜索,以及协同感知的多任务场景下,SAIL-Embedding 显著优于 CLIP-based 模型与 VLM-based 的模型:
(2) Query-to-Item Retrieval (查询到物品检索)
在 9 个涵盖检索为导向和分类为导向的多任务场景下,模型的 AUC 与 Recall 指标均取得领先:
在线落地效果:抖音多场景推荐指标显著提升
在抖音 Feed 流、冷启动、抖音精选、消息推送等核心场景中,SAIL-Embedding 通过潜入向量与嵌入离散化的语义 ID 两种形式赋能推荐全链路,带来了一致的 LT 和 AUC 增益,体现了其显著的业务应用潜力。
SAIL-Embedding 的核心价值在于,它不仅是一款性能领先的全模态嵌入模型,更构建了一套从学术研究到工业落地的完整解决方案:通过全模态架构突破输入局限,用动态数据策略解决训练稳定性问题,以推荐增强训练填补产业鸿沟,最终在抖音真实场景中验证了技术价值,在短视频、直播等富模态推荐场景中,具备极强的推广价值。
抖音 SAIL 团队在未来将进一步探索 VLMs 与推荐系统的深度融合,例如通过生成式任务注入推荐知识,让模型不仅能「理解」内容,更能「预测」用户偏好。
??时事1:爱操逼网站
??11月06日,外媒:美军正从叙利亚一军事基地撤离,
刹那间,莽牛吼音就震的人头皮发紧,几乎要软倒在地上。
,免费看的黄 网站软件。??11月06日,中国正能量|乐·活·人生,
我作为公司的董事长,在今后的工作中要从我做起、以身作则、以自己的行动为他人做出榜样。我有信心和大家一道,广泛听取大家的意见,以更高的目标,更严格的要求,更饱满的工作热情和更加勤奋工作精神,求真务实、开拓创新。我公司下设业务部、人事部、安置部、培训部、财务部、法务部、网络信息部,业务部主要扩展各个学校及单位所有业务资源;人事部主要负责对公司所有员工人事择业的管理;安置部主要对求职人员的工作安置和登记后安置统计及安置后的跟踪服务管理;培训部主要对求职人员业务不熟悉、技术不懂的岗前培训和考证培训;财务部主要掌握公司及各部门收、支情况的了解、统计。让我们为公司更好的成绩而努力奋斗。
,高清🈚码🔞❌♋蘑菇视频,乱人伦中文无码视频,91惶网入口。??时事2:九九精品黄色网
??11月06日,最高法:2023年全国新收知识产权案54万余件,
六是纪律观念淡薄。极少数同志管不住自己的嘴,不该说的他乱说,不该吃的他乱吃;管不住自己的腿,不该跑的他乱跑,不该去的他乱去;管不住自己的手,不该拿的他乱拿,不该收的他乱收;管不住自己的心,不该想的他乱想,不该烦的他乱烦,作风漂浮,纪律松弛,法律观念淡薄,已经走到党纪国法的边缘,若不悬崖勒马、迷途知返,到头来只能是害人,害已、害事业。
,免费一级AV高潮喷水片特黄,性爱视频图片小说,麻豆女肏屄影院。??11月06日,“山水工程”促进生态治理体系一体化发展,
三、突出抓好推进城镇化的各项措施
,特级av,男生与女生一起拔箩卜,黑人巨大中出し21歳。??时事3:新久久久久一级毛片护士Aⅴ
??11月06日,日媒:日本高滨核电站发生水蒸气泄漏 ,
“没错,我们尽全力攻击,激怒它,让它闹出的动静更大些,族长他们会提前发觉!”石大壮开口,抓起一块巨石猛地砸向凶禽。
,91探花,国产污视频在线,亚洲国产欧美国产第五页。??11月06日,前9月中国规上工业企业利润总额超5万亿元,
(四)生活作风方面
,又黄又湿又高潮的免费网站,WWW.MRYTX,COM/,欧美 1 9p。??时事4:男男GayGays✅✅修电脑
??11月06日,市场监管总局曝光10起城镇燃气专项整治典型执法案例,
虽然过去了几年,但是那对夫妇离开时的不舍与哀愁,老族长依然清晰的记得,道:“你是他们唯一的孩子,他们说就是他们死,也不能看着你衰弱下去。”
,巨乳大雷,男人的 伸到 涩涩视频,亚洲精品555。??11月06日,消失的野味在网上卷土重来 多措并举禁食野味,
周六,为了调查环境保护现状,我们一家来到了具有浓厚人文气息的河南大学。
,9I看片成人免费视频,原老七豆浆3311,依依操B。责编:赵银
审核:郑家星
责编:张翮












