猫眼电影
猫眼电影记者 官风清 报道Q8X2R7L1T4J5M9B6W3
在短视频推荐、跨模态搜索等工业场景中,传统多模态模型常受限于模态支持单一、训练不稳定、领域适配性差等问题。
近日,字节跳动抖音 SAIL 团队联合香港中文大学 MMLab 提出 SAIL-Embedding——一款专为大规模推荐场景设计的全模态嵌入基础模型,不仅实现了视觉、文本、音频的统一表征,更在抖音真实业务场景中带来显著效果提升,相关技术报告已正式公开。
论文标题:SAIL-Embedding Technical Report: Omni-modal Embedding Foundation Model技术报告:https://arxiv.org/pdf/2510.12709HuggingFace:https://huggingface.co/BytedanceDouyinContent/collections
SAIL-Embedding 能力概览
突破传统局限:
全模态 + 工业级优化双管齐下
现有多模态嵌入模型主要分为两类:以 CLIP 为代表的双塔架构,虽高效但模态融合浅;以 MLLM 为基础的融合架构,虽语义能力强却多局限于图文模态。SAIL-Embedding 则从根源上解决这些痛点:
全模态输入:覆盖短视频核心信息维度
不同于仅支持图文的传统模型,SAIL-Embedding 可处理任意模态组合——包括视觉模态侧的视频关键帧/封面、文本模态侧的标题/标签/OCR/ASR 文本、以及音频模态侧的背景音乐/语音,以适配抖音等短视频平台的信息结构。例如,在视频检索任务中,模型能同时利用画面内容、字幕文本与背景音效,避免单一模态信息缺失导致的语义偏差。
SAIL-Embedding 架构图
训练稳定性升级:动态难负样本 + 自适应数据平衡
为解决大规模训练中的噪声干扰与数据分布不均问题,团队提出引入两种策略:
动态难负样本挖掘:通过 F1 分数自适应确定相似度阈值,筛选「难区分」的负样本(如主题相似但内容不同的视频),让模型更聚焦细粒度语义差异,避免简单负样本导致的训练低效。
自适应多源数据平衡:基于 Sinkhorn 算法计算训练集与验证集的分布相似度,自动分配各数据源权重,减少人工调参依赖,同时兼顾数据质量与多样性,缓解工业数据与开源数据的领域鸿沟。
创新训练体系:
从内容理解到推荐适配的全链路优化
SAIL-Embedding 的训练并非单一阶段,而是一套覆盖「基础能力-任务适配-推荐增强」的多阶段体系,确保模型既能理解内容语义,又能贴合真实推荐场景需求:
内容感知渐进式训练:从通用到领域的精准过渡
训练分三阶段逐步深入:
第一阶段:用超 10B 样本的大规模多模态数据(含图文音)预训练,奠定基础语义理解能力;第二阶段:聚焦与下游任务(如视频检索、标签分类)对齐的高质量数据,优化任务适配性;第三阶段:引入难负样本微调,强化模型对相似内容的判别能力。
内容感知的渐进式训练
推荐感知的增强训练:融入用户行为信号
针对推荐场景,团队将多模态表征向用户历史序列表征和线上 ID 表征两个维度进行知识蒸馏以融于用户协同行为信息:
序列到物品蒸馏:通过多维度的用户历史兴趣序列筛选机制,利用用户具有正向交互行为的历史观看序列(如最近 10 个观看视频)与目标视频的关联,让模型学习用户兴趣的时序延续性;
ID 到物品蒸馏:对齐推荐系统中的多元化 ID 表征嵌入,将用户偏好信号(如点击、关注等)融入多模态表征,使嵌入结果更贴合推荐侧应用需求。
协同感知的两阶段推荐增强训练
实测性能:
刷新多任务 SOTA,抖音业务指标显著提升
无论是标准数据集的基准测试,还是抖音真实场景的在线实验,SAIL-Embedding 均展现出卓越性能:
离线任务性能:多场景检索与分类任务综合领先
(1) Item-to-Item Retrieval (物品到物品检索)
在 21 个涵盖内容理解、搜索,以及协同感知的多任务场景下,SAIL-Embedding 显著优于 CLIP-based 模型与 VLM-based 的模型:
(2) Query-to-Item Retrieval (查询到物品检索)
在 9 个涵盖检索为导向和分类为导向的多任务场景下,模型的 AUC 与 Recall 指标均取得领先:
在线落地效果:抖音多场景推荐指标显著提升
在抖音 Feed 流、冷启动、抖音精选、消息推送等核心场景中,SAIL-Embedding 通过潜入向量与嵌入离散化的语义 ID 两种形式赋能推荐全链路,带来了一致的 LT 和 AUC 增益,体现了其显著的业务应用潜力。
SAIL-Embedding 的核心价值在于,它不仅是一款性能领先的全模态嵌入模型,更构建了一套从学术研究到工业落地的完整解决方案:通过全模态架构突破输入局限,用动态数据策略解决训练稳定性问题,以推荐增强训练填补产业鸿沟,最终在抖音真实场景中验证了技术价值,在短视频、直播等富模态推荐场景中,具备极强的推广价值。
抖音 SAIL 团队在未来将进一步探索 VLMs 与推荐系统的深度融合,例如通过生成式任务注入推荐知识,让模型不仅能「理解」内容,更能「预测」用户偏好。
??时事1:OD在线登陆
??10月31日,“着陆何处” 第六届星空艺术节启幕,
好了!总之一句话:好的纪律、秩序是搞好工作、学习的保证。希望忘大家好好学习,天天向上为中心小学争光。
,万博的官方网站。??10月31日,嫦娥六号已奔月 人类首次月背“挖土”到底有多难?,
这堂课上,邵永灵教授点出了多个安全,这实际上就是“总体国家安全观”,包含14个领域。
,怎么用手机投注福彩,足球直播,万博maxbextx网页。??时事2:英雄联盟竞彩app
??10月31日,漫评美所谓“国家安全”之一:“留学生也不放过”,
说到人类与环境的关系,我们总是觉得是件离自己很遥远的事情,其实不然,环境问题可以说就在我们的身边。最近几天,不知大家是否关注过一则报道,由于无锡太湖水域大面积暴发蓝藻,一夜之间,数百万市民的自来水无法正常使用,打开水龙头,就闻到一阵臭烘烘的异味,水无法饮用,给人们的生活带来了诸多不便。而造成这次蓝藻暴发的原因是我们人类自己:工业污水源源不断地排放入太湖,太湖人工养殖业的过度开发,促使太湖水质的富营养化病症日益加重;加上无锡4月份平均气温比常年高出1.8摄氏度,给蓝藻的生长提供了有利条件,蓝藻大量繁殖,水中的溶解氧浓度降低,造成鱼虾、螺蛳等水生物死亡,太湖水面被一层厚厚的绿色物体全面覆盖,腐烂的蓝藻引起水质急剧恶化。原本清澈的太湖水今日景象触目惊心,太湖也在“警告”所有人:如果人类肆意破坏环境,大自然就会无情地报复人类。
,AOA登陆,云顶娱乐登陆官网,im体育官网登录。??10月31日,人工智能能力建设国际合作之友小组在联合国正式成立 中方介绍情况,
那么,我们的学生干部到底应该发挥一些什么作用呢?就现阶段来说,我认为主要有以下几点:
,买球app下载官网,dafa登录官网,伟德体育体育下载。??时事3:那个棋牌有炸金花
??10月31日,电影《没有一顿火锅解决不了的事》在重庆举行“江上首映礼”,
半个时辰后,山脉深处平静了下来,可是火云不散,依旧缭绕,天际一片赤红,像是染上一层神血。
,365bet体育备用器,银河国际有哪几个网站,ag棋牌厅登录。??10月31日,【风起黄埔】黄埔一期曹渊孙女: 祖父壮烈牺牲后周恩来叶挺照顾遗孤,
现在小不点做到了,举起十万斤巨石,身体在朝霞中流淌宝辉,震动这片大荒,很多凶禽猛兽全都逃了,惶惶不可终日。
,365体育手机网站是什么,云顶娱乐登录网页,伟德官网手机版。??时事4:网络ag平台
??10月31日,如何让人工智能服务地震监测?这家科研机构持续创新获重要进展,
“唉,雨蒙传回来了消息,事情虽然不是我雨族做的,但是手下人在西疆的那些小动作肯定瞒不住,同样会引发石族王侯不满啊。”
,线上赌博下载安装,dafabet什么公司,在哪能下注世界杯。??10月31日,焦点访谈:深改开新局 强化基层医疗 保障人民健康,
“那个孩子没有死在补天阁?可真是命大啊。诸教联手,大军压境,强者林立,这样惨烈的大战竟还是让他逃过一劫。”
,雷速比分 足球,马经挂牌系列G,东南亚赌城。责编:汪社锋
审核:尹汤云
责编:邓家佳












