(5秒深度揭秘)爱游戏网页登录鸿蒙版v00.56.85.64.24.561.52-2265安卓网_新万博体育

新万博体育

图片
搜索
猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

抖音SAIL团队联合港中文MMLab推出SAIL-Embedding

2025-10-31 06:12:24
来源:

猫眼电影

作者:

靳尚谊

手机查看

  猫眼电影记者 官风清 报道Q8X2R7L1T4J5M9B6W3

在短视频推荐、跨模态搜索等工业场景中,传统多模态模型常受限于模态支持单一、训练不稳定、领域适配性差等问题。

近日,字节跳动抖音 SAIL 团队联合香港中文大学 MMLab 提出 SAIL-Embedding——一款专为大规模推荐场景设计的全模态嵌入基础模型,不仅实现了视觉、文本、音频的统一表征,更在抖音真实业务场景中带来显著效果提升,相关技术报告已正式公开。

论文标题:SAIL-Embedding Technical Report: Omni-modal Embedding Foundation Model技术报告:https://arxiv.org/pdf/2510.12709HuggingFace:https://huggingface.co/BytedanceDouyinContent/collections

SAIL-Embedding 能力概览

突破传统局限:

全模态 + 工业级优化双管齐下

现有多模态嵌入模型主要分为两类:以 CLIP 为代表的双塔架构,虽高效但模态融合浅;以 MLLM 为基础的融合架构,虽语义能力强却多局限于图文模态。SAIL-Embedding 则从根源上解决这些痛点:

全模态输入:覆盖短视频核心信息维度

不同于仅支持图文的传统模型,SAIL-Embedding 可处理任意模态组合——包括视觉模态侧的视频关键帧/封面、文本模态侧的标题/标签/OCR/ASR 文本、以及音频模态侧的背景音乐/语音,以适配抖音等短视频平台的信息结构。例如,在视频检索任务中,模型能同时利用画面内容、字幕文本与背景音效,避免单一模态信息缺失导致的语义偏差。

SAIL-Embedding 架构图

训练稳定性升级:动态难负样本 + 自适应数据平衡

为解决大规模训练中的噪声干扰与数据分布不均问题,团队提出引入两种策略:

动态难负样本挖掘:通过 F1 分数自适应确定相似度阈值,筛选「难区分」的负样本(如主题相似但内容不同的视频),让模型更聚焦细粒度语义差异,避免简单负样本导致的训练低效。

自适应多源数据平衡:基于 Sinkhorn 算法计算训练集与验证集的分布相似度,自动分配各数据源权重,减少人工调参依赖,同时兼顾数据质量与多样性,缓解工业数据与开源数据的领域鸿沟。

创新训练体系:

从内容理解到推荐适配的全链路优化

SAIL-Embedding 的训练并非单一阶段,而是一套覆盖「基础能力-任务适配-推荐增强」的多阶段体系,确保模型既能理解内容语义,又能贴合真实推荐场景需求:

内容感知渐进式训练:从通用到领域的精准过渡

训练分三阶段逐步深入:

第一阶段:用超 10B 样本的大规模多模态数据(含图文音)预训练,奠定基础语义理解能力;第二阶段:聚焦与下游任务(如视频检索、标签分类)对齐的高质量数据,优化任务适配性;第三阶段:引入难负样本微调,强化模型对相似内容的判别能力。

内容感知的渐进式训练

推荐感知的增强训练:融入用户行为信号

针对推荐场景,团队将多模态表征向用户历史序列表征和线上 ID 表征两个维度进行知识蒸馏以融于用户协同行为信息:

序列到物品蒸馏:通过多维度的用户历史兴趣序列筛选机制,利用用户具有正向交互行为的历史观看序列(如最近 10 个观看视频)与目标视频的关联,让模型学习用户兴趣的时序延续性;

ID 到物品蒸馏:对齐推荐系统中的多元化 ID 表征嵌入,将用户偏好信号(如点击、关注等)融入多模态表征,使嵌入结果更贴合推荐侧应用需求。

协同感知的两阶段推荐增强训练

实测性能:

刷新多任务 SOTA,抖音业务指标显著提升

无论是标准数据集的基准测试,还是抖音真实场景的在线实验,SAIL-Embedding 均展现出卓越性能:

离线任务性能:多场景检索与分类任务综合领先

(1) Item-to-Item Retrieval (物品到物品检索)

在 21 个涵盖内容理解、搜索,以及协同感知的多任务场景下,SAIL-Embedding 显著优于 CLIP-based 模型与 VLM-based 的模型:

(2) Query-to-Item Retrieval (查询到物品检索)

在 9 个涵盖检索为导向和分类为导向的多任务场景下,模型的 AUC 与 Recall 指标均取得领先:

在线落地效果:抖音多场景推荐指标显著提升

在抖音 Feed 流、冷启动、抖音精选、消息推送等核心场景中,SAIL-Embedding 通过潜入向量与嵌入离散化的语义 ID 两种形式赋能推荐全链路,带来了一致的 LT 和 AUC 增益,体现了其显著的业务应用潜力。

SAIL-Embedding 的核心价值在于,它不仅是一款性能领先的全模态嵌入模型,更构建了一套从学术研究到工业落地的完整解决方案:通过全模态架构突破输入局限,用动态数据策略解决训练稳定性问题,以推荐增强训练填补产业鸿沟,最终在抖音真实场景中验证了技术价值,在短视频、直播等富模态推荐场景中,具备极强的推广价值。

抖音 SAIL 团队在未来将进一步探索 VLMs 与推荐系统的深度融合,例如通过生成式任务注入推荐知识,让模型不仅能「理解」内容,更能「预测」用户偏好。

??时事1:OD在线登陆

??10月31日,“着陆何处” 第六届星空艺术节启幕,

  好了!总之一句话:好的纪律、秩序是搞好工作、学习的保证。希望忘大家好好学习,天天向上为中心小学争光。

,万博的官方网站。

??10月31日,嫦娥六号已奔月 人类首次月背“挖土”到底有多难?,

  这堂课上,邵永灵教授点出了多个安全,这实际上就是“总体国家安全观”,包含14个领域。

,怎么用手机投注福彩,足球直播,万博maxbextx网页。

??时事2:英雄联盟竞彩app

??10月31日,漫评美所谓“国家安全”之一:“留学生也不放过”,

  说到人类与环境的关系,我们总是觉得是件离自己很遥远的事情,其实不然,环境问题可以说就在我们的身边。最近几天,不知大家是否关注过一则报道,由于无锡太湖水域大面积暴发蓝藻,一夜之间,数百万市民的自来水无法正常使用,打开水龙头,就闻到一阵臭烘烘的异味,水无法饮用,给人们的生活带来了诸多不便。而造成这次蓝藻暴发的原因是我们人类自己:工业污水源源不断地排放入太湖,太湖人工养殖业的过度开发,促使太湖水质的富营养化病症日益加重;加上无锡4月份平均气温比常年高出1.8摄氏度,给蓝藻的生长提供了有利条件,蓝藻大量繁殖,水中的溶解氧浓度降低,造成鱼虾、螺蛳等水生物死亡,太湖水面被一层厚厚的绿色物体全面覆盖,腐烂的蓝藻引起水质急剧恶化。原本清澈的太湖水今日景象触目惊心,太湖也在“警告”所有人:如果人类肆意破坏环境,大自然就会无情地报复人类。

,AOA登陆,云顶娱乐登陆官网,im体育官网登录。

??10月31日,人工智能能力建设国际合作之友小组在联合国正式成立 中方介绍情况,

  那么,我们的学生干部到底应该发挥一些什么作用呢?就现阶段来说,我认为主要有以下几点:

,买球app下载官网,dafa登录官网,伟德体育体育下载。

??时事3:那个棋牌有炸金花

??10月31日,电影《没有一顿火锅解决不了的事》在重庆举行“江上首映礼”,

  半个时辰后,山脉深处平静了下来,可是火云不散,依旧缭绕,天际一片赤红,像是染上一层神血。

,365bet体育备用器,银河国际有哪几个网站,ag棋牌厅登录。

??10月31日,【风起黄埔】黄埔一期曹渊孙女: 祖父壮烈牺牲后周恩来叶挺照顾遗孤,

  现在小不点做到了,举起十万斤巨石,身体在朝霞中流淌宝辉,震动这片大荒,很多凶禽猛兽全都逃了,惶惶不可终日。

,365体育手机网站是什么,云顶娱乐登录网页,伟德官网手机版。

??时事4:网络ag平台

??10月31日,如何让人工智能服务地震监测?这家科研机构持续创新获重要进展,

  “唉,雨蒙传回来了消息,事情虽然不是我雨族做的,但是手下人在西疆的那些小动作肯定瞒不住,同样会引发石族王侯不满啊。”

,线上赌博下载安装,dafabet什么公司,在哪能下注世界杯。

??10月31日,焦点访谈:深改开新局 强化基层医疗 保障人民健康,

  “那个孩子没有死在补天阁?可真是命大啊。诸教联手,大军压境,强者林立,这样惨烈的大战竟还是让他逃过一劫。”

,雷速比分 足球,马经挂牌系列G,东南亚赌城。

责编:汪社锋

审核:尹汤云

责编:邓家佳

相关推荐 换一换