猫眼电影
猫眼电影记者 胡凯文 报道P6F3X2M7T9QJ8L1B4WZR
TC-Light 是由中科院自动化所张兆翔教授团队研发的生成式渲染器,能够对具身训练任务中复杂和剧烈运动的长视频序列进行逼真的光照与纹理重渲染,同时具备良好的时序一致性和低计算成本开销,使得它能够帮助减少 Sim2Real Gap 以及实现 Real2Real 的数据增强,帮助获得具身智能训练所需的海量高质量数据。
它是如何实现的呢?本文将为你揭秘 TC-Light 背后的黑科技!本工作已中稿 NeurIPS2025,论文与代码均已公开,欢迎大家试用和体验,也欢迎大家到 Project Page 体验 Video Demo。
论文题目:TC-Light: Temporally Coherent Generative Rendering for Realistic World Transfer项目主页: https://dekuliutesla.github.io/tclight/论文链接: https://arxiv.org/abs/2506.18904代码链接: https://github.com/Linketic/TC-Light
研究背景
光线及其与周围环境的交互共同塑造了人类以及具身智能体感知数字世界和现实世界的基本方式,在不同光照条件下对世界的观测使得我们理解光线与物质的交互关系,使得我们形成对周边环境物质和几何属性的基本判断,并且也使得我们能够在不同的光照条件下都能够鲁棒且正确地完成与世界的交互。
然而,在现实环境中采集不同光照与场景条件下的数据代价高昂,而仿真环境中尽管可以获得近乎无限的数据,但受限于算力资源,通常需要对光线的多次折射衍射以及纹理精度进行近似和简化,使得视觉真实性无可避免地受到损失,在视觉层面产生 Sim2Real Gap。而如果能够借助生成式模型根据所需的光照条件对现实或仿真环境下采集到的视频数据进行重渲染,不仅能够帮助获得增加已有真实数据的多样性,并且能够弥合计算误差带来的 CG 感,使得从仿真器中得到视觉上高度真实的传感器数据,包括 RL-CycleGAN 在内的许多工作已经证实,这一策略能够帮助减少将具身模型迁移到真实环境中所需微调的数据量和训练量。
尽管这一任务意义重大,但实际解决过程面临许多挑战。用于训练的视频数据往往伴随复杂的运动以及前景物体的频繁进出,同时视频序列有着较长的长度以及较高的分辨率。我们的定量和定性实验证据(参见论文实验部分及 Project Page)表明,在这些复杂且困难的输入条件下,已有的算法要么受制于训练所用视频数据的分布(如 COSMOS-Transfer1,Relighting4D),要么难以承受巨大的计算开销(如 Light-A-Video, RelightVid),要么难以保证良好的时序一致性(如 VidToMe, RAVE 等)。
图 1 TC-Light 效果展示
为了推动这一问题的解决,我们提出了 TC-Light 算法,在提升视频生成模型计算效率的同时,通过两阶段在线快速优化提升输出结果的一致性,如图 1 和视频Demo所示所示,本算法在保持重渲染真实性的同时,时序一致性和真实性相比于已有算法取得了显著提高。下面对算法细节进行详细介绍。
二、TC-Light 算法介绍
零样本时序模型扩展
TC-Light 首先使用视频扩散模型根据文本指令对输入视频进行初步的重渲染。这里我们基于预训练好的 SOTA 图像模型 IC-Light 以及 VidToMe 架构进行拓展,同时引入我们所提出的 Decayed Multi-Axis Denoising 模块增强时序一致性。具体而言,VidToMe 在模型的自注意力模块前后分别对来自不同帧的相似 token 进行聚合和拆分,从而增强时序一致性并减少计算开销;如图 2 中 (a) 所示,类似 Slicedit,Decayed Multi-Axis Denoising 模块将输入视频分别视作图像 (x-y 平面) 的序列和时空切片(y-t 平面)的序列,分别用输入的文本指令和空文本指令进行去噪,并对两组噪声进行整合,从而使用原视频的运动信息指导去噪过程。不同于 Slicedit,我们在 AIN 模块对两组噪声的统计特性进行了对齐,同时时空切片部分的噪声权重随去噪步数指数下降,从而避免原视频光照和纹理分布对重渲染结果的过度影响。
图 2 TC-Light 管线示意图
两阶段时序一致性优化策略
尽管通过引入前一小节的模型,视频生成式重渲染结果的一致性得到了有效改善,但输出结果仍然存在纹理和光照的跳变。因此我们进一步引入两阶段的时序一致性优化策略,这同时也是 TC-Light 的核心模块。在第一阶段,如图 2 中 (b) 所示,我们为每一帧引入 Appearance Embedding 以调整曝光度,并根据 MemFlow 从输入视频估计的光流或仿真器给出的光流优化帧间一致性,从而对齐全局光照。这一阶段的优化过程非常快速,A100 上 300 帧 960x540 分辨率只需要数十秒的时间即可完成。
三、实验与分析
表 1 与主流算法的定量性能比较,其中 VidToMe 和 Slicedit 的基模型都换成了 IC-Light 以进行公平比较。Ours-light 指不用 Multi-Axis Denoising 模块的结果,相当于对 VidToMe 直接应用两阶段优化算法。
为了验证算法在长动态序列的重渲染表现,我们从 CARLA、Waymo、AgiBot-DigitalWorld、DROID 等数据集收集了 58 个序列进行综合评测,结果如表 1 所示。可以看到我们的算法克服了已有算法在时序一致性和计算开销等方面的问题,取得了最佳的综合性能表现。图 3 的可视化对比也表明,我们的算法在保持内容细节的同时得到了高质量的重渲染性能表现。
图 3 一致性与生成质量可视化对比。TC-Light 避免了 (a) 中像 Slicedit 和 COSMOS-Transfer1 那样不自然的重渲染结果和 (b) 中展现出的模糊失真,或 (c) 中像 IC-Light 和 VidToMe 那样的时序不一致性。
此外,我们也在有 GT 数据的仿真数据集 Virtual KITTI 上进行了比较,从而可以使用 SSIM 和 LPIPS 等指标替换 CLIP-T 等代理指标获得更客观的性能评估。表 2 的结果同样表明,我们的算法很好地取得了计算开销和性能之间的平衡,取得了最佳的重渲染效果。
表 2 Virtual KITTI 数据集上与主流算法的定量性能比较
四、总结
TC-Light 作为一种新的生成式渲染器,克服了具身环境下视觉传感器数据重渲染面对的时序一致性和长序列计算开销两大挑战,在性能表现上优于现有技术,不仅为 Sim2Real 和 Real2Real 数据扩展带来了新的思路,也为视频编辑领域带来了新的模型范式。TC-Light 的论文和代码均已开源,希望能够相关领域带来不同的思考和启发。
??时事1:ayxag
??09月28日,青海循化黄河岸畔迎来候鸟 若谦谦君子结伴越冬,
毕业班 篇2
,凯时k66手机版下载。??09月28日,外交部:中方没有兴趣利用网络干涉别国内政,
“噗”的一声,一颗人头飞起,雨蒙直接就被斩了,死在了西疆,消息传回皇都,引发震动,这是抽雨族的脸啊。
,火狐体育官网app入口,千炮捕鱼平台手机版,幸运快3彩票。??时事2:最新澳门网上真人游戏
??09月28日,突尼斯国际外交学院举行启用仪式,
同志们,百年大计,教育为本;优先发展,育人为本。近年来,在县委县政府的正确领导下,在全县教育工作者的共努力下,我县教育工作取得了长足的发展,教育教学质量稳步提高,形成了尊师重教的良好社会氛围,教育工作步入了新的发展阶段。我们要全面贯彻落实国、省、市教育工作会议和“教育规划纲要”精神,把全面提高学生的综合素质,作为提高教育质量,办人民满意教育,建人才发展高地的突破口,积极组织和动员广大青少年参加各种文艺活动,确立文艺方面的拔尖人才培养体系,组建最好的文艺教师训练队伍,配置现代化的文艺设施,把有文艺特殊潜质的学生进行专业化的教育训练,大规模、经常性组织师生开展各类专业特长和素质风采的比赛展示活动,让同学们在文艺活动中不断提高素质,享受成长的快乐!
,火狐体育下载,新宝5娱乐测试登录,贝博体育平台官网登录。??09月28日,杭州湾跨海铁路桥南航道桥首个钢吊箱顺利下放,
小不点像是扔死狗一般,将他丢在村头,石林虎上前,一只大脚踏在了他的胸膛上,吼道:“你不是嚣张吗?”“
,raybet雷竞技网页版,真钱手游注册,黄金城gcgc官网。??时事3:qy115vip 千赢国际
??09月28日,“千年古邑”安徽旌德:融大黄山建设 揽长三角客群,
京东金条逾期3万被起诉怎么办,会怎么样
,pg电子客户端,KB体育,奇异果体育平台入口。??09月28日,百余件亚美尼亚文化珍品亮相广东省博物馆,
明天你们的人生将掀开新的篇章
,365彩票官方网站彩,娱乐网址注册平台大全,豹女郎。??时事4:凯发娱乐体育注册
??09月28日,外媒:乌克兰全境发布空袭警报 ,
从厂领导到班组长,到每一名职工,层层签订责任状,层层把关,层层落实,提高工作执行力,才能完成矿下达的节约500万元利润的目标。
,大发体育在哪开户,沙巴体育比分,英皇体育平台投注。??09月28日,澳大利亚珀斯北部发生船只倾覆事故 一人遇难,
最后,祝各位领导及各位朋友身体健康,工作顺利,家庭幸福,万事如意!
,下载炸金花APP,mg平台网址多少,博天堂网页版。责编:孟武斌
审核:任中杰
责编:陈怀亮