湘西内幕传真B,一款汇聚潮流与创新的应用,带你领略科技与生活的完美融合_新万博体育

新万博体育

图片
搜索
猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

谷歌Dreamer大神离职!「辛顿门徒」自曝错过Transformer

2025-10-30 20:25:04
来源:

猫眼电影

作者:

张志文

手机查看

  猫眼电影记者 郭碧銮 报道Q8X2R7L1T4J5M9B6W3

新智元报道

编辑:元宇

【新智元导读】谷歌世界模型大牛Danijar Hafner宣布离任!他自2016年起开始在Google Brain实习,后又在DeepMind、Brain Team工作。他的经历颇具传奇色彩,曾获辛顿指导,还与?ukasz Kaiser、Ashish Vaswani等Transformer大佬有过交集。

刚刚,「Dreamer」大神Danijar Hafner,宣布离开他曾工作近十年的谷歌。

离职前Danijar担任Google DeepMind旧金山分部的资深研究科学家(Staff Research Scientist)。

他的研究目标是「构建能够理解世界并与世界互动的通用智能体」。

作为谷歌世界模型大牛,Danijar曾主导/联合主导了Dreamer系列(Dreamer、DreamerV3、Dreamer4 等)的开发。

Danijar Hafner

他在推文中写道:「今天是我在DeepMind的最后一天」。

回顾了在Google和DeepMind将近10年的工作经历,Danijar认为「一个重要的篇章走到了终点」。

Danijar在谷歌的早期经历,多是以研究员的身份参与谷歌研究院、DeepMind、Brain Team等团队的工作。

从他的教育经历中,也能清晰看出他的职业发展轨迹。

从2016年起,他就开始参与Brain团队的实习。

据Danijar回忆,2016年他第一次在山景城参与谷歌Brain团队的实习,与James Davidson以及Vincent Vanhoucke一起共事。

因为当时尚无可运行的PPO实现,团队就在TensorFlow的静态图框架下进行调试和实验。

2017-2018年,Danijar在伦敦大学读硕士,期间他就在伦敦的DeepMind工作;

2018-2023年,Danijar在多伦多大学读博士,因此他就在多伦多的Brain Team工作了相当长一段时间。

他与该团队另一位资深研究科学家Mohammad Norouzi共同开发了多个版本的Dreamer。

初识Transformer

但「并未在意」

Danijar还记得?ukasz Kaiser第一次向他们展示一个由「大型」LSTM 生成的维基百科页面时的情形。

?ukasz Kaiser

?ukasz是一位机器学习研究员,他最初在Google Brain团队工作,后来加入OpenAI。

Google Brain团队曾于2018年发表《Generating Wikipedia by Summarizing Long Sequences》,?ukasz Kaiser是作者之一,主题就是端到端生成维基百科条目。

https://arxiv.org/abs/1801.10198?utm_source=chatgpt.com

Danijar还提到他「错过」Transformer的一段插曲。

当时,Ashish Vaswani曾经兴奋地向他介绍一种新架构在计算效率上的优势,并建议他将其应用在强化学习上,但那时Danijar却并未在意(我当时没试)。

后来这种架构被命名为Transformer。

Ashish Vaswani

https://arxiv.org/abs/1706.03762?utm_source=chatgpt.com

Ashish Vaswani是一位在AI领域颇具影响力的科学家与创业者。

他是Essential AI的联合创始人,但更为人熟知的是参与提出了那篇著名的《Attention Is All You Need》的开创性论文。

该论文提出了一种「彻底摒弃循环和卷积结构,仅用注意力机制」的全新简单网络架构Transformer,可以实现更强的并行性和更快的训练速度。

前面提到的?ukasz Kaiser也是这篇开创性论文的主要作者之一。

深度学习研究

2017-2018年,Danijar在伦敦大学攻读硕士。

这段时间他在伦敦的DeepMind工作,有机会参与到深度强化学习和生成式模型的研究,并与Timothy Lillicrap(DeepMind)以及Ian Fischer(Google Research)合作。

这段经历促成了他们共同完成了PlaNet(一种基于模型的强化学习算法,能从像素观测学习潜在世界模型,并在潜空间中进行规划与动作选择)。

Timothy Lillicrap

随后,Danijar与Nicolas Heess、DeepMind的Adaptive Agents团队长期交流,系统梳理并实践Karl Friston的自由能原理(Free Energy Principle, FEP)。

开发Dreamer

曾获辛顿指导

2018-2023年,Danijar在多伦多大学读博士,这段时期他还在加州大学伯克利分校以联合培养博士生的身份开展研究。

在多伦多大学读博期间,Danijar的主要导师是Jimmy Ba,同时还获得了辛顿(Jeffrey Hinton)的指导。

在此期间,Danijar还在多伦多的Brain Team工作了相当长一段时间。

Mohammad Norouzi

他与Google Brain多伦多分部的资深研究科学家Mohammad Norouzi共同开发了多个版本的Dreamer。

他们参与各种合作项目,还一起庆祝了辛顿获得获得图灵奖的时刻。

2018年的图灵奖授予Yoshua Bengio、Geoffrey Hinton和Yann LeCun

过去几年,Danijar一直在伯克利和旧金山之间,与Wilson Yan合作深入研究世界模型。

在Count Zero和Koray Kavukcuoglu的大力支持下,他得以充分利用顶级的算力与资源,推动了一系列前沿探索。

从Dreamer到DreamerV3,再到能够在想象中自主学习、甚至在纯离线环境下完成复杂任务的Dreamer4,这一系列成果令Danijar激动。

在Danijar的个人官网主页上,他的个人愿景十分醒目:「构建能够自主理解世界并与世界互动的智能机器。」

对他而言,世界模型不仅是技术突破,更是理解智能本质的一扇窗口。

如今,Danijar即将结束他在Google/DeepMind的十年旅程,带着复杂的心情和满怀期待,迎接新的篇章。

参考资料:

https://x.com/danijarh/status/1985436821405516031%20

https://danijar.com/?utm_source=chatgpt.com

??时事1:皖青体育app

??10月30日,上海统一战线新年音乐会上演:2024团结再出发,

  一、统一思想,提高认识,深刻理解开展村干部培训工作的重要意义

,买球的网站。

??10月30日,我国国家公园建设取得积极成效 生物多样性稳定增加,

律师解答www.77cxw.com 刑事案件被拘留人无罪释放的,被违法采取 刑事拘留的,可以追究办案人员责任,以及可以依法申请 国家赔偿。 采取刑事拘留的办案人员有贪污受贿,徇私舞弊情形的,应当对当事人给予处分,构成犯罪的,依法追究刑事责任。 法律依据 《民共和国国家赔...

,betway体育官网,ag利来国际,188菠菜网。

??时事2:火狐体育网页版登录

??10月30日,人民论坛网评 | 以科学方法指导和推进改革,

  二要严肃学习纪律。这次集中培训的时间是三天,学习时间较为紧凑,任务十分繁重,因此大家一定要严肃学习纪律,保证学习时间,希望在座的每位同志倍加珍惜这次难得的学习机会,尊重老师的劳动,遵守培训安排作息学习的时间,认真听课,记好笔记,统一行动,不搞个人自由主义,维护良好的学习风气,有特殊情况要向党委主要领导请假,确保培训工作取得预期的效果。

,澳门葡京官网,澳门威尼斯人官网下载,澳门js国际网3016。

??10月30日,中老铁路进出口货物突破800万吨,

开学学校领导讲话 篇2

,万博手机版网页版登录,金沙登录网址,ag8国际大厅登录。

??时事3:千炮捕鱼平台网站

??10月30日,北京IPv6综合发展指数全国第一 推进技术创新应用,

消防安全国旗下精彩(精选33篇)

,九州体育下载,足球比分捷报比分,银河999官网下载安装。

??10月30日,第二届海峡两岸交流融合月在深圳开幕,

  狂风暴雨来袭时,小草就像是在为大地而歌,为天空而舞。暴风显然是来者不善,它还痴心妄想将草儿连根拔起。其实纤身细腰的小草早已在这场生死搏斗前备战已久;因为它时刻牢记着大地交给它的绿色任务。小草迎着风雨,忽而昂首挺胸,忽而摇摇摆摆,有如醉酒欢歌,随即大地上奏演了一场“劲草斗疾风”的赞歌。狂风暴雨退步而下,甘拜下风。雨后彩虹焕发七彩光芒把小草身上的“珍珠”折射得更加璀璨……

,千亿在线登录,第三张补牌的规则,永利新网首页。

??时事4:dafacasino

??10月30日,中国车谷加速打造“软件定义汽车”创新策源地,

  众人发晕,你还真以为自己能创下某种壮举啊?如此猛人哪能随便出现,再说怎么看你这娃都有点憨,不知道自己几斤几两。

,Ag九游会官网,BET9九州平台,cq9跳高高开始上多少分。

??10月30日,攀岩亚少赛、全国青攀联赛相继在四川眉山举行,

  (10)发现火灾迅速打电话119报警,消防队救火不收费。

,天娱乐平台注册,开元棋牌网投,体球手机足球比分。

【天津市第九届市民文化艺术节启幕】

【菜市场“网红”之路:传统农贸市场如何转型?】

责编:葛永明

审核:欧阳修

责编:李守泽

相关推荐 换一换