猫眼电影
猫眼电影记者 穆萨纳 报道Q8X2R7L1T4J5M9B6W3
新智元报道
编辑:元宇
【新智元导读】谷歌世界模型大牛Danijar Hafner宣布离任!他自2016年起开始在Google Brain实习,后又在DeepMind、Brain Team工作。他的经历颇具传奇色彩,曾获辛顿指导,还与?ukasz Kaiser、Ashish Vaswani等Transformer大佬有过交集。
刚刚,「Dreamer」大神Danijar Hafner,宣布离开他曾工作近十年的谷歌。
离职前Danijar担任Google DeepMind旧金山分部的资深研究科学家(Staff Research Scientist)。
他的研究目标是「构建能够理解世界并与世界互动的通用智能体」。
作为谷歌世界模型大牛,Danijar曾主导/联合主导了Dreamer系列(Dreamer、DreamerV3、Dreamer4 等)的开发。
Danijar Hafner
他在推文中写道:「今天是我在DeepMind的最后一天」。
回顾了在Google和DeepMind将近10年的工作经历,Danijar认为「一个重要的篇章走到了终点」。
Danijar在谷歌的早期经历,多是以研究员的身份参与谷歌研究院、DeepMind、Brain Team等团队的工作。
从他的教育经历中,也能清晰看出他的职业发展轨迹。
从2016年起,他就开始参与Brain团队的实习。
据Danijar回忆,2016年他第一次在山景城参与谷歌Brain团队的实习,与James Davidson以及Vincent Vanhoucke一起共事。
因为当时尚无可运行的PPO实现,团队就在TensorFlow的静态图框架下进行调试和实验。
2017-2018年,Danijar在伦敦大学读硕士,期间他就在伦敦的DeepMind工作;
2018-2023年,Danijar在多伦多大学读博士,因此他就在多伦多的Brain Team工作了相当长一段时间。
他与该团队另一位资深研究科学家Mohammad Norouzi共同开发了多个版本的Dreamer。
初识Transformer
但「并未在意」
Danijar还记得?ukasz Kaiser第一次向他们展示一个由「大型」LSTM 生成的维基百科页面时的情形。
?ukasz Kaiser
?ukasz是一位机器学习研究员,他最初在Google Brain团队工作,后来加入OpenAI。
Google Brain团队曾于2018年发表《Generating Wikipedia by Summarizing Long Sequences》,?ukasz Kaiser是作者之一,主题就是端到端生成维基百科条目。
https://arxiv.org/abs/1801.10198?utm_source=chatgpt.com
Danijar还提到他「错过」Transformer的一段插曲。
当时,Ashish Vaswani曾经兴奋地向他介绍一种新架构在计算效率上的优势,并建议他将其应用在强化学习上,但那时Danijar却并未在意(我当时没试)。
后来这种架构被命名为Transformer。
Ashish Vaswani
https://arxiv.org/abs/1706.03762?utm_source=chatgpt.com
Ashish Vaswani是一位在AI领域颇具影响力的科学家与创业者。
他是Essential AI的联合创始人,但更为人熟知的是参与提出了那篇著名的《Attention Is All You Need》的开创性论文。
该论文提出了一种「彻底摒弃循环和卷积结构,仅用注意力机制」的全新简单网络架构Transformer,可以实现更强的并行性和更快的训练速度。
前面提到的?ukasz Kaiser也是这篇开创性论文的主要作者之一。
深度学习研究
2017-2018年,Danijar在伦敦大学攻读硕士。
这段时间他在伦敦的DeepMind工作,有机会参与到深度强化学习和生成式模型的研究,并与Timothy Lillicrap(DeepMind)以及Ian Fischer(Google Research)合作。
这段经历促成了他们共同完成了PlaNet(一种基于模型的强化学习算法,能从像素观测学习潜在世界模型,并在潜空间中进行规划与动作选择)。
Timothy Lillicrap
随后,Danijar与Nicolas Heess、DeepMind的Adaptive Agents团队长期交流,系统梳理并实践Karl Friston的自由能原理(Free Energy Principle, FEP)。
开发Dreamer
曾获辛顿指导
2018-2023年,Danijar在多伦多大学读博士,这段时期他还在加州大学伯克利分校以联合培养博士生的身份开展研究。
在多伦多大学读博期间,Danijar的主要导师是Jimmy Ba,同时还获得了辛顿(Jeffrey Hinton)的指导。
在此期间,Danijar还在多伦多的Brain Team工作了相当长一段时间。
Mohammad Norouzi
他与Google Brain多伦多分部的资深研究科学家Mohammad Norouzi共同开发了多个版本的Dreamer。
他们参与各种合作项目,还一起庆祝了辛顿获得获得图灵奖的时刻。
2018年的图灵奖授予Yoshua Bengio、Geoffrey Hinton和Yann LeCun
过去几年,Danijar一直在伯克利和旧金山之间,与Wilson Yan合作深入研究世界模型。
在Count Zero和Koray Kavukcuoglu的大力支持下,他得以充分利用顶级的算力与资源,推动了一系列前沿探索。
从Dreamer到DreamerV3,再到能够在想象中自主学习、甚至在纯离线环境下完成复杂任务的Dreamer4,这一系列成果令Danijar激动。
在Danijar的个人官网主页上,他的个人愿景十分醒目:「构建能够自主理解世界并与世界互动的智能机器。」
对他而言,世界模型不仅是技术突破,更是理解智能本质的一扇窗口。
如今,Danijar即将结束他在Google/DeepMind的十年旅程,带着复杂的心情和满怀期待,迎接新的篇章。
参考资料:
https://x.com/danijarh/status/1985436821405516031%20
https://danijar.com/?utm_source=chatgpt.com
??时事1:91亚洲视频
??11月01日,财经观察:“国潮”风涌 解暑“老字号”迎新机中国铁路北京局端午假期运输收官 共计发送旅客636.6万人次,
不久前,他们吃了一个暴亏,领军人物蛟苍被废,遣出的高手更是几乎全部折损,令他们举族皆愤。现在至强的族主亲自来了,难道还灭不了一个村落不成?打死他们也不相信。
,欧美性爱网站在线一级。??11月01日,今年首次大范围雨雪过程开启 江南东北等地气温波动频繁,
七办:老师们精诚合作、密切配合,出色地完成了一个又一个工作任务。无论是出课辅导,还是演出比赛,都取得了优异的成绩,为学校争得了荣誉。
,SM婚纱拘束一区,被操到叫的视频,久久无码精品一级A片。??时事2:国产特级毛片AAAAAA视频
??11月01日,云南镇雄山体滑坡灾害已致31人遇难,
而他们狩猎队伍中的头领也大叫,要求谈判,他高足有两米三四,气势迫人,但是此时却再也不似刚才那般强硬与咄咄逼人了。
,91资源,AlettaOcean精品系列,十八禁黃色成人网站免费中国。??11月01日,时政微周刊丨总书记的一周(10月21日—10月27日),
几个孩子惊呼,他们胆大包天,在村中偷听到大人的谈话后,自作主张,就是冲着凶禽的卵而来的。
,欧美黄片黑人性交,成人黄片做爱视频,国产亚洲精品精品国产。??时事3:91嫩草国产在线看网站
??11月01日,【冰雪春天】江苏无锡今年春节期间将发放8000万元消费券,
保护环境国旗下的讲话 老师们、同学们:
,538精品视频二区免费,国好黄色视频,国产精品s。??11月01日,安徽2023年外贸增速长三角第一 出口汽车72.92万辆,
夏幽雨用手拢了拢乌黑亮丽的秀发,莹白的俏脸,晶莹若精灵般的耳朵,水灵灵的大眼,让她看起来出尘动人,她掌心霞光一闪,出现一块器物,似金非金似石非石,刻有一条条繁复的纹络。
,精品无码一级毛片免费视频,国产精品无码一区二区三区毛片,༄༊࿆J💞Jღ᭄ꦿ࿐。??时事4:就去吻亚洲精品欧美日韩在线
??11月01日,社评:达沃斯将再次见证中国与世界相互成就,
紫山昆也出手,紫气蒙蒙,一轮太阳飞出,当中孕有一只火麟,发出恐怖的紫色火焰,腾跃而起,狰狞无比。
,黄色视频一区二区三区四区,九一国产在线视频,免费国产va视频永久在线看。??11月01日,外交部:福岛第一核电站附近海域相关海水样本已运抵中国,
“我的妈呀,差点让本娃大口吐血啊。”鼻涕娃后怕,夸张的拍了怕胸脯。
,冲田杏梨剑法,91免费精品国产拍在线,久久久99无码一区。责编:李学林
审核:卢洪洲
责编:戴祖云












