猫眼电影
猫眼电影记者 卡里卡里 报道Q8X2R7L1T4J5M9B6W3
新智元报道
编辑:KingHZ
【新智元导读】图灵奖得主LeCun与Meta分道扬镳!LLM邪路一条,「世界模型才是」未来。
Meta风向已变,Yann LeCun承认马上离职!
据多家权威媒体报道,Meta首席AI科学家、负责「基础AI研究」(FAIR)的Yann LeCun,预计将很快离职。
这位65岁的AI界元老,在Meta这家全球最大的科技公司之一担任核心大脑,可以说拥有无限的资源。
Meta可谓挥金如土。它用天价薪酬疯狂从对手那里挖角顶尖AI专家。
在7月,扎克伯格甚至宣称「超级智能已近在眼前」。
那么,LeCun为何要离开Meta呢?只是因为Meta的人事动荡吗?背后有何隐情?
小扎转向,LeCun失势?
今年夏天,年仅28岁的Alexandr Wang成为Meta的首席AI官,让这位初出茅庐的大语言模型狂热者成了LeCun的上司。
此外,Meta今年还任命了另一位相对年轻的首席科学家赵晟佳(Shengjia Zhao),职位也在LeCun之上。
在官方公告中,Meta盛赞了赵晟佳在scaling方面带来的「突破」。而LeCun恰恰对scaling失去了信心。
他还告诫博士生:「不要做LLM」。
如果你好奇为什么LeCun和Zhao都是首席科学家,那是因为Meta的AI部门组织架构相当奇特,分成了多个独立的团队。
媒体不断有消息放出,Meta要对其AI组织结构动刀。
上个月,Meta超级AI实验室裁掉了数百人,包括10年老将田渊栋。据称,这是为了理顺这种混乱的局面。
这已经是Meta在半年之内第四次调整AI业务了。
而那支曾由LeCun领导、风头一时无两的FAIR,如今早已风光不再。据现任与前员工透露,这个部门经历了裁员、预算缩水,内部影响力也明显下降。
曾几何时,FAIR是Meta内部思想最活跃的「象牙塔」,研究人员可以探讨各种AI未来路径,甚至可以做些「未必能成」的实验,完全不用担心产品化问题。
而现在,Meta新组建的AI研究部门招来一大批高薪新兵,由Wang主导,目标明确:要快、要落地、要产品化。
在AI上,他领先了40年
LeCun一向走在时代前沿——
早在「机器学习」还不被主流认可时,他就开始研究这个方向。
他曾在多伦多的Geoffrey Hinton实验室工作,那时Hinton还没成为AI传奇人物。
之后,他的职业生涯大多时间都在新泽西州的贝尔实验室度过,这家机构因诞生众多创新发明而闻名。
1947年,贝尔实验室发明晶体管
「最让我兴奋的事情,就是和比我聪明的人共事,因为这会放大你的能力。」LeCun在2023年杂志采访时说道。
在贝尔实验室,LeCun曾参与开发手写识别技术,这项技术后来被广泛应用于银行自动读取支票。他还参与了一个项目,致力于将纸质文档数字化并通过互联网分发。
LeCun曾表示,自己从小就对物理感兴趣,在贝尔实验室期间也主要和物理学家合作,看了不少物理教材。
我学到了很多表面上与AI或计算机科学无关的东西(我本科是电气工程,计算机方面的正规训练其实很少)。
2003年,LeCun开始在纽约大学教授计算机科学,后来成为该校数据科学中心的创始主任。
2013年,扎克伯格亲自邀请他加入Facebook(当时还未更名为Meta),组建全新的AI实验室。
他领导这个团队四年,2018年卸任,转为公司首席AI科学家,以「个人研究员」身份继续探索技术前沿。
2018年,他与Geoffrey Hinton和Yoshua Bengio共同获得图灵奖——计算机界的最高荣誉,以表彰三人在神经网络方面的奠基性工作。
自那之后,LeCun就逐渐转为「象征性人物」角色。他没有参与Meta首个开源大语言模型Llama的研发,也早就不再参与这类项目的日常工作。
据与他共事的人透露,LeCun现在主要在做自己的研究项目,也经常出席各种技术会议,发表对AI技术的看法。
面对媒体的报道,Yann LeCun只是指出了报道中的「小错误」,并没有否认即将离职的消息。
他知道自己在包括Meta在内的整个硅谷技术圈内,备受冷落。上个月在MIT的一次研讨会上,65岁的LeCun直言:
这些年,我在硅谷、包括Meta的很多角落都不太受欢迎,因为我一直在说,3到5年内,世界模型将成为主流AI架构,没人再会愿意用现在这种LLM。
但他坚信自己对AI未来的判断。他的老朋友Léon Bottou曾告诉媒体,LeCun「倔强得可爱」——他会听别人意见,但更有自己坚守的信念。
现在,LeCun在Meta好像「忍无可忍」,终于要离职了。
实际上,他早已多次暗示答案。
在通往通用人工智能的道路上,LeCun近来以其对大语言模型的尖锐批评而闻名。
他认为,无论科技巨头如何扩大其规模,我们目前所理解的大语言模型都已是「强弩之末」,是一条「岔路、干扰,一条死胡同」。
他投身AI研究已有40年,对AI的判断屡屡应验。如今,他认为大多数人都错了。
他为现代AI奠定了诸多基础。而现在他坚信,领域内的大多数人都被大语言模型的「海妖之歌」引入了歧途。
这为他的离职提供了新万博体育:可能的解释。
LeCun离开Meta,或为了世界模型
此前报道,他正在与业内同行商议创办公司、寻找投资,
所谓「世界模型」,类似小动物或婴儿那样,通过视觉等感知数据主动学习世界规律;而LLM只是依赖海量文本做预测的模型。
LeCun本人也从不避讳解释为何他认为「世界模型」才是AI的答案。
Meta的Llama、OpenAI的GPT、谷歌的Bard这些模型,都是靠海量数据训练出来的。LeCun估算,如果让人去读完它们训练所需的所有文本,大概得花10万年。
但人类学习的主要方式,并不是读文本。
我们从与世界的互动中,获取的信息要多得多。LeCun估计,一个普通的四岁小孩接触过的数据量,是目前最大的LLM的50倍。
大部分人类知识,其实不是语言。
所以这些系统永远不可能达到人类水平的智能——除非你彻底改掉它们的架构。
而他自己,早就准备好了替代方案。他称之为「目标驱动的AI」(objective-driven AI)。
目标驱动的AI系统的构建宗旨,是完成人类设定的特定目标。
与仅靠纯文本数据驱动不同,它们通过传感器和视频数据训练来认知物理世界。
由此构建出的「世界模型」能呈现行动带来的影响,所有潜在变化都会实时更新至系统记忆。
他为何对世界模型如此沉迷?
在年初的「巴黎AI峰会」上,Yann LeCun明确指出,他是可穿戴设备的坚定信徒。
他认为,未来,我们需要与可穿戴设备互动,就像与人交流一样,而大语言模型根本不像人类那样理解世界。
对于大语言模型,我们甚至无法复制猫或老鼠的智能,更不用说狗了。
这些动物能完成惊人的壮举,它们理解物理世界。任何一只家猫都能规划出极其复杂的行动,因为它们拥有新万博体育:世界的因果模型。
为了说明这一点,LeCun设计了一个思想实验:「想象一个立方体悬浮在你面前的空中。好,现在让这个立方体绕着垂直轴旋转90度。它会是什么样子?」
他认为任何人类都能轻松完成,而大语言模型却无能为力:
「对人来说,在脑海中构建一个旋转立方体的心理模型,非常容易。」
当然,大语言模型可以毫不费力地写一首新万博体育:悬浮旋转立方体的打油诗,但它无法真正帮助你与这个立方体互动。
LeCun断言,这是因为文本数据与处理非文本世界所获得的数据之间存在本质差异。
他指出,尽管大语言模型训练所用的文本量需要一个人花45万年才能读完,但一个四岁的孩子在醒着的16000小时里,通过眼睛看、用手触摸,已经处理了高达1.4x10^14字节的新万博体育:世界的感觉数据——
他认为这比大语言模型处理的数据还要多。
顺便一提,这些只是LeCun在演讲中给出的估算,他在其他场合也给过不同的数字。但这些数字指向的核心观点是:大语言模型存在着局限,而LeCun相信世界模型能够克服这些局限。
他又将如何构建世界模型?
在Meta时,LeCun其实已经开始研究世界模型——他还拍了一个介绍视频,开头就让你想象一个旋转的立方体。
在AI行动峰会的演讲中,他理想中的模型包含一个对「当前世界状态的估计」,以某种抽象形式呈现与当前情境相关的一切。它不再是按顺序预测token,而是「预测在你采取一系列行动后,世界将达到的最终状态」。
他表示,世界模型将使未来的计算机科学家能够构建出「可以规划行动——可能是分层级的——以实现某个目标的系统,以及能够进行推理的系统。」
LeCun还坚称,这类系统将拥有更强大的安全特性,因为控制它们的方式是内置的,而不是像现在这样,面对一个神秘莫测、只会输出文本的黑箱,只能通过微调来加以修正。
LeCun所说的经典AI——例如搜索引擎中使用的软件——所有问题都可以归结为优化问题。
他提出,他的世界模型将审视当前的世界状态,并通过寻找高效的解决方案,来寻求与某个不同状态的兼容性。
LeCun在演讲中解释道:「你需要一个能量函数来衡量不兼容性,给定一个x,找到一个对于该x能量较低的y」。
如果说,我们从LeCun的公开言论中拼凑出的「真相」很粗糙、有些模糊,甚至完全错误,那也完全正常。
LeCun似乎正在构想一个「登月计划」——
他希望推动AI领域迎来又一次类似ChatGPT那样的、诞生惊人能力的爆发式发展。
但这可能需要耗费数年——甚至永远无法实现——更不用说数十亿美元的投资了,才可能看到任何真正了不起的成果。
参考资料:
https://gizmodo.com/yann-lecun-world-models-2000685265
https://www.linkedin.com/feed/update/urn:li:activity:7395602392169488384/
https://www.wsj.com/tech/ai/yann-lecun-ai-meta-0058b13c?mod=e2tw
??时事1:万能娱乐捕鱼什么时候好打
??11月10日,浙江经济观察:小微企业需要什么样的营商环境?,
小鸾鸟羽翼鲜艳,体长两米,悠闲的向湖中游去,根本不怕这群孩子。至于几十头独角兽除了对成年男子稍有戒心外,根本无视孩子们。
,湖南码报。??11月10日,成都郫都:警民合力抬起汽车救助车祸被困老人,
二、统一思想,提高认识,进一步凝聚加快城市建设的共识
,oubo体育,世界杯投注赚几千万,AG恒峰娱乐。??时事2:优德直播视讯
??11月10日,乐华娱乐回应股价暴跌 旗下拥有王一博等60余位艺人,
再怎么说,这里也是精神世界,化成武器的东西想来不会太差,他怕赔不起。
,奇亿娱乐首页官网,宝博平台首页,新蒲京娱乐娱城官方网站。??11月10日,加拿大卑诗省一直升机坠毁 已致3死4重伤,
无论如何,他们也不会相信石昊已经摸索到了强大的骨文奥秘,认为是他手腕上那串由兽牙打磨成的手串发挥了作用,因为确实有晶莹光泽流淌。
,赢八娱乐赢八官网,AG鸭游,Fun88app官网479。??时事3:世界杯体彩购买软件
??11月10日,中国石油吉林油田公司原党委委员、副总经理、安全总监尹旭接受纪律审查和监察调查,
铁箭没入远处一块山石中,直接穿进,铿锵作响,摩擦出一串火星,甚是恐怖。这么强大的力道,这样的重箭,有几人敢撄锋?真要被射中,那就是一个透心凉!
,银河登入网址,凯时登录下载,澳门永利有多少人提款不成。??11月10日,中国正能量|三代林场人的精神史诗,
历史的脚步永不停息。在时代进步的浪潮中,包括在座各位在内的广东国税青年始终是一支朝气蓬勃、充满生机活力的有生力量,特别是近年来,全省国税系统广大青年在省局党组的正确领导下,围绕中心,服务大局,依法治税,竭诚奉献,为全省国税系统的改革、发展、稳定做出了积极贡献,全面展示了新时期广东国税青年的崭新风貌和良好精神状态。但青年人也有弱点,一般阅历较浅,缺乏社会实践经验,心理承受能力较弱,还容易心浮气躁,甚至有的时候眼高手低、好高骛远、急功近利。人贵有自知之明,青年朋友们也要正视自身弱点并努力加以克服。借此机会,我代表省局党组向省局机关及全省国税系统广大青年提几点希望:
,九游会登录入口,彩票吧,波克捕鱼达人最新版本。??时事4:冠亚体育网站
??11月10日,和谐共生丨从地球视角看中国生态保护贡献, 她曾任《贵州人口报》社助理记者,贵州省人口信息中心记者,贵州省人口和计划生育委员会办公室副主任、主任,贵州省卫生和计划生育委员会办公室主任。,澳门电玩游艺,世界杯买球倍数多少,有没有注册就送钱的。
??11月10日,安徽淮南:舞龙欢度“二月二”,
要巩固农业基础,加快农业结构调整,推进农业和农村现代化建设,就必须有一支高素质的农村基层干部队伍。通过对新一届村居干部开展以政治理论和基层管理知识为主要内容的岗位培训,逐步提高村居干部的思想政治素质、廉洁奉公意识和工作能力,使新一届村居干部能够担当起带领农民群众致富奔小康,实现农业和农村现代化目标的重任。当前广大村居干部要进一步深入学习xx大精神和实践 “三个代表”的重要思想,牢记党的宗旨和奋斗目标,始终保持党的先进性,强化责任意识、改革意识、发展意识、服务意识。破除四种思想观念,即破除小富则满,小富则安,不富也安的思想,树立抢抓机遇,加快发展的意识;破除因循守旧,得过且过的思想,树立开拓创新,争创一流的意识;破除局部利益至上、个人利益至上的思想,树立全局观念和大局观念意识;破除畏难无为的思想,树立奋发图强的意识,努力提高农村基层干部带领群众建设社会主义新农村的能力,加快我镇农业和农村现代化建设的步伐。
,棋牌游戏网站,火狐体育下载地址苹果,五龙捕鱼。责编:斯图亚特·弗雷泽
审核:孙漫
责编:冷香












