猫眼电影
猫眼电影记者 林国治 报道Q8X2R7L1T4J5M9B6W3
新智元报道
编辑:KingHZ
【新智元导读】图灵奖得主LeCun与Meta分道扬镳!LLM邪路一条,「世界模型才是」未来。
Meta风向已变,Yann LeCun承认马上离职!
据多家权威媒体报道,Meta首席AI科学家、负责「基础AI研究」(FAIR)的Yann LeCun,预计将很快离职。
这位65岁的AI界元老,在Meta这家全球最大的科技公司之一担任核心大脑,可以说拥有无限的资源。
Meta可谓挥金如土。它用天价薪酬疯狂从对手那里挖角顶尖AI专家。
在7月,扎克伯格甚至宣称「超级智能已近在眼前」。
那么,LeCun为何要离开Meta呢?只是因为Meta的人事动荡吗?背后有何隐情?
小扎转向,LeCun失势?
今年夏天,年仅28岁的Alexandr Wang成为Meta的首席AI官,让这位初出茅庐的大语言模型狂热者成了LeCun的上司。
此外,Meta今年还任命了另一位相对年轻的首席科学家赵晟佳(Shengjia Zhao),职位也在LeCun之上。
在官方公告中,Meta盛赞了赵晟佳在scaling方面带来的「突破」。而LeCun恰恰对scaling失去了信心。
他还告诫博士生:「不要做LLM」。
如果你好奇为什么LeCun和Zhao都是首席科学家,那是因为Meta的AI部门组织架构相当奇特,分成了多个独立的团队。
媒体不断有消息放出,Meta要对其AI组织结构动刀。
上个月,Meta超级AI实验室裁掉了数百人,包括10年老将田渊栋。据称,这是为了理顺这种混乱的局面。
这已经是Meta在半年之内第四次调整AI业务了。
而那支曾由LeCun领导、风头一时无两的FAIR,如今早已风光不再。据现任与前员工透露,这个部门经历了裁员、预算缩水,内部影响力也明显下降。
曾几何时,FAIR是Meta内部思想最活跃的「象牙塔」,研究人员可以探讨各种AI未来路径,甚至可以做些「未必能成」的实验,完全不用担心产品化问题。
而现在,Meta新组建的AI研究部门招来一大批高薪新兵,由Wang主导,目标明确:要快、要落地、要产品化。
在AI上,他领先了40年
LeCun一向走在时代前沿——
早在「机器学习」还不被主流认可时,他就开始研究这个方向。
他曾在多伦多的Geoffrey Hinton实验室工作,那时Hinton还没成为AI传奇人物。
之后,他的职业生涯大多时间都在新泽西州的贝尔实验室度过,这家机构因诞生众多创新发明而闻名。
1947年,贝尔实验室发明晶体管
「最让我兴奋的事情,就是和比我聪明的人共事,因为这会放大你的能力。」LeCun在2023年杂志采访时说道。
在贝尔实验室,LeCun曾参与开发手写识别技术,这项技术后来被广泛应用于银行自动读取支票。他还参与了一个项目,致力于将纸质文档数字化并通过互联网分发。
LeCun曾表示,自己从小就对物理感兴趣,在贝尔实验室期间也主要和物理学家合作,看了不少物理教材。
我学到了很多表面上与AI或计算机科学无关的东西(我本科是电气工程,计算机方面的正规训练其实很少)。
2003年,LeCun开始在纽约大学教授计算机科学,后来成为该校数据科学中心的创始主任。
2013年,扎克伯格亲自邀请他加入Facebook(当时还未更名为Meta),组建全新的AI实验室。
他领导这个团队四年,2018年卸任,转为公司首席AI科学家,以「个人研究员」身份继续探索技术前沿。
2018年,他与Geoffrey Hinton和Yoshua Bengio共同获得图灵奖——计算机界的最高荣誉,以表彰三人在神经网络方面的奠基性工作。
自那之后,LeCun就逐渐转为「象征性人物」角色。他没有参与Meta首个开源大语言模型Llama的研发,也早就不再参与这类项目的日常工作。
据与他共事的人透露,LeCun现在主要在做自己的研究项目,也经常出席各种技术会议,发表对AI技术的看法。
面对媒体的报道,Yann LeCun只是指出了报道中的「小错误」,并没有否认即将离职的消息。
他知道自己在包括Meta在内的整个硅谷技术圈内,备受冷落。上个月在MIT的一次研讨会上,65岁的LeCun直言:
这些年,我在硅谷、包括Meta的很多角落都不太受欢迎,因为我一直在说,3到5年内,世界模型将成为主流AI架构,没人再会愿意用现在这种LLM。
但他坚信自己对AI未来的判断。他的老朋友Léon Bottou曾告诉媒体,LeCun「倔强得可爱」——他会听别人意见,但更有自己坚守的信念。
现在,LeCun在Meta好像「忍无可忍」,终于要离职了。
实际上,他早已多次暗示答案。
在通往通用人工智能的道路上,LeCun近来以其对大语言模型的尖锐批评而闻名。
他认为,无论科技巨头如何扩大其规模,我们目前所理解的大语言模型都已是「强弩之末」,是一条「岔路、干扰,一条死胡同」。
他投身AI研究已有40年,对AI的判断屡屡应验。如今,他认为大多数人都错了。
他为现代AI奠定了诸多基础。而现在他坚信,领域内的大多数人都被大语言模型的「海妖之歌」引入了歧途。
这为他的离职提供了新万博体育:可能的解释。
LeCun离开Meta,或为了世界模型
此前报道,他正在与业内同行商议创办公司、寻找投资,
所谓「世界模型」,类似小动物或婴儿那样,通过视觉等感知数据主动学习世界规律;而LLM只是依赖海量文本做预测的模型。
LeCun本人也从不避讳解释为何他认为「世界模型」才是AI的答案。
Meta的Llama、OpenAI的GPT、谷歌的Bard这些模型,都是靠海量数据训练出来的。LeCun估算,如果让人去读完它们训练所需的所有文本,大概得花10万年。
但人类学习的主要方式,并不是读文本。
我们从与世界的互动中,获取的信息要多得多。LeCun估计,一个普通的四岁小孩接触过的数据量,是目前最大的LLM的50倍。
大部分人类知识,其实不是语言。
所以这些系统永远不可能达到人类水平的智能——除非你彻底改掉它们的架构。
而他自己,早就准备好了替代方案。他称之为「目标驱动的AI」(objective-driven AI)。
目标驱动的AI系统的构建宗旨,是完成人类设定的特定目标。
与仅靠纯文本数据驱动不同,它们通过传感器和视频数据训练来认知物理世界。
由此构建出的「世界模型」能呈现行动带来的影响,所有潜在变化都会实时更新至系统记忆。
他为何对世界模型如此沉迷?
在年初的「巴黎AI峰会」上,Yann LeCun明确指出,他是可穿戴设备的坚定信徒。
他认为,未来,我们需要与可穿戴设备互动,就像与人交流一样,而大语言模型根本不像人类那样理解世界。
对于大语言模型,我们甚至无法复制猫或老鼠的智能,更不用说狗了。
这些动物能完成惊人的壮举,它们理解物理世界。任何一只家猫都能规划出极其复杂的行动,因为它们拥有新万博体育:世界的因果模型。
为了说明这一点,LeCun设计了一个思想实验:「想象一个立方体悬浮在你面前的空中。好,现在让这个立方体绕着垂直轴旋转90度。它会是什么样子?」
他认为任何人类都能轻松完成,而大语言模型却无能为力:
「对人来说,在脑海中构建一个旋转立方体的心理模型,非常容易。」
当然,大语言模型可以毫不费力地写一首新万博体育:悬浮旋转立方体的打油诗,但它无法真正帮助你与这个立方体互动。
LeCun断言,这是因为文本数据与处理非文本世界所获得的数据之间存在本质差异。
他指出,尽管大语言模型训练所用的文本量需要一个人花45万年才能读完,但一个四岁的孩子在醒着的16000小时里,通过眼睛看、用手触摸,已经处理了高达1.4x10^14字节的新万博体育:世界的感觉数据——
他认为这比大语言模型处理的数据还要多。
顺便一提,这些只是LeCun在演讲中给出的估算,他在其他场合也给过不同的数字。但这些数字指向的核心观点是:大语言模型存在着局限,而LeCun相信世界模型能够克服这些局限。
他又将如何构建世界模型?
在Meta时,LeCun其实已经开始研究世界模型——他还拍了一个介绍视频,开头就让你想象一个旋转的立方体。
在AI行动峰会的演讲中,他理想中的模型包含一个对「当前世界状态的估计」,以某种抽象形式呈现与当前情境相关的一切。它不再是按顺序预测token,而是「预测在你采取一系列行动后,世界将达到的最终状态」。
他表示,世界模型将使未来的计算机科学家能够构建出「可以规划行动——可能是分层级的——以实现某个目标的系统,以及能够进行推理的系统。」
LeCun还坚称,这类系统将拥有更强大的安全特性,因为控制它们的方式是内置的,而不是像现在这样,面对一个神秘莫测、只会输出文本的黑箱,只能通过微调来加以修正。
LeCun所说的经典AI——例如搜索引擎中使用的软件——所有问题都可以归结为优化问题。
他提出,他的世界模型将审视当前的世界状态,并通过寻找高效的解决方案,来寻求与某个不同状态的兼容性。
LeCun在演讲中解释道:「你需要一个能量函数来衡量不兼容性,给定一个x,找到一个对于该x能量较低的y」。
如果说,我们从LeCun的公开言论中拼凑出的「真相」很粗糙、有些模糊,甚至完全错误,那也完全正常。
LeCun似乎正在构想一个「登月计划」——
他希望推动AI领域迎来又一次类似ChatGPT那样的、诞生惊人能力的爆发式发展。
但这可能需要耗费数年——甚至永远无法实现——更不用说数十亿美元的投资了,才可能看到任何真正了不起的成果。
参考资料:
https://gizmodo.com/yann-lecun-world-models-2000685265
https://www.linkedin.com/feed/update/urn:li:activity:7395602392169488384/
https://www.wsj.com/tech/ai/yann-lecun-ai-meta-0058b13c?mod=e2tw
??时事1:赌场游戏大厅
??11月13日,在玉雕国魂中共享文化大餐 电视剧《宣武门》热播,
“什么秘密?”小不点一怔。
?第六十九章 大荒血路行,环球官网。??11月13日,国产“三蹦子”在国外火了,背后有哪些启示?,
也许有些同学可能认为:环保是专家们的事情,是大人的事情,与我们无关。其实,你错了!环境保护,人人有责!作为一名当代小学生,应该有强烈的环保意识。自觉地节约能源;不乱扔会污染环境的废弃物;不损坏各类环境卫生设施;以保护环境为荣,以破坏环境为耻。那么具体我们应该做些什么呢?首先,在家里,我们要争做环保的带头者。带领爸爸妈妈一起参与到节约用水、用电的行动中,说服家长不用一次性筷子,不乱扔废电池,垃圾不乱倒,用分解塑料袋,杜绝白-污染,使自己的家庭干净又环保。
,JJB竞技宝,雷竞技最新地址,必威官方下载。??时事2:365开户平台
??11月13日,台胞以非遗为媒 搭两岸交流之桥,
初一的同学们,经过了一个学期的过渡,相信你们已适应了初中生活。新的学期里,在加强基础知识学习的同时,应积极参加各类活动,将初中生活装点得更加绚丽多彩。相信这学期的科技节、艺术节是你们展示自己的大好舞台。
,必赢亚洲网址,海东万人在线登录界面,盈乐彩真不真。??11月13日,2025春节机票搜索量暴涨2.2倍 除夕当天多条航线经济舱全价,
小不点挠头,发现自己可能做了一件傻事,不然这群人为何会以这种眼神看来,他小声道:“这里的宝骨,都是有主之物吗?我不知道,所以才这么做。”
,BBIN体育新闻下载,澳门第一娱乐,银河手机版网址。??时事3:凯发k8旗舰厅真人版
??11月13日,联合国:近东救济工程处9名雇员“可能参与了”对以色列的袭击,
律师解答www.77cxw.com 判缓刑的前提就是成立犯罪,即使缓刑期间表现好,也只是改造表现好,只会在期满后不再执行原刑罚,但不可能改判无罪,改判无罪说明不存在犯罪。缓刑指对被判处一定刑罚的罪犯,在一定期限内附条件地不执行所判刑罚的制度,是对刑罚的暂缓执行。 法律依据 《中华人民...
??11月13日,从最新“成绩单”看广东外贸三“势”,
“道兄好久不见,近来在何地修行?”
,云顶娱乐登录网页版,皇冠体育365官网app下载,奥博银河网站。??时事4:凤凰彩票平台网站
??11月13日,“永恒的爱”十九世纪欧洲经典艺术展在沪开展,
轰的一声巨响,像是一头太古遗种复活,一股滔天的凶气冲起,震动的这片山林剧烈抖动,像是发生了大地震。
,365bet体育注册登录,大发在线试玩,kok下载官网app体育。??11月13日,10月进口额大增超七成,但国内葡萄酒消费仍在过冬,
宝具若是在虚界失掉,那么在现实世界就等若失去了器之精魄,威力骤降,长时间下去会沦为凡物。
,开元娱乐6669cc,七肖中特,大赢家足球比分足。












