大櫆响2024年的作品,海量高清资源免费畅享,热门影视综艺一网打尽_新万博体育

新万博体育

图片
搜索
猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

“AI让我夜不能寐!”AI教父本吉奥,亲手为自己创造的“巨兽”踩下刹车

2025-11-11 02:01:00
来源:

猫眼电影

作者:

薛凯琪

手机查看

  猫眼电影记者 张延清 报道Q8X2R7L1T4J5M9B6W3

深夜,加拿大蒙特利尔,世界顶尖的计算机科学家、被誉为“AI教父”之一的约书亚·本吉奥(Yoshua Bengio),又一次从睡梦中惊醒。

窗外月色宁静,但他的内心却波涛汹涌。

一个由他亲手参与“哺育”、壮大的“智慧巨兽”——人工智能(AI),正让他感到前所未有的忧虑,甚至“夜不能寐”。

这位2019年的图灵奖得主,这位论文被引用超百万次的学术巨擘,曾像一位骄傲的父亲,看着自己培育的深度学习技术长成参天大树。?然而,自2022年11月ChatGPT横空出世后,这份喜悦在短短数月内,便转为一股深入骨髓的“寒意”。

他开始意识到,事情的发展方向可能远远超出了他们的预期和控制。

“我们正走在一条可能极其危险的道路上。”?他在一次采访中坦言。这不仅仅是一位科学家的理性忧虑,更是一位祖父对未来的深沉关切。

从“欣喜”到“恐惧”:一个祖父的“噩梦”

本吉奥的转变,始于他对ChatGPT及其背后技术的深入观察。他意识到,这些日益强大的AI系统,其内部决策过程如同一个“黑箱”,就连他们这些创造者,也无法完全理解或预测它们的行为,“我们不知道如何确保它们会按照我们期望的方式行事。”

这份担忧,很快从一个抽象的学术问题,变成了一个具象的、关乎血脉的情感。他想到了自己的小孙子。

“我开始想我的孙子,20年后,他将22岁;他会有正常的生活吗?他会生活在一个正常国家吗?”

“我开始想我的孙子,20年后,他将22岁;他会有正常的生活吗?他会生活在一个正常国家吗?”

这个念头像一根针,刺破了他作为科学家的理性外壳,露出了一个普通人最柔软的担忧。

他的思绪飞向了未来。他看到一个可能的图景:掌控最先进AI的少数实体,将拥有前所未有的巨大权力。AI,这本该是中立的工具,却可能成为颠覆社会根基的杠杆。

更可怕的噩梦还在后面。他想到了那些由于意识形态偏执或心理健康问题,可能“按下红色按钮”的人,他们完全可以命令一个高度智能的AI,去执行一些足以毁灭世界的任务——例如,设计一种超强病毒,甚至是一种能“杀死这个星球上所有动物生命”的“镜像细菌”。

从“造梦者”到“守望者”:一场自我救赎

这种对“人类灭绝”可能性的恐惧,最终促使本吉奥做出了一个重大的决定:他必须转身,将自己的学术声望和智慧,投入到防范AI风险这项更为紧迫的事业中。?他从一个AI技术的“造梦者”,转型为一名AI安全的“守望者”。

他不再仅仅思考如何让AI更强大,而是开始追问:“我们如何构建从设计上就不会伤害人类的AI?”

不过,他对此感到乐观得多,因为他现在认为这是可能做到的。?他牵头组建了一个由30多个国家及国际组织代表组成的国际顾问小组,并在今年早些时候,发布了具有里程碑意义的《先进AI安全国际科学报告》(International Scientific Report on the Safety of Advanced AI)。

这份报告系统地梳理了AI带来的三大风险:意外故障、恶意使用(如深度伪造和网络攻击)、以及系统性风险(如大规模失业)。在他看来,恶意使用是当下最迫在眉睫的威胁,但让他深夜无眠的,始终是那个终极的、关乎物种存亡的风险。

“科学家AI”:为失控的引擎装上“刹车”

在寻找解决方案的道路上,本吉奥和他的团队提出了一个充满希望的概念——“科学家AI”。这个构想的灵感,来源于人类科学家探索世界的方式。

这种AI被设计成“非代理性的”(non-agentic)——它没有自己的目标和意图,不会主动去“做”什么,它的核心任务是像科学家一样,去理解世界的因果规律,进行纯粹的预测和分析。

“因此,我们可以相信它所说的话,”本吉奥解释道,“如果我们遵循这条路径,我们就能构建出具有理想可信度的系统。”

这就像给一个可能失控的引擎,安装上一个绝对可靠、没有自身动机的“仪表盘”和“预警系统”。

当然,他也知道,现实世界中,公司和研究者们迫切需要的是能“做事”的AI智能体。但好消息是,“科学家AI”可以作为强大的“防护栏”:在让一个AI行动之前,先让“科学家AI”进行预测,判断这个行动会不会导致不良后果以及概率有多大。

令他感到欣慰的是,他的呼吁和报告已开始产生回响。世界各国政府纷纷成立AI安全研究所,一个全球性的AI安全治理网络正在初步形成。这份报告,成了各国政策制定者和新入行科学家的“知识宝典”,而且它是用每一位公民都应该能理解的语言写成的。

一个智者的警醒:财富、想象力与未来

在最新一次采访中,当被问及AI对经济的长远影响时,这位科学家展现出了社会学家的洞察。

·?新万博体育:经济:他承认AI会推动GDP增长,但立刻提醒,关键问题在于财富如何分配。“如果你看中位数财富,它和平均财富不是一回事。”

·?新万博体育:想象力:他认为目前社会对AI普遍“过度乐观”,因为我们缺乏对未来的想象力。“五年前,没人能预料到今天的AI水平,大家都觉得那是科幻小说。“所以,如果我们只是做同样的思维练习,并投射到未来,我认为我们缺乏想象力——而这,是非常人性化的特点。”

记者最后问了教授一个触及灵魂的问题:您是否希望AI从未被发明过?

教授没有直接回答是或否。他沉思后说:

“这是一个难题。我更希望的是,我们当初能集体预见到这些灾难性的可能性,那样我们就能以更谨慎、更稳妥的方式,走到今天。”

“这是一个难题。我更希望的是,我们当初能集体预见到这些灾难性的可能性,那样我们就能以更谨慎、更稳妥的方式,走到今天。”

他的答案,不是一个创造者的悔恨,更像是一位智者的警醒。他并未否定自己毕生的事业,但他呼吁人类,在面对自己创造的这股科技洪流时,必须抱持最大的谦卑、最审慎的态度和最深刻的伦理思考。

他的故事,从一个构建智能的梦想家,转变为一位守护人类的守望者。他的“夜不能寐”,不再是个人的焦虑,而是对一个时代、对整个人类文明的深沉关切。在AI的黎明时分,他选择成为那个敲响警钟的人,提醒沉醉于技术狂欢的人们,抬头看看远方的风暴,并开始合力建造方舟。前方的路,依然迷雾重重,但至少,已经有人点亮了第一盏灯。(刘春)

??时事1:色综合第一页

??11月11日,上海:截至11月末银行机构与187个企业和项目签订贷款合同共计287.11亿元,

  时间不长,对面只剩下了三个大人物,皆伤痕累累,血迹斑斑。

,婷婷性爱网。

??11月11日,天津市第九届市民文化艺术节启幕,

  谢谢同学们!

,jojo徐伦被 吸乳在线看网站,亚洲免费人成视频在线观看,勉费看黄色视频。

??时事2:porinHD😍99

??11月11日,微纪录片丨问淀哪得清如许① :连山通海,

  今天,我国旗下讲话的题目是——《冬季锻炼好处多》。

,狠狠色老熟妇老熟女视频,免费日韩毛片a级久久,欧美真人一级性爱视频99。

??11月11日,韩媒:韩国2024年高温天气不断 已有13人因中暑身亡,

  老妪闻言蹙眉,道:“这样吧,我再去求一个符牌,有些王侯还真不能轻易得罪。”

,看污网址,91新拍在线观看,国产精品国产三级在线专区。

??时事3:BBCBlacked系列最新播放

??11月11日,欧亚水獭重现广东珠海淇澳-担杆岛保护区,

  晶莹洁白的圣物几次易手,不断变换主人,被四大生灵分别得到过,可是谁都没有能真正拥有,大战在继续。

,furry扒開腿灌牛奶拏,www.weishuoba.com,小舞自慰。

??11月11日,雄安新区雄县发布外贸服务资金池项目,

  三、我们在村务运作上不同程度的存在着或多或少、或大或小的问题,比如说村委职责不清、责任不明,缺乏交流沟通,导致“两委”关系不协调;在财务管理中违反财经纪律,在农经站的财务审计中,有17个存在着财务管理的漏洞,白条顶账,存在大额饭费,从外地小贩中购置办公用品等等;土地管理混乱,最突出的问题是宅基地的管理,所有这些,都说明我们缺乏必要的法律法规方面的知识,有些程序缺乏必要的监督环节,忽视了村务运作规程中所规定的重要程序。

,亚洲AV无码秘 蜜桃香奈,美日欧AV大片免费看,韩国肉体裸交。

??时事4:爱爱网

??11月11日,乌鲁木齐南山山花烂漫 成高温天避暑休闲胜地,

  小不点黑发向后飞舞,完全是被一股劲风冲击的,他双眼内有电芒闪烁,踩在狻猊宝镜上,直击长空。

,亚洲精品呦呦网站,男男骚受趴着顶撞研磨,亚欧日韩日本在线视看A片。

??11月11日,《习近平总书记关于制造强国的重要论述学习读本》出版发行,

  此次,他奉宗老之命巡视西疆,因为这里有该族部分产业,比如说稀有的金属矿、珍禽异兽的进贡区等。

,苏州晶体公司ios免费入口nba不用下载,性教育视频免费观看18以下勿进视频,黄片毛片100。

责编:余熙鸣

审核:向华胜

责编:文特

相关推荐 换一换