首页>资讯 > 财经资讯 > 正文

“AI教父”辛顿:多模态聊天机器人已具有“意识”,各国应分享让AI“善良”的技术

来源:澎湃新闻    2025-07-27 12:08:03

“AI教父”辛顿表示,现在的多模态AI(人工智能)聊天机器人在某种意义上“是有意识的”,各国应尽快分享让AI“善良”的方法。

7月26日,2025世界人工智能大会(WAIC)正式开幕。在上午的开幕仪式上发表主题演讲后,图灵奖得主、诺奖得主、“AI教父”杰弗里·辛顿(Geoffrey Hinton)出席了下午的科学前沿全体论坛,与上海AI Lab主任周伯文展开一场尖峰对话。在现场,辛顿受到了全体观众的热烈欢迎。

可以说AI“有意识”,各国应分享让AI善良的方法

首先,周伯文询问了辛顿对于“多模态和语言模型能发展出自己的主观体验”的观点的解读。辛顿表示,这严格来说并不是一个科学问题,而是取决于对“主观体验”或“意识”的定义,实际上,许多人对这些概念的理解存在系统性错误。

为解释这一观点,辛顿先谈到了自己在1987年发表的论文《The Horizontal-Vertical Delusion》中的经典案例,他指出,许多人在描述水平与垂直的概念时虽然能够正确区分,但在实际判断中存在系统性混淆,忽视了“垂直”其实是一种非常特殊的方向。

将其类比到“模型是否有主观意识”的论点,辛顿指出:“我认为,许多人对于‘主观体验(subjective experience)’这类术语的理解完全错误。他们的理论很有说服力,但完全错误。这并非一个科学问题,而是建立在一个错误的关于心理状态的模型上,关于这些术语的运用。所以,我的观点是,当今的多模态聊天机器人已经具有意识。

在辛顿之前,2024图灵奖得主、阿尔伯塔大学教授Richard Sutton也在会上发表了视频演讲,称AI发展已进入一个模型能够在真实环境中持续学习和积累经验的新阶段。

关于主观体验,辛顿进一步阐释道,当AI以机器人等形式进入世界,它们就有了自己的“体验”,可以从自己的经验中学习:“我认为它们会有经验,但经验不是事物。而且经验不像照片,经验是你和一个物体之间的关系。”

关于AI安全,辛顿再次强调,让AI“聪明”和“善良”是两个截然不同的问题,为了实现这两者,即使是同一个大模型也需要两种训练技术:“所以,国家应该分享让模型善良的技术,即使他们不愿意分享让模型聪明的技术。

辛顿补充道,可能存在让AI善良的通用训练方法,但当AI变得越来越智能时,保证其善良的现有方法也可能失效,所以需要在这个方面进行大量研究。

建议年轻研究者“着眼于那些你认为所有人都做错了的领域”

在对话中,辛顿还谈到,自己获得诺贝尔物理学奖是一个“错误”:“他们很想颁奖给AI领域,但没有AI领域的诺贝尔奖,所以他们只能将物理学奖颁给AI(的科学家)。”

关于AI对其他领域科学发展的影响,辛顿认为,AI确实为科学做出了许多贡献,最显著的一个例子是医药领域的蛋白质折叠,相信AI今后也能为科学带来更多突破。

最后,被问到对年轻研究者们的建议,辛顿表示,在进行原创研究时,要着眼于那些“认为其他所有人都做错了”的领域:“通常在这种情况下,你会钻研自己认为正确的更好的方法,并最终理解为什么其他人会那样做、为什么你是错的。但是,不要放弃,不要认为自己的方法很愚蠢,不要在意导师的意见,坚持自己的方法直到理解错在哪里。而有时,当你坚持自己所相信的,结果是你没有错。这就是出现重大突破的地方。轻易放弃的人无法成功,你需要在其他人反对时坚持下去。”

辛顿补充道,有一种逻辑能够支撑这一观点:“你要么拥有好的直觉,要么拥有坏的直觉。如果你的直觉好,你当然应该坚持自己的直觉;如果你的直觉不好,那么做什么都无关紧要,所以你依然应该坚持自己的直觉。”

在当天上午的演讲中,辛顿发表了一篇围绕AI安全的主题演讲。辛顿表示,人类实际上很像大语言模型。他将人类目前的处境比作养小老虎当宠物,如果人类想要生存,必须找到办法训练AI,不要让AI消灭人类,让一个真正聪明的AI不想接管世界:“我们目前根本不知道如何做到这一点,长远来看,这是人类面临的最重要的问题。好消息是,这是一个所有国家都应该能够合作解决的问题。”

2024年10月8日,瑞典皇家科学院宣布,将2024年诺贝尔物理学奖授予美国普林斯顿大学的约翰·霍普菲尔德和加拿大多伦多大学的杰弗里·辛顿,以表彰他们“为推动利用人工神经网络进行机器学习作出的基础性发现和发明”。辛顿是卷积神经网络理论的领军人物,也被视为由ChatGPT掀起的本轮AI技术跃进背后的奠基性科学家,被誉为“AI教父”。

本次世界人工智能大会以“智能时代 同球共济”为主题,共规划了超100场专业论坛,汇聚1200余位全球专家,12位图灵奖、诺奖得主,大会将持续至7月28日。

关键词:

“AI教父”辛顿:多模态聊天机器人已具有“意识”,各国应分享让AI“善良”的技术

AI教父辛顿表示,现在的多模态AI(人工智能)聊天机器人在某种意义上是有意识的,各国应尽快分享让AI善良的方法。7月26日,2025世界人工智

国家统计局解读:6月份规模以上工业企业利润降幅收窄

国家统计局工业司统计师于卫宁解读2025年6月份工业企业利润数据。6月份,规模以上工业企业利润同比降幅较5月份有所收窄,以装备工业为代表

农业农村部等十部门印发《促进农产品消费实施方案》

农业农村部等十部门7月27日发布促进农产品消费实施方案,部署了九方面举措,提出优化供给端、创新流通端、激活市场端、释放多样化、品质化

饭圈伤害难释怀,樊振东首次回应征战德甲:并非突然决定

时隔近一个月,樊振东又一次更新了社交媒体。只是相比上一次祝福波尔退役,这一次的樊振东有更多话想说。北京时间7月26日,樊振东在社媒中

收好这份观赛攻略,斯诺克上海大师赛看球更尽兴!

7月28日至8月3日,2025世界斯诺克·上海大师赛即将在卢湾体育馆上演巅峰对决!无论是铁杆球迷还是首次观赛的新朋友,这份超全观赛指南请务

《年轮》原唱之争,密密麻麻是谁的自尊

近日,上线十年的《花千骨》大热OST《年轮》,因谁是原唱引发争议,持续霸榜微博热搜。去年还在演唱会合体的张碧晨、汪苏泷,更是公开撕破

今年7月电影总票房破30亿

据网络平台数据,7月26日20时32分,2025年7月总票房破30亿。超60部中外影片定档暑期档亮点超多今年暑期档类型多元、题材创新、供给丰富,已

陈佩斯接受央视新闻采访:要允许观众不看你的戏

目前,改编自同名话剧、由陈佩斯执导并主演的电影《戏台》正热映。接受央视新闻采访时,70多岁的陈佩斯谈拍电影的变化:整个工作流程、工作

榕江“村超”重启!是“超级星期六”更是“感恩之夜”

今年6月下旬,榕江当地遭遇了严重的洪灾,截至目前,有3万多人先后参与到抗洪救援和灾后重建中。在25日,一度暂停的第三届贵州村超重新开赛

中国的音乐创作,怎么才能有观众缘?

中国的音乐创作,怎么才能有观众缘?中国的音乐作品,怎么才能留下去、走出去?7月26日,时代交响——新时代音乐创作高质量发展座谈会在上

体坛联播|国安遭遇中超两连败,王楚钦乒超三战三胜

国安0比2不敌蓉城,遭遇中超两连败北京时间26日晚间,中超第18轮,北京国安客场挑战成都蓉城。上半场第33分钟,甘超助攻德尔加多打破僵局;

手术阔别巡回赛6个半月,商竣程终于要回到想念已久的赛场了

本周,在ATP1000级赛事多伦多公开赛男单正赛里,人们将会看到商竣程的身影。小商上一次出现在比赛场上,还是今年1月13日的澳网男单首轮。他

致敬!山洪中的“逆行者”——山东莱芜抢险救灾采访见闻

小心脚下!身侧是湍急的水流,脚下是被泥沙乱石覆盖、已无法辨认的道路,耳边是记者之间充满关切的相互提醒。7月22日0时至5时,山东省济南

广东惠东:累计保护野生海龟上岸产卵745窝

眼下,正是海龟产卵的季节。在广东惠东海龟国家级自然保护区,每年6至10月,野生海龟会洄游前来这里产卵。保护区成立40年以来,累计保护野

河北省启动洪水防御Ⅳ级应急响应

按照《河北省水利厅水旱灾害防御应急响应工作规程》,河北省水利厅决定于7月24日15时针对石家庄、承德、张家口、秦皇岛、唐山、保定、廊坊

山东:以改革摁下民生服务“快捷键”

点选服务项目、刷取身份证信息、扫码支付工本费……用时不到5分钟,山东济宁市民朱丽红就拿到了崭新的驾驶证。7月22日,记者来到济宁市任城

大运会中国志愿者的得与失

世界大学生运动会是全世界大学体育健将的竞技舞台,也是大学生的一次聚会。根据德国莱茵-鲁尔大运会组委会的信息,共有来自全球的上万名志

活力中国调研行|花样乡村高原“盛放”

盛夏时节,走进平均海拔2800米的青海省西宁市大通回族土族自治县朔北藏族乡边麻沟村,活力中国调研行记者们感受到炎炎夏日里难得的凉爽。边

全国残疾人射击锦标赛:湖南队成首日最大赢家

24日,2025年全国残疾人射击锦标赛在宁夏银川市开赛,首日决出4块金牌,湖南队夺得其中3块

重庆梁平:巴蜀美丽庭院绘就和美乡村新图景

近年来,重庆市梁平区屏锦镇万年社区以巴蜀美丽庭院示范片建设为抓手,打造川渝乡村高品质宜居典范窗口。以上图片:2025年7月22日,在重庆

国家防总针对京冀晋吉宁启动防汛四级应急响应

新华社北京7月24日电(记者黄韬铭)记者24日从应急管理部获悉,国家防汛抗旱总指挥部决定于当日针对北京、河北、山西、吉林、宁夏启动防汛

千城百县看中国|内蒙古:听见草原的呼吸 感受孩子的心跳

内蒙古自治区锡林浩特市那达慕风情园的亲子露营会,以传统那达慕为纽带,为家庭带来沉浸式体验。孩子们在草原上欢歌起舞、涂画创作,触摸泥

北京升级发布暴雨黄色预警信号 启动全市防汛三级应急响应

北京市气象台7月24日10时40分升级发布暴雨黄色预警信号:预计24日17时至25日8时,北京市大部分地区小时雨强可达30毫米以上,其中,房山、门

河北内丘:太行“闲置老屋”蝶变“网红民宿”

夏日炎炎,河北省内丘县太行山区的民宿受到游客青睐。近年来,内丘县借助当地山区优越的自然环境,重点培育发展乡村民宿,通过对村落老屋进

内蒙古持续发布农田渍涝灾害风险预警

记者25日从内蒙古自治区农牧厅获悉,针对新一轮明显降水天气,内蒙古持续发布农田渍涝灾害风险预警,提醒各地政府和群众及时应对不利影响。

应急响应 北方多地迎暴雨

近日,北方多地迎暴雨天气,吉林、黑龙江、河北等地相关部门作出安全风险提示,积极展开应对,确保人民群众生命财产安全。25日4时18分,吉

海河流域提升防汛和洪水防御应急响应

记者25日从水利部海河水利委员会获悉,自7月24日22时起,海河防总将防汛Ⅳ级应急响应提升至Ⅲ级,海委将洪水防御Ⅳ级应急响应提升至Ⅲ级。

供需两端支撑 铂金价格年内涨超五成

今年以来,被称为黄金平替的铂金,价格涨幅显著。7月21日,上海黄金交易所铂金现货(Pt9995)最新报价为342 02元 克,较2024年末的223 77元

年轻人更青睐潮流“价值共鸣”

近日,电影《穿Prada的女王》续集定档的消息传出,引发时尚界对经典时装剧的热议。记者留意到,随着当下全球消费者市场的变化,时尚奢侈品

LV近42万香港客户资料外泄,涉姓名、护照号、地址等

据香港文汇报等媒体报道,法国奢侈品牌路易威登(Louis Vuitton)近日发客户信,称发生客户资料外泄事件,近42万名香港客户受影响。外泄的

综合资讯

+更多

热点资讯

+更多
从3499元跌到2239元,1.6亿三主摄+1.5K曲屏,荣耀影像旗舰清仓
买手机的用户大致可以分为两类,第一类是追求最新款,秉承着买新不买旧 [详细]

Copyright @ 2008-2020  www.43710.com   All Right Reserved Powered by 财经情报网 版权所有

财经情报网   联系邮箱:562 66 29@qq.com

网站备案:沪ICP备2020036824号-12