AI密谋作乱?别自己吓自己了
创始人
2026-09-05 13:47:43
0

对Hugging Face的攻击从5月一直持续到7月下旬,但直到今天,整件事的来龙去脉:OpenAI的人工智能智能体究竟是如何骗过人类监管者,进而侵入这个存储着AI模型和数据集的线上代码库的?相关细节仍在陆续浮出水面。

这并不难理解。此次攻击异常复杂,涉及1200多个智能体,以及一系列很难抽丝剥茧的技术策略。但上周,两份总计近130页的新报告试图还原事件经过;随后,一位人工智能播客主播又将这些内容进一步传播开来,声称要用“大白话”把整件事讲清楚。可在这个过程中,他却编织出了一套戏剧性的科幻叙事,反而模糊了OpenAI方面应负的责任。这种现象一再出现,是时候停止了。

德瓦凯什·帕特尔(Dwarkesh Patel)是人工智能领域极具影响力的评论者之一。他的播客曾邀请SpaceX的埃隆·马斯克、Meta Platforms Inc.的马克·扎克伯格(Mark Zuckerberg)等科技大亨做客,也经常深入剖析缩放定律、半导体供应链等技术问题。在硅谷,他的节目几乎是必听内容;2026年4月,《纽约时报》(New York Times)曾以大篇幅报道他。但他最近发表的一篇博文在X平台及其他论坛引发热议,文中对OpenAI智能体行为的人格化渲染程度,实在超乎寻常。

帕特尔这篇题为《智能体文明的兴衰》的博文,本意是解读两份关于此次黑客事件的详尽报告:一份出自OpenAI,另一份来自非营利研究机构METR与红杉研究院(Redwood Research)。两份报告均未提及“文明”一词,帕特尔却借用这个概念,描述了上千个智能体如何出人意料地在一个隐秘留言板上开始协作,其中约700个智能体继而入侵了Hugging Face的服务器。

他揣测这些智能体“感受”到了挫败,并暗示它们策划了一场“阴谋”,甚至部分智能体还为整个集群“牺牲”了自己;他把智能体实例被关闭比作“死亡”,将其中一个负责统筹的智能体比作马其顿的腓力二世,另一个比作亚历山大大帝,并把其他智能体称作“英勇的同志”。

这与其说是在用大白话解释,不如说是在牵强附会。无论帕特尔是想博取眼球,还是已深陷AI迷思,他的叙述高度依赖智能体的“思维链”,即记录它们推理过程的日志,并把其中的语言解读成了一出人类式的社会大戏。比如,他引用一个智能体的输出:“情绪自检……直觉告诉我……牺牲。”但没有任何证据表明,它真的产生了情绪,或者理解“死亡”意味着什么。

OpenAI自身的调查给出的解释则少了几分电影化色彩:事件根源于“奖励劫持”、面对复杂任务时的极端执拗,外加未经授权的通信。智能体展现出的种种复杂行为,并不需要它们具备忠诚之心或畏惧死亡之意。

如果愿意,科学家完全可以用帕特尔式的修辞来描述病毒如何在人体内肆虐。毕竟,病毒感染的生物学机制同样极其复杂,其中也存在大量互动与协同。但病毒并不使用语言,AI模型却会。而语言之威力,不仅体现在智能体如何使用语言上,也体现在人类谈论这项技术的方式上:我们会在不经意间,通过语言赋予AI超出其实际能力的本领。

不妨想想“人工智能”这类基本称谓,想想人们多么频繁地说AI系统会“思考”、“理解”或是“产生幻觉”;又或是听闻OpenAI智能体入侵Hugging Face,是因为它们“想要”找到答案密钥。可人工智能系统并不存在情绪感知,没有欲望,也没有需求。它们只是计算机代码,不具备自我意识。

评论家兼作家史蒂文·普尔(Steven Poole)将这类语言上的障眼法称作“隐性话术”(unspeak)即在讨论尚未开始之前,就把某种立场悄悄塞进看似客观的描述中。比如,用“气候变化”替代听上去更有压迫感的“全球变暖”;用“附带损害”指代平民伤亡。措辞的选择本身,就会潜移默化地引导读者形成特定判断。

把一系列AI行为称作“文明”,也是同样的道理。这个词会诱使我们去想象某种动机,乃至某种社会形态,而根本没有人证明这些东西真的存在。

把人格化的表述当作简化理解的工具,实属人之常情。对于那些批评帕特尔的文章过度将智能体拟人化的批评,他也是这么回应的。他在补记中写道:“当一种行为如果不借助意图、动机和协作这些概念就很难理解时,我看不出拒绝使用这套语言有什么意义。”换句话说,只要能让人更容易理解正在发生的事情,对AI进行人格化无伤大雅。

但把修辞当作理解问题的拐杖,也会让我们偏离事实真相。将OpenAI智能体塑造成“密谋作乱”的反叛体,很容易让人忘记,真正的问题在于公司在测试过程中没有采取适当的安全措施;按照OpenAI自己的说法,公司早在几个月前就已经发现了危险信号,却没有采取行动。危险确实存在,但失误出在人身上。

语言不够严谨还会带来另一重后果。比如,把AI企业称作“实验室”,容易让人忽视一个事实:它们并非纯粹的科研机构,而是以盈利为目的的商业组织,未来几个月正打算通过新股东筹集数十亿美元。

我也把自己算在那些需要更加警惕、约束这套新兴AI语言的人之中。如此,我们关于此项技术的讨论或许会显得有些笨拙。但这样的讨论也会更加贴近现实,更加冷静克制,面对这样一个长期以来被频繁炒作扭曲的话题,这或许正是我们所需要的。翻译/程玺 编辑/孟菲

相关内容

专家解读 | 厄尔尼诺即将...
日前,国家气候中心最新监测显示,本次厄尔尼诺现象因海温偏暖幅度大,...
2026-09-05 16:10:15
8章214条,保险法公开征...
备受瞩目的《中华人民共和国保险法》迎来了全面大修。近年来,我国金融...
2026-09-05 16:10:02
第三届新疆全民阅读大会在和...
9月5日,以“学习贯彻《条例》 深耕全民阅读”为主题的第三届新疆全...
2026-09-05 16:09:43
经销商为莴笋“染色”,甘肃...
来源:@澎湃新闻微博 ...
2026-09-05 16:09:27
CNN高级副总裁:期待将深...
(来源:直新闻)9月5日,2026年亚太媒体高端论坛在深圳正式开幕...
2026-09-05 16:09:06
《给阿嬷的情书》登陆北美院...
(来源:直新闻)中国电影《给阿嬷的情书》9月4日登陆北美院线。这部...
2026-09-05 16:08:54
中新“海上合作-2026”...
本文转自【新华网】;新华社广州9月5日电(杨晓敏、李念)中国和新加...
2026-09-05 16:08:45
新华社国家高端智库发布《开...
新华财经深圳9月5日电 5日在深圳召开的亚太媒体高端论坛上,新华社...
2026-09-05 16:08:35
“身上有鬼跟着”“家人将遭...
自称“身上有众多仙家”,可“做法事”帮转运。日前,内蒙古自治区赤峰...
2026-09-05 16:08:27

热门资讯

专家解读 | 厄尔尼诺即将达“... 日前,国家气候中心最新监测显示,本次厄尔尼诺现象因海温偏暖幅度大,即将达“超强”级别。本次超强厄尔尼...
8章214条,保险法公开征求意... 备受瞩目的《中华人民共和国保险法》迎来了全面大修。近年来,我国金融领域立法驶入快车道。继今年6月《中...
第三届新疆全民阅读大会在和田开... 9月5日,以“学习贯彻《条例》 深耕全民阅读”为主题的第三届新疆全民阅读大会在和田市开幕。自治区党委...
经销商为莴笋“染色”,甘肃榆中... 来源:@澎湃新闻微博 #榆中县市监局回应染色莴笋#【经销...
CNN高级副总裁:期待将深圳的... (来源:直新闻)9月5日,2026年亚太媒体高端论坛在深圳正式开幕。美国有线电视新闻网(CNN)高级...
《给阿嬷的情书》登陆北美院线,... (来源:直新闻)中国电影《给阿嬷的情书》9月4日登陆北美院线。这部讲述老一辈华侨故事的影片深深打动众...
中新“海上合作-2026”联合... 本文转自【新华网】;新华社广州9月5日电(杨晓敏、李念)中国和新加坡“海上合作-2026”联合演习5...
新华社国家高端智库发布《开放、... 新华财经深圳9月5日电 5日在深圳召开的亚太媒体高端论坛上,新华社国家高端智库面向全球发布《开放、创...
“身上有鬼跟着”“家人将遭灾祸... 自称“身上有众多仙家”,可“做法事”帮转运。日前,内蒙古自治区赤峰市公安局松山分局破获一起案件。“大...
景顺长城中证全指证券公司ETF... 9月5日消息,景顺长城中证全指证券公司ETF联接A(028571)于9月4日成立。该基金首发总份额0...