曾毅：AI取代人类，并导致人类灭绝的风险一直存在
创始人
2026-07-04 16:08:23
0次
7月2日至4日，第十四届世界和平论坛在北京举行。在4日的讨论中，中国人民大学高瓴人工智能学院吴玉章讲席教授、北京前瞻人工智能安全与治理研究院院长曾毅就AI的治理和管控进行发言。
“我们绝不能忘记我们的责任，即控制AI，”曾毅说，“AI取代人类，并导致人类灭绝的风险一直存在，因为在短期内我们还没有找到方法保护自己，使其不利用人类弱点。我们必须确保能够有效控制所有AI系统，人类具有相应的责任。”
曾毅认为，AI应作为一种工具辅助人类，而非取代人类决策，人类应该始终保持自主决策。
他表示：“我们永远无法构建一个数学上可能安全的人工智能，无论以何种方式建造它，人工智能都不会是100%完整的，也不会是完全安全的，这意味着永远不要使用人工智能来帮你做决定。”
“如果人类失去对自己行为的控制，从代理AI开始，这将是一场社会灾难。人类如果想放弃自己的责任，那么失控的时机就到了。”曾毅说道。
本文系观察者网独家稿件，未经授权，不得转载。
上一篇：我国首架，首飞成功！
相关内容
热门资讯
日本东京突发火灾，7栋建筑仍在...
当地时间7月4日下午，日本东京中野区本町一处住宅密集区域发生火灾。据东京消防厅等部门介绍，已出动28...
涉留神峪煤矿事故 国家矿山安全...
新京报讯 据山西省纪委监委网站消息，涉留神峪煤矿事故，国家矿山安全监察局山西局监察执法八处2人被查。...
俄称圣彼得堡市遭大规模无人机袭...
每经AI快讯，当地时间7月4日，俄罗斯圣彼得堡市市长别格洛夫称，该市遭到乌军大规模无人机袭击。据他介...
轻信AI，一家三口集体中毒、9...
（来源：长江日报）“以后再也不随便采摘野蘑菇吃了！”经历一家三口集体中毒、9岁儿子生死抢救8天的惊险...
根治平台拒开发票顽疾
（来源：经济日报）转自：经济日报当前，外卖平台普遍推出APP内“发票助手”一键开票功能，但受平台入驻...
奇瑞把15%智界股权“送”给了...
（来源：科技朋友圈）撰文 | 季序 编辑 | 见溪6月30日，国家企业信用信息公示系统显示，安徽智界...
快讯！俄方称乌方袭击圣彼得堡一...
来源：环球网 【环球网快讯】据法新社、俄罗斯《消息报》报道，俄方周六（4日）指控乌方袭击圣彼得堡的一...
中汽协：5月汽车商品进出口总额...
来源：环球网 【环球网科技综合报道】7月4日消息，据中国汽车工业协会整理的海关总署数据显示，2026...
规范引导情感陪伴人形机器人健康...
转自：央视新闻中国人形机器人百人会和中国机械工业联合会今天联合发布关于规范和引导情感陪伴人形机器人发...
2026优质防晒汇总！夏季防晒...
2026优质防晒汇总！夏季防晒霜哪个牌子清爽又效果好？榜上这口碑十大?防晒品牌用了念念不忘很多低价防...