174名北大学生能否考过AI?结果很意外
创始人
2025-12-28 08:22:41
0

(来源:上观新闻)

在北京大学化学与分子工程学院,有机化学考试是许多同学痛并快乐着的挑战。然而,期中考前突如其来的一条通知,却让这场考试的气氛变得不同寻常:

“请注意,本次考试范围不仅限于有机化学。”

但比起考试范围的变化,考场里迎来的一批“特殊考生”,更让人意想不到。

它们不需要落座,也无需纸笔。它们是GPT、Gemini、DeepSeek……这些当下世界上最聪明的AI,正在云端与174位北大化学与分子工程学院的大二学生同场竞技。

这是一场精心设计的“图灵测试”,也是北大科研团队为大语言模型投下的一块“试金石”。

近日,北京大学化学与分子工程学院联合北大计算中心、计算机学院、元培学院团队,发布了最新成果SUPERChem。近期,他们以一套“北大试卷”为标尺,冷静丈量着AI在科学推理上的真实边界。

考试现场

一场特殊的期中考

打开SUPERChem的题库,一种“压迫感”扑面而来。

晶体结构的精细解析、反应机理的深度推演、物化性质的定量计算……这500道题目并非来自网络上随手可得的公开题库,而是源于对高难度试题和前沿专业文献的深度改编。

为什么要费尽周折重新出题?

“因为大模型太会‘背书’了。”团队成员解释道。互联网可及的测试题大多已被博闻强识的AI在训练阶段熟读。而化学,恰恰是一门不能只靠死记硬背的学科。它既有严密的逻辑推演,又充满了对微观世界的空间想象。“我们非常好奇,大语言模型的一维 next token prediction,能否解决二维、甚至三维空间中的复杂推理问题。”

要设计一套让AI“没见过”、必须靠硬实力推理的题目,难度极高。然而,这正是北大化院的独特优势所在。近百名师生——其中不乏奥赛金牌得主——集结起来,决定给AI出一套高门槛、重推理、防作弊的试卷。

他们要考的,是AI是否真的“懂”化学。

一场游戏中的学术共创

设计题目往往是枯燥的,但这群年轻的北大人却把它变成了一场“游戏”。

为了构建这套高质量评估集,团队搭建了一个专属协作平台。在这里,出题、审题、修题从单调的任务,变成了一套循序渐进的“通关”流程。成员们在平台上协作,互相审阅、彼此“找茬”,让严谨的科学探讨与活跃的思维碰撞交织共融。

团队还引入了积分激励系统,让出题过程就像在游戏中打怪升级。一道题目需历经编写初稿、撰写解析,再通过初审与终审的严格审核,每个环节均由不同的同学把关,并发放相应的积分。终审通过的题目,甚至最多迭代过15个版本。

SUPERChem题库的三阶段审核流程

当最强大脑遇上“北大难度”

考试成绩揭晓。

在这场精心设计的考试中,人类展现出了复杂的科学直觉。作为基线,参与测试的北大化院本科生取得了40.3%的平均准确率。这个数字本身,就足以说明这套题目的硬核程度。

而AI的表现如何?

即便是接受测试的顶尖模型,其成绩也仅与低年级本科生的平均水平相当。

前沿模型在SUPERChem上的表现

前沿模型的正确率与RPF关系

让团队感到意外的是视觉信息带来的困惑。化学的语言是图形,分子结构、反应机理图蕴含着关键信息。然而对于部分模型而言,当引入图像信息时,其准确率不升反降。这说明,当前的AI在将视觉信息转化为化学语义时,仍存在明显的感知瓶颈。

输入模态对不同模型的影响

然而,即使选对了答案,解题步骤也可能经不起推敲。因此,团队为每一道题目都标注了详细的评分规则。在SUPERChem这台“显微镜”下,AI是真懂还是装懂,一目了然。

团队发现,AI的推理链条往往断裂于产物结构预测、反应机理识别以及构效关系分析等高阶任务。当前的顶尖模型虽然拥有海量的知识储备,但在处理需要严密逻辑和深刻理解的硬核化学问题时,仍显得力不从心。

推理断点所属化学能力分布

通向AGI的一小步

SUPERChem的诞生,填补了化学领域多模态深度推理评测的空白。

团队发布这项成果,并非为了证明AI的短板,而是为了推动它走得更远。SUPERChem就像一个路标。它提醒我们:从通用的聊天机器人,到能够理解构效关系、推演反应机理的专业科学助手,中间还有很长的一段路要走。那是从“记住知识”到“理解物理世界”的跨越。

目前,SUPERChem项目已全面开源。团队希望这套源自北大的“试卷”,能成为全球科学与人工智能领域的公共财富,去催化下一次技术的爆发。或许在不久的将来,当我们再次打开这张试卷时,AI能交出一份满分的答卷。那将是化学与人工智能共同的惊喜。

挑战一下?

我们选取了一道未能进入SUPERChem题库的“简单”题目,邀请你来体验这场考试。

为纪念门捷列夫发现元素周期律150周年,国际纯粹和应用化学联合会将2019年设为“国际化学元素周期表年”。门捷列夫预言了多种当时未知的元素,M即为其中之一。

M是一种银白色金属,质软,能溶于浓硫酸、硝酸、盐酸和稀碱溶液。M与氧气加热至250 °C反应,可得到淡黄色固体A,A经SOCl2处理可得到亮黄色固体B,B也可由M与黄绿色气体C直接加热反应得到;若将B与单质气体D加热至200 °C反应,则转化为红色固体E;将M直接溶于稀盐酸,也可得到E的溶液;但若将镀有M的镁片溶于稀盐酸,可以制得少量二元化合物F;F在常温下为液体,不稳定,其水溶液显酸性;F能与金属钾反应,生成淡灰色固体G,并放出单质气体D。

根据上述信息,从以下选项选出正确的说法:

A:物质M的原子序数和族数的奇偶性不同

B:镀有M的镁片与稀盐酸反应,产物中Mg的化合价与A中M的化合价一样

C:G具有反萤石结构

D:由于空气氧化,E溶液久置会转化成含B溶液

来源:北京大学

原标题:《174名北大学生能否考过AI?结果很意外》

栏目主编:顾万全 文字编辑:卢晓川

来源:作者:北京大学

相关内容

历史新高!突破6万亿元!
转自:证券时报网历史新高!突破6万亿元!  中国ETF市场发展迎来...
2025-12-28 10:13:56
白银价格暴涨,马斯克:这可...
  炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力...
2025-12-28 10:13:23
智能驾驶细分龙头月内涨超9...
财联社12月28日讯(编辑 笠晨)智能驾驶迈入商业化元年。智能驾驶...
2025-12-28 10:13:11
黄河古贤水利枢纽工程导流洞...
(来源:上观新闻)12月28日,黄河古贤水利枢纽工程导流洞顺利贯通...
2025-12-28 10:13:05
什川黄河大桥正式通车
什川黄河大桥正式通车每日甘肃网兰州讯(新甘肃·甘肃日报记者 王煜宇...
2025-12-28 10:13:00
包甜的!成都“村糖会”元旦...
转自:成都发布元旦春节去哪儿逛?成都“村糖会”走起来!打造消费新生...
2025-12-28 10:07:57
多国及国际组织发表联合声明...
当地时间12月27日,约旦、埃及、阿尔及利亚、伊朗、伊拉克、科威特...
2025-12-28 10:07:47
温州120家校园食堂提档升...
  暖色的灯光、加宽的餐桌、有序的打餐队列……日前的一个晚上,温州...
2025-12-28 10:07:43
5%的承诺 100%的共赢...
(来源:中国西藏网)转自:中国西藏网中国西藏网讯 错高,在藏语里是...
2025-12-28 10:03:22

热门资讯

历史新高!突破6万亿元! 转自:证券时报网历史新高!突破6万亿元!  中国ETF市场发展迎来重大突破!  Wind数据显示,截...
白银价格暴涨,马斯克:这可不好   炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会! (来源:界面新闻)特...
智能驾驶细分龙头月内涨超95%... 财联社12月28日讯(编辑 笠晨)智能驾驶迈入商业化元年。智能驾驶L3级准入落地,标志高阶自动驾驶从...
黄河古贤水利枢纽工程导流洞贯通 (来源:上观新闻)12月28日,黄河古贤水利枢纽工程导流洞顺利贯通,标志着工程取得首个阶段性重大进展...
什川黄河大桥正式通车 什川黄河大桥正式通车每日甘肃网兰州讯(新甘肃·甘肃日报记者 王煜宇)近日,横跨母亲河的什川黄河大桥正...
包甜的!成都“村糖会”元旦春节... 转自:成都发布元旦春节去哪儿逛?成都“村糖会”走起来!打造消费新生态、促进产业融合发展,在成都乡村大...
多国及国际组织发表联合声明 反... 当地时间12月27日,约旦、埃及、阿尔及利亚、伊朗、伊拉克、科威特、利比亚、马尔代夫、尼日利亚、阿曼...
温州120家校园食堂提档升级惠...   暖色的灯光、加宽的餐桌、有序的打餐队列……日前的一个晚上,温州育英实验学校的食堂透着温馨。住校生...
5%的承诺 100%的共赢:巴... (来源:中国西藏网)转自:中国西藏网中国西藏网讯 错高,在藏语里是“湖头”的意思。错高乡,坐落在美丽...
【好评中国】在带头示范中开好局...   中共中央政治局于12月25日至26日召开民主生活会。岁末年初,各级领导干部要以此为标杆,在笃信、...