上海“独角兽”研究员“硬杠”苹果团队论文
创始人
2025-12-03 14:50:09
0

上海大模型“独角兽”的研究员,为何要“硬杠”一篇大厂论文,还获得了一片叫好?这几天,来自上海的大模型“独角兽”阶跃星辰的研究员杨磊,在国内外机器学习社区火了:他“硬杠”大厂一篇“漏洞百出”的论文,引来数以十万计的“吃瓜群众”,更不乏行业大V为他站台。

AI初创公司、进入大语言模型赛道不过一年多的程序员……这样的背景,怎么也不像是“哪吒闹海”的主人公!可恰恰是一份简单而纯粹、对科研较真的态度,让业界看到并认可了来自模速空间的实力。

反复测试 论文“坑”多

上个月初,有着多模态“卷王”之称的阶跃星辰研究员杨磊,被同事“种草”了一篇苹果团队发布的视觉推理基准论文。这篇论文发表在公开的论文预印本平台上,同时也被苹果投向了国际表征学习大会(ICLR 2026)——这可是AI和深度学习领域的顶级学术会议之一。

都被公认“卷王”了,可见平时节奏有多快。可这项研究吸引杨磊,并让他心甘情愿“加班”的,恰是它的核心,和自己近期的工作相关。这篇论文本意是展示其最新的AI研究进展。“外行看热闹”的话,可以理解为出了套“基准测试”——用一套统一的数据集,类似于考题,来比较不同的AI模型,看谁的表现更好。

“可以这样理解,它让大模型去分析数据集里哪个地方错了,很像考试中老师给‘步骤分’。”杨磊告诉记者,“此前,我们也开发了专门的标注工具,产生了一批数据,并有了预研模型,很希望通过第三方平台来验证成果。”

可熬了一个周末的通宵来做适配,杨磊的心情只能用两个字来形容:沮丧!

“模型跑出来的点数极其之低,远低于预期。”他说,苹果团队也给出了其测试开源模型以及主流模型的榜单,杨磊所用的经过适配的模型,几乎要排名垫底了。

哪里出问题了?排除了自身模型的问题后,杨磊仔细分析了论文里给出的代码,他被震惊了!照理说,这套“基准测试”的运行流程是,给个图、抛出问题、给出解答、解答里有步骤错误,模型需要准确找出这一步——也就是说,参加评测的必须是一个能输入图片的VLM(视觉—语言模型)。

可论文的开源代码里,输送的是图片的路径地址,而没有把路径解析成图片内容。这就会造成模型看不到图片,只能看到题目和错误之处。杨磊向论文作者反馈了这个“低级错误”,可得到的反馈却是:这是一段“伪代码”。

更令杨磊没有想到的是,在修复这处bug后,模型的点数更低了……

百思不得其解下,杨磊只能花费更多时间和精力,去分析到底哪儿出了问题。再看了前20道题中自家模型答错了的题后,结果大吃一惊——里面有6道题明确属于“参考答案”错误,从“参考答案”的错误风格来看,很可能是模型自动生成的“参考答案”加上质检严重不足,导致包含大量“幻觉”。杨磊初步估算了一下,“参考答案”错误率可能已经达到了30%。

“原本以为苹果是大厂,我们也比较信任。谁能想到自己花费了大量时间和精力,发现自己‘被坑了’,对方也很不负责。”杨磊如是说。

发布评论 对方撤稿

他在GitHub(全球最常用的代码托管与协作平台)上,向论文作者反馈,指出其中的错误。6天后,作者“姗姗来迟”,简单回复后,便关闭了“讨论框”——这一举动意味着,问题被解决,可实际上并没有。

由于论文也被投向了国际表征学习大会,大会的审稿意见中,没有任何一位审稿人发现“参考答案”的质量问题,也没人发现论文中的例子存在幻觉和错误。

杨磊写了一份详细的公开评论,提醒大会审稿人和社区:这个数据集质量堪忧、极易误导研究方向。“我在这里评论是为了防止有兴趣的研究人员重复我经历的相同循环——看到第一个错误检测任务时的兴奋,运行它后的震惊和失望,以及追踪底层GT问题后的沮丧——从而节省每个人的时间和精力。”他这样写道。

再后来,论文撤稿了。作者“礼貌”地告诉杨磊,会积极修复这些问题,就没有然后了。

“众所周知,这几年人工智能领域特别火。每两年,投向顶级会议的论文数量几乎翻番。AI的进步,会使更多粗制滥造的工作容易‘批量生产’;加之审稿人都是‘义务劳动’,这些更不容易被发现。”杨磊解释。

杨磊的这一举动,在国内外各大机器学习社区,都引发了共鸣。他说,希望通过分享自己这次曲折的经历,能让AI社区更和谐,也让大家意识到,不要盲目信任表面包装,哪怕是来自大厂。

本报记者 郜阳

相关内容

“就是战犯神社!”一词之变...
(来源:辽宁日报)转自:辽宁日报 杨靖岫 国家安全部微信公众号近日...
2026-08-30 05:47:44
让企业敢于“一根筋”
(来源:辽宁日报)转自:辽宁日报 漫画作者 王晨同 ...
2026-08-30 05:47:39
“所见即所得”,现房销售如...
新华社记者王优玲住房城乡建设部、自然资源部、金融监管总局近日联合印...
2026-08-30 05:37:48
希望大连队在“东北超”“辽...
大连新闻传媒集团/大连云记者赵健在中国足坛,李应发这个名字,几乎与...
2026-08-30 05:37:43
大连升隆以“智造”赋能装备...
实习生林建华 大连新闻传媒集团/大连云记者曲家乙“这批‘四轮一带’...
2026-08-30 05:37:38
一切为了让“奔跑者”安心
(来源:新华日报) □ 本报记者 倪敏 许愿 开学季...
2026-08-30 05:27:52
“止于至善”的故事更精彩
(来源:新华日报) □ 本报记者 谢诗涵 通讯员 吴涵玉 ...
2026-08-30 05:27:47
“沙德尔”携12级大风登陆...
2026年8月28日,据中央气象台最新消息,今年第18号台风“沙德...
2026-08-30 05:27:41
共青团中央调研:部分地区彩...
2026年8月27日,据《人民日报》报道,8月26日,中央农村工作...
2026-08-30 05:27:36

热门资讯

“就是战犯神社!”一词之变,正... (来源:辽宁日报)转自:辽宁日报 杨靖岫 国家安全部微信公众号近日发表文章,标题干脆利落——《就是战...
让企业敢于“一根筋” (来源:辽宁日报)转自:辽宁日报 漫画作者 王晨同 ​李峥嵘 一个汽车方向盘,能有多少...
“所见即所得”,现房销售如何推... 新华社记者王优玲住房城乡建设部、自然资源部、金融监管总局近日联合印发《关于完善商品住房销售制度的通知...
希望大连队在“东北超”“辽超”... 大连新闻传媒集团/大连云记者赵健在中国足坛,李应发这个名字,几乎与另一个词绑定到了一起,没错,十连冠...
大连升隆以“智造”赋能装备出海 实习生林建华 大连新闻传媒集团/大连云记者曲家乙“这批‘四轮一带’产品出口澳大利亚,都是锻造件,刻有...
一切为了让“奔跑者”安心 (来源:新华日报) □ 本报记者 倪敏 许愿 开学季又至。回首暑假,在苏州跑外卖的小哥...
“止于至善”的故事更精彩 (来源:新华日报) □ 本报记者 谢诗涵 通讯员 吴涵玉 8月29日,东南大学迎来20...
“沙德尔”携12级大风登陆台州... 2026年8月28日,据中央气象台最新消息,今年第18号台风“沙德尔”(台风级)的中心已于今天8时0...
共青团中央调研:部分地区彩礼成... 2026年8月27日,据《人民日报》报道,8月26日,中央农村工作领导小组办公室、中央精神文明建设办...
聚焦长征中的周恩来与邓颖超 (来源:天津日报)转自:天津日报  本报讯(记者 刘莉莉 摄影 曹彤)28日,周恩来邓颖超纪念馆原创...