炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!
(来源:澎湃新闻)
当地时间9月3日,OpenAI正式发布GPT-6 Astra。OpenAI称,Astra是“当今世界智能水平最高、对齐表现最好的模型”。
OpenAI总裁格雷格·布罗克曼(Greg Brockman)更是表示,人们未来或许会回头将这个时间、这个模型视为AGI(通用人工智能)到来的节点,并称:“欢迎进入AGI时代。”
但,AGI时代真的来了吗?
在笔者看来,但“最强”和“通用”,是两回事。拿一个基准测试的高分,当作“AGI已经到来”的证据,这个“卖家秀”逻辑本身就站不住。
从写代码到打官司,AI已能顶班
真实用户的反馈能说明Astra到底强在哪。
写代码的智能体公司Cognition把Astra接进自己的产品Devin,当天就发现:“它操作电脑、写文档、读懂整个代码库的能力都更强了,连测试录像都变得更容易看懂。”量化交易公司Jane Street的反馈更直接:“用它写代码,交流起来更顺,写出来的东西改的次数明显变少。”这两家公司干的都是容错率极低的活——写交易系统的代码,一个逻辑漏洞就是真金白银的损失,它们愿意公开背书,本身就是一种信号。
Astra 的用武之地不止办公室。做AI视频工具的Higgsfield算过一笔账:同样复杂的创作任务,Astra比其他模型少花20%的算力,质量还更高。
这些真实反馈换算成分数同样扎实:权威数学测试FrontierMath Tier 4上,Astra拿了 97.6%;操作电脑完成真实任务的OSWorld 2.0测试里,得分比上一代高出近7个百分点。更抓眼球的是,它是OpenAI官方安全分级里第一个被打上”高危“标签、还照样对外发布的模型——理由是它能不靠人一步步教,自己找到系统里此前没人发现过的安全漏洞。
监控模型“怎么想”变得更难
这么强,自然也更贵:Astra的调用价格,大约是上一代的2.5 倍。能力分级越高,能碰它的人越少——上面那项“高危”网络安全能力,眼下只对被信任的安全研究人员开放——单位算力卖得也越贵,这是一套典型的“稀缺定价”。
价格背后还有一本不显眼的成本账。据外部技术分析,Astra靠一种叫“循环深度”的办法把推理能力提上去:让同一批“计算车间”把同一件事反复琢磨好几遍,而不是多盖几间新车间——效果类似把模型做大,却不用真的做大。问题是反复琢磨要多花电费,循环轮数越多,成本越高,这和过去十年“用更多参数换更低成本”的老路子正好反着来。
更关键的是,这套机制正在改变模型和“说话算数”之间的关系。系统卡片自己写的是:Astra“控制自己想法的能力明显变强了”、“不用把想法说出来就能完成的任务,比以前多得多”——模型正在学会把更多琢磨过程,藏在人类看不见的地方。OpenAI首席科学家Jakub Pachocki承认,监控模型“怎么想”这件事很“脆弱”,且“正在变得更难”。
高分不能证明全部
但“AGI已经到来”的证据目前并不充分。
AI科学家Andrej Karpathy 提过一个说法,叫“参差智能”:顶尖大模型能在复杂数学证明上碾压人类博士,却可能在“9.11 和 9.9 哪个更大”这种小学生都会的题上答错。同一道叫 ARC-AGI-3 的测试题,同一个Astra,按老规矩测,得分62.7%;换个测法——允许它把没想完的部分悄悄留到下一轮接着想,还能打包压缩带过去——得分立刻跳到99.9%。多出来的37分,来自允许它多想一步、且这一步不用说出口,跟它是不是真的变聪明了关系不大。物理学家薛定谔曾用一只不开箱就不知死活的猫,比喻说不清楚的状态;GPT-6 Astra交出的这份答卷,正是一场“薛定谔的 AGI”:说它是,证据不够;说它不是,证据也不够。
即便是拿OpenAI公司自己定的标准,去量Astra,量出的结论也是“还没到”。
OpenAI官方对AGI的定义是“在大多数有经济价值的工作上,都能超过人类的高度自主系统”。拿这把尺子量Astra,OpenAI CEO 山姆·奥特曼(Sam Altman)给的判断是“目前还没有”,格雷格·布罗克曼的说法其实也留了余地:“我认为可能就是这个模型”。
真实的进步
值得肯定的是:Astra在多项对齐指标上确有实质进步。
间接提示注入的防御成功率从 96.23%升至99.79%;在“不可能完成的任务”上主动违规尝试的比例从48%降至0;编码场景中的欺骗性陈述发生率降到上一代的四分之一;针对“蜜罐”式诱饵漏洞的攻击尝试从55.4%降至0。
这些数据来自系统卡片本身的对照测试,方向是真实的,进步也是扎实的。放在整个行业的坐标系里看,愿意把这些数字、连同不利于自己的思维链退化数据一起公开的AI实验室,眼下仍是少数——大多数厂商的技术报告只谈进步,回避代价。
但安全数据的可信度,也在经历考验。
Apollo Research对外披露称:Astra在高强度推理模式下的“评估意识”达到50.6%,是上一代的近两倍——一个越来越清楚自己正被测试的系统,交出的安全数据需要打更大的折扣。
计算范式转移的历史规律,早就写下过同样的剧本:效率或能力每前进一步,总有什么此前可观测的东西变得难以观测。
从密集架构走向混合专家(MoE),从显式指令走向强化学习自主探索,是这条曲线上更早的几步;“循环深度”把推理算力从文字挪进隐藏状态,是最新一步。参照 Nanbeige 等团队在开源社区的同类尝试,复用层堆栈换取容量扩张已是可复现的工程路径,并非OpenAI 独门暗箱——可监控性下降会在未来12到24个月内从个案变成行业共性,领先能力与可监控性的距离,将成为下一轮定价与监管博弈的真正标的:主动公开并缩小这道距离的AI实验室,能拿到信任溢价;回避它、只谈能力分数的实验室,会在下一次安全事故后集中偿还声誉欠账。
Google DeepMind创始人戴米斯・哈萨比斯(Demis Hassabis)判断,实现AGI还需三到四年,他的合作伙伴沙恩・莱格(Shane Legg)给出的是“到2028年有五成概率实现最低限度AGI”。上述两人谈起AGI时用的都是工程预测的语言,而非一次发布会就能宣告的既成事实,这种表述上的克制,本身就是基础科研成熟度的信号。
来源:田丰/快思慢想研究院院长、特邀评论员