炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!
(来源:DeepTech深科技)
当地时间 7 月 24 日,英伟达创始人黄仁勋发出了自己人生第一条推特,账号是新注册的,没有秀 GPU、没有发大模型,而是一纸联名公开信,力挺开放权重 AI。
在老黄的第一篇帖子中,他分享了一封英伟达签署的信函《开放权重与美国 AI 领导力》,阐述为什么开源模型很重要。他表示,AI 将改变每个行业,赋能每个公司,并由每个国家构建。开源模型加强安全性和网络安全,加速创新和传播,并实现主权。世界需要前沿闭源模型,也需要前沿开源模型。
这场争论跟中国最新的开源模型 Kimi K3 引起的轰动不无关系。这封有着 20 多家科技巨头、创业公司和投资机构联名签署的公开信,里面既有英伟达、微软、Meta,也有 Hugging Face、Mistral、YC,他们现在打算携起手来“对抗”闭源巨头 OpenAI 与 Anthropic。
(来源:X)公开信回顾了 20 世纪 80 年代开源软件运动的历史,指出开源软件如今支撑着互联网的大部分功能,为全球最大的科技公司、美国军方和联邦机构的系统提供底层支持。公开信认为,美国在 AI 领域也面临类似抉择:评判 AI 领导地位,不取决于某一种前沿模型,而是取决于美国能否构建一个强大、开放的生态系统。
公开信特别强调,应谨慎区分合法的模型开发技术与盗用行为:“模型蒸馏(distillation),即利用一个模型的输出结果来帮助训练或改进另一个模型,是一种广泛用于模型改进、评估和验证的技术。它体现了长期以来从现有技术中学习、发展和改进的传统,而这一传统自开源软件运动兴起以来就一直推动着创新。”
相比之下,非法从封闭模型中榨取价值的行为应通过有针对性的法律和商业框架来解决,而不是对在 AI 创新中发挥重要作用的技术进行全面限制。
黄仁勋在 X 平台的首秀,足以见得硅谷大佬对于开源模型遇阻的担忧,将这场关于“开源 vs 闭源”的路线之争推向了高潮。不过,英伟达在内的科技公司支持开源模型,更多体现的是美国科技巨头之间的资源及话语权争夺,而非简单地理解为给中国开源模型代言,呼吁支持开源和限制中国获取顶尖技术资源,这两件事正在同时发生。
“Kimi 恐慌”正在蔓延
这一切的导火索,一定程度上源于 7 月 16 日发布并即将开源的最新大模型 Kimi K3,Kimi K3 的发布堪称科技圈的“核弹级”事件。它不仅是目前开源社区能接触到的最大规模模型(总参数量 2.8T),更在底层架构上做出了突破性的创新,实现了接近于 Fable 5 的编程能力。
目前,Kimi K3 的编码套餐和网页端都出现了售罄、限流情况,可见国内外技术社区对于新模型的狂热程度。开发商月之暗面表示,K3 将在 7 月 27 日之前开放出完整模型权重。Hugging Face 甚至为 Kimi 新模型设置了一个倒计时的页面,全世界都在等待着,海外各大技术社区已开始流传针对 K3 的《部署备战指南》。
(来源:Axios)然而,Kimi K3 推出后,OpenAI 与 Anthropic 感到威胁,开始指控中国公司利用模型蒸馏技术窃取知识产权,并游说了美国官员。据报道,美国财政部等部门已开始考虑对部分中国开源 AI 模型实施禁用等措施。
此举也导致了硅谷初创公司的恐慌。美国科技媒体 Axios 将这场由 Kimi K3 引发的连锁反应称为“Kimi Panic”,即“Kimi 恐慌”。恐慌不仅来自华盛顿对技术流失的担忧,更来自硅谷内部对商业模式崩塌的恐惧。
近 200 家公司、投资机构火速组成的“小科技联盟(Little Tech Association)”警告政府:如果封杀廉价的开源模型,初创公司将被迫向 OpenAI 和 Anthropic 支付高昂的 API 费用,这将直接摧毁大量资金有限的美国创业公司。
争议的漩涡:模型蒸馏
在这场“开源 vs 闭源”的正面交锋中,蒸馏成了双方争论的焦点战场。那么,模型蒸馏到底是什么?为什么它会引发如此大的争议?
加拿大一所高校的华人学者告诉 DeepTech,蒸馏并不是什么秘密技术,它是一种 AI 训练技术,由一个已经训练好的大模型充当老师,另一个较小的模型使用老师模型的输出结果来学习,从而使用更低的成本获得接近老师模型的能力。
这也是 AI 领域里通行多年的做法,OpenAI 在 2024 年就已经正式推出模型蒸馏工具,让开发者能够使用 GPT-4o 的输出结果来微调 GPT-4o mini。OpenAI 当时的官方博文里清楚写道,蒸馏可以“让更小、更高效的模型在特定任务上达到先进模型的性能”。
那么,模型蒸馏本质上是什么?与知识产权侵权的界限在哪里?南京大学李猛教授告诉 DeepTech,蒸馏的本质是模型之间的能力迁移。不过,近十年来,尤其是进入大模型时代以后,知识蒸馏的目标已经发生了明显变化,从最初的“压缩模型”,逐渐演变为今天的“复制能力”,期间真正发生变化的是知识获取方式和能力迁移路径。
从技术上讲,2015 年 Hinton 等人在经典论文中已经系统描述了知识蒸馏。在经典蒸馏中,教师模型不只给出“猫”这个答案,还会给出“猫 70%、狐狸 20%、狗 10%”这样的概率分布。学生模型通过最小化自己与教师模型输出分布之间的差异,学习教师模型对类别关系、边界和不确定性的判断。
大模型时代的黑盒蒸馏拿不到教师模型的完整概率和中间层,通常是向教师模型提交大量问题,收集答案、代码、工具调用轨迹或推理解释,再用这些数据对学生模型进行监督微调(SFT)、偏好训练或强化学习。
所以,蒸馏本质上是“用机器产生的监督信号训练另一台机器”。它复制的是部分输入—输出行为,并不是直接复制权重、源代码或完整内部结构。
学生模型甚至可以有完全不同的架构、参数量和分词器。上述华人学者指出,外媒报道中提及的 Kimi K3“重建模型代码和思维过程”并不严谨:因为通过 API 输出固然可以模仿行为,但是通常不能逆推出原模型的源代码、参数,更不能把模型生成的解释等同于真实的内部神经计算过程。
一个更细粒度的技术视角是 On-Policy Distillation(在线策略蒸馏)。与传统蒸馏使用预先收集的静态数据不同,On-Policy Distillation 让学生在教师模型的实时指导下生成数据并同步学习,这种动态交互方式能更高效地迁移教师的决策边界和推理路径,近年来在推理任务和代码生成领域备受关注。而 Kimi K3 所涉及的蒸馏争议,有相当一部分技术讨论正围绕此类更高效的蒸馏范式展开。
蒸馏与知识产权侵权的界限,要考虑教师模型及其输出的许可证是否允许用于训练其他模型;还要考虑获取输出时是否违反服务条款、地域限制、速率限制,或者使用虚假账户、代理网络规避访问控制等等方面。
因此,“违反服务条款”“侵犯版权”“盗取商业秘密”和“绕过技术保护措施”是不同的法律问题,不能笼统合并成“蒸馏侵权”。美国版权局对 AI 训练的最新分析同样没有给出“训练一律合法”或“一律侵权”的结论,实际情况需要根据数据来源、用途等等逐案判断。
本月早些时候,微软 CEO 萨提亚·纳德拉表示模型厂商抱怨蒸馏是虚伪的。他的原话是:“模型提供商利用合理使用权在公开数据上训练模型,这带来了巨大的创新,这是必要的。不过,我认为现状具有讽刺意味的是,它们转过身来就对蒸馏施加限制性条款。”
纳德拉指的模型厂商到底是谁,答案很明显。一直以来,Anthropic 和 OpenAI 都主张自己有权使用公开数据来训练模型,包括那些受版权保护的书籍和文章,但却同时试图阻止别人蒸馏他们的模型。
Hugging Face 的 CEO 也认为蒸馏根本不是模型是否优秀的关键因素,他说对于提高模型的能力来说蒸馏只是一个很小的因素,而且这是包括美国公司在内几乎每个人都在做的做法。蒸馏要是真的那么容易,那么很多其他国家早就做出更好的开源 AI 了。
那么,为什么 OpenAI、Anthropic 如此紧张?蒸馏对他们商业模式的威胁到底有多大?蒸馏可能削弱他们最重要的竞争优势。目前领先模型的优势并非主要来自 Transformer 等基础架构,而是长期积累的高质量数据、算力投入以及后训练形成的模型能力。
如果其他模型能够通过蒸馏以较低成本获得接近的能力,OpenAI 和 Anthropic 的优势就会被削弱,再就是闭源 API 的商业价值可能受到影响。
如果开发者通过 API 获取大量高质量输出,再训练自己的本地模型,那么很多原本需要持续调用商业 API 的场景,就可能转向使用自有模型完成,从而影响 API 服务收入。
与此同时,开源模型的竞争力不断提升。近年来,一些开源模型结合高质量蒸馏数据后,在部分任务上的表现已经接近甚至达到部分闭源模型水平,同时部署成本更低,这进一步加剧了市场竞争。
因此,对闭源模型公司来说,蒸馏争议的核心并不是技术本身,而是如何保护自身长期投入形成的能力优势和商业模式。
蒸馏普遍存在,但形式有所不同
那么,美国公司之间是否也存在蒸馏和技术借鉴?上述华人学者告诉 DeepTech:“当然存在,而且非常普遍。但是需要区分公开、授权的蒸馏与未经授权的模型提取。”
美国公司内部的蒸馏是一个标准生产流程。比如,Meta 用 Llama 3.1 训练 Llama 3.2 小模型,OpenAI 允许客户在其平台内用 GPT-4o 等模型输出训练更便宜的模型。Microsoft Research 的 Orca 则公开研究了如何让小模型学习 GPT-4 的解释轨迹。这些项目都把蒸馏视为正常的效率技术,而不是异常行为。
跨机构借鉴同样存在,最典型的公开案例是斯坦福 Alpaca:研究团队用 OpenAI 的 text-davinci-003 生成 5.2 万条指令数据,再微调 LLaMA 7B。斯坦福在发布时明确指出,由于 OpenAI 条款禁止用这些输出开发竞争模型,加上 LLaMA 当时的非商业许可证,Alpaca 只能用于学术研究,不能商业使用。
这个案例恰好说明:技术上能做、研究上有价值,不代表商业授权自动成立。该学者指出,行业目前大致存在几种共识:
第一种是用自己的大模型蒸馏自己的小模型,这一种是完全主流的做法。
第二种是使用明确授权的教师、开放权重或合成数据,通常是可以接受的,但必须遵守具体许可证。
第三种是学术研究中有限度的模仿、评测和复现,业内对其拥有一定容忍度,但发表和商业化时需要说明数据来源及限制。
第四种是利用虚假账户、代理网络和规避限流,大规模抓取竞争对手 API 输出训练替代产品,主流闭源厂商会将其视为模型提取和服务滥用。
因此,行业真正反对的是到底以何种权限、规模和方式进行蒸馏。此次争议的本质是开放研究传统、商业合同、模型安全和竞争关系在同一条训练流水线上发生了碰撞。
需要强调的是,现代模型的知识谱系越来越像一张网,而不是一棵树:模型从人类数据、开源模型、闭源教师、自生成数据和其他模型的评测反馈中共同学习。
从技术角度看蒸馏是一种成熟的机器学习方法;是否构成侵权不是技术问题,而是需要结合模型许可协议、数据来源以及相关法律来判断。
从技术上来说,蒸馏并不等同于 Copy。Copy 指的是直接复制模型的权重、代码或其他核心资产,而知识蒸馏并不会获取教师模型的参数。在大模型时代,由于闭源模型通常不开放权重和内部状态,开发者能够获取的往往只有 API 返回的文本结果。
学生模型学习的是教师模型的输出行为,并利用自身参数重新学习这些能力,而非复制模型本身。此次争议并不在于是否复制了模型,而在于是否低成本迁移了模型背后的能力成果。
领先的大模型通常需要投入大量算力、数据和人工标注,经过监督微调、人类反馈强化学习等复杂训练,才能形成今天的推理能力和对齐能力。
而黑盒蒸馏可以通过大量调用 API,将这些高质量输出整理成训练数据,再训练自己的模型。因此,学生模型并没有复制模型的权重,但是它学习了教师模型已经表现出来的能力。
技术的灰色地带
对于 Kimi K3 蒸馏的指控,美国方面的技术依据是水印,美国财政部长贝森特说在中国模型里发现了美国大模型的水印证据。但是水印在技术上的争议很大,水印能够证明蒸馏行为的发生,却很难证明蒸馏是 Kimi K3 达到现有水平的主要原因,一个模型可以同时利用多种训练方法,蒸馏只是多个方法的其中之一。
眼下,人们对于蒸馏是否构成知识产权窃取一事,在技术上没有达成统一标准,Kimi K3 是否主要依靠蒸馏开发也尚无定论。
上述华人学者表示:“外媒报道没有披露水印的具体类型、检测协议、样本量、阈值或误报率。因此,外界目前无法独立评估这项证据的强弱。”
事实上,“水印”技术有很多种。
第一类是输出文本的统计水印。模型生成每个词时,根据秘密密钥(Secret Key)把候选词分成不同集合,轻微提高其中一组词被选择的概率。单句话看不出异常,但积累足够多的 token 后,可以通过统计检验发现偏差。
第二类是触发式模型水印。设计一组极少见的秘密问题,使教师模型稳定产生特殊答案;如果学生模型在这些问题上也出现同样反应,就可以推测它学习过教师输出。
第三类其实更接近“行为指纹”:特殊措辞、系统性错误、拒答模式、代码风格或罕见任务上的高度一致性。这类证据不一定是人为植入的水印,证明力通常也低于带有秘密密钥的主动水印。
一个更值得关注的技术背景是,部分模型厂商在流式输出中植入了加密的“思考签名”(Blob),其中包含了完整的原始思维链(CoT)。通过特定方式可让模型在后续对话中复述该思维链内容,进而对比学生模型在同类问题上的推理路径是否高度趋同。
但这类结果只能证明:嫌疑模型的训练过程很可能接触过某个带水印的数据源。它不能单独证明是否侵权。严肃的技术证据至少应公开更多技术细节。
总的来说,水印可以发现其中一条边,但仅凭一条边,不能解释整张网,更不能自动给出法律结论。
目前什么是合法蒸馏、什么是侵权蒸馏,在法律层面仍存在较大灰色空间。当前的边界主要由 API 供应商通过服务条款(ToS)定义,而非明确法律规则。例如,OpenAI、Google 和 Anthropic 等闭源模型厂商通常禁止用户利用其输出训练竞争模型。
若企业通过 API 大规模采集 GPT-4 等模型的输出,并用于训练商业化基础模型,可能被认定违反服务协议,面临账号封禁或违约诉讼风险。
但从法律角度看,AI 生成内容本身是否受版权保护仍存在争议,美国版权实践目前倾向于认为纯 AI 生成内容不享有版权。因此,厂商对蒸馏行为的约束更多依赖合同法,而对于未直接接受服务条款约束、通过公开渠道获取数据的第三方,这种约束能力仍较有限。
中国 AI 自主性已经比较高
那么,中国模型进步中,蒸馏和自主创新分别占多大比重?
上述华人学者表示:“我觉得很难给出一个百分比。不同模型、不同训练阶段的答案完全不同。对于明确标注为‘Distill’的小模型,蒸馏当然是主要能力来源。但对于完整的基础模型或旗舰模型,蒸馏无法替代大规模预训练和系统工程。”
要让蒸馏有效,首先必须有一个已经具备语言、代码、数学和工具使用基础的学生模型;否则它只能模仿一些表面答案,很难获得教师模型在新分布上的泛化能力。当下训练一个有竞争力的基础模型,仍然需要万亿级 token 的数据处理、分布式训练、优化器稳定性、并行通信、推理系统和评测体系。
这名华人学者指出,中国团队近年来公开的技术工作中,有相当多内容显然不是简单“调用外国 API”可以得到的。
例如,DeepSeek-V3 公开了 MLA、DeepSeekMoE、无辅助损失的负载均衡、多 token 预测、低精度训练和通信—计算重叠等设计;DeepSeek-R1 展示了直接从基础模型进行大规模强化学习的路线;Kimi K1.5 公开了长上下文强化学习、部分轨迹复用和长推理向短推理迁移的方法;Qwen3 则把思考和非思考模式、推理预算及大小模型知识迁移整合进同一套模型体系。
其继续表示,如果分层来评价的话,中国在模型算法、训练工程、推理优化和开源生态上的自主性已经比较高,绝不是只会套壳或调用外国 API。但是,我们依然需要区分“限制闭源模型 API 访问”和“扩大到芯片、云服务、模型分发及下游使用”两种情形。
未来如果只限制美国前沿模型 API,中国公司最直接的损失是高质量合成数据、教师模型和自动评测器。数学、代码、智能体和复杂工具调用等后训练环节会变慢,获取同等训练信号的成本会上升,受影响最大的将是那些缺乏自有教师模型、依赖外部 API 生成数据的中小团队。
蒸馏数据是训练信号,不是运行时依赖;已经训练完成并下载的权重仍然能够运行,但模型更新、能力补齐和低成本追赶会变得更困难。如果限制进一步覆盖先进芯片、海外云算力、官方模型分发、托管平台和美国企业采用中国模型,影响会大得多。
这时约束的不再只是蒸馏,而是训练、部署和商业生态的整个链条。尤其是开放权重一旦广泛传播,技术上很难彻底收回,但官方更新、云端部署、企业采购和开发者渠道仍然可能受到约束。
几天前,Axios 还报道了一条新闻,称特朗普政府内部正在重新讨论是否要加强对于中国开源模型的管控。
2025 年,美国商务部就曾考虑把多家中国 AI 公司列入实体清单,美国国家安全局和白宫网络总监办公室也曾讨论过通过发布安全警告来劝阻美国公司使用中国模型。但在当时这些提案被搁置了,不过随着 Kimi K3 的发布,上述讨论又重新开始了。
上述华人学者指出对于中国来说,技术上最重要的准备是建立独立研发链,包括但不限于:
首先,要建立自有旗舰大模型,允许内部合规蒸馏和自蒸馏;其次,要扩大可验证奖励训练,例如数学证明、编译器、单元测试、模拟环境和工具执行结果,减少对另一台闭源模型充当裁判的依赖;
再次,要建设不依赖闭源模型打分的独立评测体系,防止教师模型依赖被隐藏在“LLM-as-a-judge”环节;最后,要继续推进低精度训练、MoE、通信优化和国产加速器适配,以降低单位能力所需的算力。
一边是来自大洋彼岸的攻击,一边是使用者的拥趸,由于需求过于旺盛月之暗面一度暂停了新的订阅,这跟美国官员们的政策讨论形成了一种有趣的对照。美国华盛顿在讨论怎么挡住它,开发者却挤着要进来。关于蒸馏是否合法的讨论还会继续下去,但是 Kimi K3 的技术扩散却不会停下来。
之前美国政府限制 GPU 出口,是想卡住中国训练模型的能力。但是当模型已经训好、权重公开到全世界时,美国芯片管制的作用就会打折扣。现在美国又想限制模型本身的传播,但是模型一旦公开就会散落在各地,拦是拦不住的。
对中国 AI 产业来说,算力依然是需要解决的问题,然而 Kimi K3 的成功证明在算力受限的情况下,中国依旧可以做出接近世界顶尖水平的模型。而这场由 Kimi K3 引发的“开源 vs 闭源”路线之争,或许才刚刚开始。
参考资料:
1.https://www.axios.com/2026/07/22/nvidia-jensen-huang-china-open-source-ai
https://www.wired.com/story/the-white-house-is-trying-to-figure-out-what-to-do-about-chinese-ai/
https://techcrunch.com/2026/07/22/treasury-threatens-sanctions-after-white-house-claims-moonshot-distilled-anthropics-fable/
排版:胡巍巍
注:封面/首图由 AI 辅助生成