(来源:中智观察)
元空智能创始人、CEO逄大嵬——这个连续创业者,自从加入AI创业大军的那一刻起,就一直有个梦想:努力把“端侧AI”从一个技术概念,变成一个AI产品的新品类。
9月3日,他终于让这个梦想在产业界真正落地。元空智能与惠普当天在上海联合发布会,主题就是“AI,在本地发生”。
发布会现场,逄大嵬提出了一个更大胆的判断:
“我们今天不是简单发布一款端侧模型,我们是在重新定义端侧AI。”
我对逄大嵬的这个判断非常注意。它甚至是我整场发布会印象最深的一句话。
因为在经历了AIPC的高调与低谷、AMD AI mini工作站的热潮之后,我一直对端侧AI的落地性与发展状况抱着非常大的兴趣。
并且我相信,包括我在内的很多业界同仁,在理解端侧AI时,往往都很简单,就是把模型压缩得足够小,然后装进手机、PC、IoT设备。
在端侧设备上能把大模型跑起来,就是端侧AI。
但逄大嵬认为,这样理解太简单,因为“这样的AI没有创造生产力”。
端侧AI,这个新品类不单是把大模型装进电脑
元空智能为什么一直押宝端侧AI?
逄大嵬非常清楚地知道,云端大模型、云端AI存在三大现实问题:数据安全——企业和个人的敏感数据都要上传云端;成本——Token费用随着使用量增加,已经进入企业财务报表;稳定性——长任务跑到一半中断,无法保证持续可预期的输出。
因此,逄大嵬一直非常坚定地相信,“AI的下一站,不在云端,在本地。”
为什么过去两年端侧AI一直没有真正爆发?
“因为过去的所谓“端侧AI”没有创造生产力,没有为客户创造价值。”
为什么没有创造生产力?
逄大嵬给出的答案很直接:三个条件过去没有同时成熟——模型能力、Agent能力和芯片算力。
现在情况变了。
模型越来越小,但智能密度越来越高;Agent的任务编排和执行能力越来越强;CPU、GPU、NPU等端侧算力也在快速提升。
三条曲线交叉,端侧AI才真正迎来窗口期。
因为,这个交叉点的出现,意味着一个困扰端侧AI最关键的问题有可能得到解决:
以前的端侧AI,只能跑大模型,不等于能干活。现在有可能更进一步,不仅能跑通大模型,还能干活。
端侧 AI 的答案
逄大嵬用一个方程式很形象地做了表达。
生产力=端侧AI=模型 X Agent X 设备。
模型是“大脑”;
Agent是“脚手架”,负责把模型变成真正能够执行任务的能力;
设备则是最终的交付载体。
第一个要素——模型
这便是在此次发布会上首次公开的元空自研端侧大模型Boxer。
逄大嵬把任务复杂度、模型参数量和生产成本放在一起衡量,认为真正能够规模化交付生产力的,并不是无限追求大模型,也不是一味追求极小模型,而是处于一个合理平衡区间的中等规模模型。
将20B—100B模型视为更适合生产力交付的区间。Boxer就是定位在这个区间的端侧大模型。
第二个要素——Agent
这便是元空智能在此次发布会上同时推出的两大端侧智能体:元空AI Work Agent和AI 4Science Agent。
一个面向工作,一个面向科研。
元空AI Agent,也有两个让我觉得他们和腾讯WorkBuddy、豆包工作、千问办公等大厂的Agent相比也非常有独特优势的地方。
一个是元空智能联合创始人、北京大学姚佳雨博士在会上介绍他们独特的Memory技术,并为Agent打造的“持续认知系统”。这是他们在AI工程化方面的一个非常重要和极具战略性的创新。
元空智能的另一位联合创始人、北京大学宁鲲鹏博士在元空AI Work Agent的演示时展现出来的独特能力:
在完全断网环境下,元空AI Work Agent能直接连接本地数据库,读取销售、库存、价格、折扣等数据,完成指标计算、商品诊断、渠道分析,再生成动态看板、经营分析报告和PPT。
这完全已经不是AIPC时代,“AI帮你写几句话、出个主意”,而是“AI直接进入企业的数据和工作流程,直接给你干活!”
第三个要素——设备
这便是在元空智能在此次发布会和惠普达成的战略合作。
逄大嵬在发布会上反复强调一个词:生产交付。
他说,什么叫生产交付?不是现场演示一次。而是:
真的卖出去、装进去、交付给企业、稳定运行,出了问题还能找到人。
元空智能负责标准化的端侧AI大模型、Agent和AI应用,惠普负责设备、渠道和FDE式的服务交付。
在惠普的Z系列商用PC和工作站的机器中,已经预装元空AI的端侧大模型Boxer和Work Agent,并且实现完全的开机即用。
要做端侧AI开箱即用,这并非简单就能做到。据逄大嵬透露,元空智能和惠普双方团队在研发、产品等方面进行了深度合作,做了非常多的适配与优化。有了这样的产品技术合作基础,才能保证元空智能和惠普联合发布的端侧AI解决方案,不再只是软件下载安装,而是开始进入标准化硬件交付。
发布会现场还展示了一个非常有意思的方案:一个企业中,不用每个员工都买一台新的AI PC。用目前用的PC,接入惠普ZGX Nano G1n AI工作站,就能享受端侧AI的各种Agent应用。
更关键的是,如中国惠普有限公司副总裁、大中华区个人信息产品事业部总经理周信宏所说,惠普不仅仅是和元空智能合作推出了开箱即用的端侧AI电脑与工作站,惠普还会依托自身覆盖全国的销售体系、服务体系,以及众多的现有客户,立即对这些产品开始全面推广和销售。
“某种程度上,惠普就是现在大家所热议的FDE,解决了端侧AI在企业落地的最后一公里。”周信宏认为,过去解决AI落地的最后一公里很难。现在,通过惠普和元空智能创新性的合作,这成为了现实。他相信,端侧AI市场会很快迎来爆发式增长。
最近中国软件网一直在关注端侧AI的发展状况,元空智能的创新理念、技术与产品,让我判断一家企业是不是真的在做端侧AI,有了三个最重要的指标:
第一,AI能不能真正干活。
不是聊天、总结、润色,而是完成长链路任务。
第二,AI能不能真正落地。
不是实验室Demo,而是进入企业、工厂、实验室等真实生产环境。
第三,AI能不能真正规模化交付。
不是给客户部署一个模型,而是把模型、Agent、设备、Memory和服务打包成标准化产品。
这三个条件缺一不可。
否则,所谓端侧AI,很容易重新变成一轮“把模型装进设备”的技术竞赛。在我看来,这也是今天元空智能提出“端侧AI新品类”真正值得关注的地方。