两年前，AI创业的关键词还是“百模大战”。从通用大模型到行业模型，参数规模不断刷新纪录，融资金额屡创新高，市场一度形成“谁不做大模型，谁就会被淘汰”的共识。

但近阶段，风向正在发生明显变化。无论是在硅谷，还是在国内创投圈，纯粹以“再做一个大模型”为核心卖点的创业项目，正快速降温。取而代之的，是轻量化小模型、AI Agent以及设备端（On-Device）AI等方向。

这并非技术热情消退，而是一场由成本、商业化和资本逻辑共同驱动的理性回归。在2026年的国际消费类电子产品展览会(CES)上，这一趋势尤其明显。第一财经独家采访了设备端（On-Device）AI创业公司Aizip的联合创始人陈羽北。他是典型的在美华人工程师代表，曾于清华大学和加州大学伯克利分校分别获得学士和博士学位，如今在加州大学戴维斯分校任教并进行创业项目。

陈羽北表示，设备端AI正在成为创业公司的新赛道。通过“用大模型生成小模型”的方法，通过收集数据、购买数据和大模型蒸馏三种途径获取所需数据，使AI能够直接在终端设备上运行，无须依赖云端或网络。这种模式不仅降低了成本，也保证了数据隐私，并使智能应用能够快速落地。当前，这一设备端AI模型已经在多个终端品牌落地，与全球多家头部硬件厂商展开合作，包括软银、ARM、Microchip等知名上市公司。

不再死磕算力、效率先行

2025年12月，OpenAI的CEO山姆·奥特曼（Sam Altman）发出“红色警报”（Code Red），要求公司加速推进在ChatGPT方面的工作，推迟其他产品的开发，以应对来自谷歌Gemini3等对手的挤压。

尽管大模型之战越发白热化，但进入该赛道的竞争者不增反减，行业的共识也逐渐形成，这将成为几个资本雄厚的巨头之间的争夺。

多位参与CES的风投圈人士和AI企业创业者对第一财经表示，大模型已经成为一场高度资本密集型的竞赛。千亿参数模型的单次训练成本动辄数千万美元，而推理阶段的算力消耗同样惊人。随着GPU价格高企、云算力账单持续攀升，大模型的“边际成本”并未如预期般快速下降。

对于创业公司而言，这意味着两点现实压力：资金消耗速度远超传统软件创业；即便模型性能提升，商业化路径仍高度不确定。多位投资人私下直言，大模型项目正在变成“技术上成立，但财务模型难以自洽”的典型案例。

于是，更多资本和AI创业者将目光投向轻量化模型和AIAgent（AI智能体），Aizip也是其中之一。尽管大模型缩放定律，即scaling law，训练数据和模型参数越大，模型的智能越强，这仍然有效，但AI从业者也认识到了不死磕算力的关键性。

陈羽北表示，博士毕业后，他意识到自己在工程能力上尚有短板，于是选择加入Yann LeCun的团队，在Facebook AI Reserch以及纽约大学从事博士后研究，这段经历也帮助他补齐了模型工程化与规模化模型训练方面的能力。

“当时，我们能直接使用每次训练配备512张V100显卡的大规模算力。我们写一篇论文消耗的计算资源可能就要花上百万美元。scaling确实有效——更多的数据、更大的模型以及更直接的优化通常能带来性能提升，但并非总是成正比。”他称。

比如，数据规模扩大300倍，模型性能可能只提升个位数的百分点。这让他开始反思数据质量、模型结构、工程严谨性等因素的实际影响。换句话说，有了充足资源后，才真正知道哪些研究方向值得投入，哪些在资源有限时可以回避。

事实上，近年来，很多AI创业公司盲目推高模型规模，资源已经用到极限，却很难再从scaling中获得突破。于是，陈羽北也越发认为，要尊重scalinglaw，但不能迷信它。“特别是在创业时，我们的思路是反向而行的——不是做更大，而是做‘全球最小、最高效’的AI系统。这和主流强调通用人工智能（AGI）、取代人的方向并不一致。”他说。

设备端AI萌芽

在这一背景下，设备端AI已经成为全球AI界颇为热门的新兴方向之一。

简单来说，设备端AI直接跑在手机、笔记本、相机等设备上，不依赖云，甚至不需要互联网。其特点在于，轻量化模型适合本地处理少量数据，响应快，低延迟。数据不出设备，更安全。以我们熟悉的应用为例，手机拍照自动美颜/夜景增强。iPhone上的Siri或照片识别。智能门锁或家用机器人做语音/图像处理。

陈羽北表示，专注于设备端AI的Aizip本质上是一家纯软件公司，只做AI模型的研发，本质上是在大模型的基础上训练、生成适合于各种垂直小模型。同时，创业团队对硬件有非常深的理解，联合创始人过去创立的公司曾服务于Apple等客户。

“设备端AI模型的训练，主要通过收集数据、购买数据和大模型蒸馏三种途径，同时也要评估数据合规性，使用高质量产品级数据。”他称，尽管目前专注的是本地化智能赛道，但也会对标Gemini等最优越的模型，在细分应用上追求达到或超越其性能，可利用视觉语言模型(VLM)。尽管scalinglaw仍然有效，但在需求明确的应用上，大模型scalinglaw可能会逐步失效。

据第一财经观察，当前三类应用场景的商业化前景已经颇为突出——卡拉OK声音解决方案、智能摄像头、智能唤醒助手。

以卡拉OK声音解决方案为例，在传统的卡拉OK或在线唱歌应用中，用户往往只能使用原版伴奏或在线处理，而端侧解决方案能够直接在用户设备上完成声音分离，即识别歌曲中的人声部分，并将其消除，只保留背景音乐。无须上传歌曲到云端或依赖在线计算。

再以智能摄像头为例，端侧识别与安全报警的功能也具备商用前景。AI解决方案使得摄像头能够在设备端完成复杂的图像识别任务，例如区分来访人员身份，是快递员，还是潜在的偷取快递的陌生人，并实时提醒无法全程监控环境的用户，如果识别到异常行为，摄像头能够自动发出报警信号，提示用户采取措施。对家庭、社区和物流企业来说，这种模式具备实时性、安全性和隐私保护的三重优势。用户无须担心摄像头数据被传到云端或被第三方访问，同时能够在第一时间获得安全警示。

陈羽北表示，客观来说，目前真正的设备端AI革命尚未到来，不过市场热度比之前更高，从产品化、落地和客户需求能看出，进入真实产品场景增多。未来发展的催化剂在于，有更多刚需应用，如智能手表语音能力、婴儿监控摄像头等，能培养用户习惯，且注重隐私保护，将AI能力放到本地。

他也坦言，当前行业对AI模型训练人才和算力需求依然极高，华人工程师在AI浪潮中更是扮演了关键角色，这也源于他们本身的优势——数理基础好、工作努力，学新技术速度快，解决工程类问题能力强，在既定赛道发展较快。相比之下，美国的顶尖工程师亦有自己的特长，他们的思想则更不羁，更敢进行打破常规的想象，在创造新路线方面更有创新思考能力。

(本文来自第一财经)