VC 和分析师怎么看端侧 AI

  1. 小模型的用量是在涨还是在跌? 看涨:a16z《Small, But Mighty: On-Device AI》(2024-12)说设备上运行的小模型会在使用量和部署量上领先,大模型也许仍赚更多收入;Marc Andreessen(2026-01)设想一个金字塔,数量最多的是底层的小模型,大模型的能力 6–12 个月后会被压进小模型。看跌:a16z 和 OpenRouter 的 100 万亿 token 研究(2025-12)显示开源模型里 150 亿参数以下的小模型份额持续下降,用户要么选中型、要么集中到最强的大模型;Menlo Ventures(2026-11)的企业调研里,小闭源模型的 token 占比从 29% 降到 13%。口径不同:后两份数据都是云端 API 的调用量,a16z 报告写明不含本地部署,所以它们说的是「云上没人用小模型」,不能直接推出「端侧不行」。
  2. 端侧、云端还是混合? 纯端侧:Index Ventures(2024-12,投 Cartesia)和 Moonshine 的投资方(2025-07)强调本地运行带来的隐私、低延迟和离线能力。混合:Uncork(2026-02,领投 Mirai 种子轮)说最佳形态是设备与云之间的智能路由;ZVC(2026-02)说未来不是全云也不是全端,但实时交互场景里端侧占比会出乎意料地大;Qualcomm Ventures(2026-02)说云边结合的混合架构已成必需。偏云:Bessemer《Roadmap: Voice AI》(2024-11)对更小的模型很兴奋,但理由是延迟和成本,没讲本地运行;Kleiner Perkins(2025-03)写 Cartesia 全文没提设备端,而同一轮的 Dell Technologies Capital 强调 Cartesia 的推理栈「云端和设备上都能跑」——投同一家公司,看点不同。
  3. 端侧是不是来早了? Uncork 在 2026-02 的文章里自己承认,2018 年投端侧 ML 平台 Fritz「早了八年」,当时没有足够高价值的场景;这次押 Mirai 是因为口袋里的设备已经能跑像样的模型、云推理又太贵。Argmax 创始人在 Salesforce Ventures 的访谈(2024-11)里说端侧推理的窗口 2025 年才开,风险是没有强玩家突破局限,市场就长不大。
  4. 壁垒在芯片还是在软件? TDK Ventures(2025-11,投 EdgeCortix)说 5–30 W 的「厚边缘」里最耐久的壁垒是编译器和运行时,硬件优势能撑多久是风险;Activant(2024-03)说边缘推理是新进入者唯一现实可竞争的芯片市场。收购也印证了软件层的价值:Qualcomm 买 Nexa AI 和 Edge Impulse、Hugging Face 买 ggml.ai,买的都是运行时和开发工具(见收购时间线)。
  5. 「小模型」是端侧还是企业私有云? Emergence(2024-07)、Flybridge(2024-01)投 Arcee、Forgepoint(2025-06)投 Multiverse,看好的「小模型」主要是企业在自己的 VPC 或机房里部署,图谱判断为「部分」一致:模型变小这件事一致,但不一定跑在设备上。

给图谱的更正和提醒

怎么读