这张图谱怎么分的
「端侧」= AI 模型直接在手机、电脑、车机、耳机、摄像头这些设备上跑,不发到云端。这张图收四类玩家:做端侧小模型和语音模型的,做推理框架和运行时的,做设备里 NPU 芯片的(只列代表),以及手机和电脑厂商的系统级端侧方案。参数量、支持设备、端侧格式、开源协议做成筛选字段。
骨架出处
没有找到海外 VC 公认的「端侧生态分层」框架(别人画过的相关地图收在 海外图谱),骨架照国内官方报告,英文用一张端侧专题图对照:
| 用在哪 | 出处 | 它怎么分 |
|---|---|---|
| 主骨架:四个大框 | 中国信通院人工智能研究所 + 中国人工智能产业发展联盟《端侧智能产业发展报告(2026 年)》(2026-10) | 技术体系五层:智能硬件层 / 基础软件层 / 端侧模型层 / 端侧应用层 / 端侧安全信任层。本图做前四层;安全信任层候选公司太少,暂不单做。 |
| 英文对照 | Captur《The Edge & On-Device AI Landscape (April 2026)》 | 五桶:Edge hardware / On-device LLMs / On-device infrastructure / Edge AI applications / Adjacent infrastructure;并强调 on-device 是 edge 的子集。 |
| 语音单列一格 | 智次方研究院《中国端侧 AI 全景图谱报告》(2025-07) | 「芯 / 模 / 端 / 智」四块,模型下面语言、视觉、语音分开。本图把端侧语音拆成识别、合成、全双工 / 唤醒词三层。 |
| 横切字段:设备等级 | Abou Ali 等《Edge Artificial Intelligence: A Systematic Review…》(arXiv 2510.01439,2025-10);MLCommons MLPerf Tiny / Mobile | 按部署位置和设备等级(MCU → 手机 / PC → 边缘盒子)分,本图做成「支持设备」筛选。 |
Qualcomm《The future of AI is hybrid》讲的是云端和端侧怎么分工,不是分层法,放在 VC 观点 里当立场文对照。
四框十四层各是什么
每家写了哪些字段
- 主体:创业公司 / 大厂产品线 / 开源组织 / 研究机构。
- 模态:语言 / 语音 / 多模态 / 视觉;框架、芯片、方案写「通用」。
- 参数量:模型主打的几档(如 0.35B / 1.2B / 2.6B),出处是官方模型卡或官网。筛选按「1B 以下 / 1–4B / 4–10B / 10B 以上」,一家有几档就落进几档。
- 支持设备 / 芯片:官方写明能跑或做了优化的设备(iPhone、Android、Mac、Windows、Jetson、树莓派、MCU、车机、浏览器)和芯片(Apple ANE、Hexagon、Intel NPU 等)。
- 端侧格式:GGUF、ONNX、MLX、Core ML、LiteRT、QNN、ExecuTorch 等现成格式。
- 开源协议:开源(Apache-2.0、MIT 这类)/ 开放权重(权重能下载但有使用限制,如 Llama、Gemma 条款)/ 闭源。
- 基准数据:1–3 条,带出处。语音识别优先用 Hugging Face Open ASR 榜的平均 WER,小模型用 Artificial Analysis 或官方模型卡,芯片写 TOPS 等官方数字。没查到就不写。
收录范围和口径
- 模型层收能在设备本地跑的模型:语言模型大致 10B 以下;主线在云端、没有端侧产品的不收(如 ElevenLabs、AssemblyAI、Cohere)。
- 芯片只列代表;和 存算一体芯片图谱、AI 硬件图谱 交叉的,卡片上有链接。整机品牌不收,设备端方案只收系统级的端侧 AI。
- 中国和海外都收,用「地区」筛选。
- 每家公司的融资、估值、参数量、协议、基准都另外查证,附出处;没查到的写没查到,不推测原因。只用公开资料。
- 估值 = 最近一轮投后或报道值;「≈ 估」= 没公布估值,按最近一轮融资额 × 5 估算;大厂产品线、开源组织不估。人民币、欧元只在排序和估值柱里折成美元,卡片照原文写。
- → 表示被谁收购,· 表示哪家大公司的产品线。全部交易见 收购时间线。
- 机器可读数据和给 AI 的说明:给 AI 读、llms.txt、data/map.json。不构成投资建议。