NPU，说白了就是芯片里专门给AI开的“专职车间”——CPU和GPU还得什么活都接，NPU从出生起只干一件事：算神经网络。别人是打杂的，它是专才。

为什么现在值得了解？因为你最近听到的几乎所有热词——AI PC、AI手机、端侧大模型、Copilot+电脑——背后都站着一个NPU。看懂它，你就看懂了这波AI浪潮里“离你最近”的那一层。

目录

1. NPU是什么？——芯片里的“专职车间”
2. 为什么最近这么火？——AI PC和AI手机把它捧上了C位
3. 一张图看懂——CPU、GPU、NPU的分工
4. 和我有什么关系？——普通人、从业者、投资者各看各的
5. 一分钟总结
6. 延伸阅读
7. 参考来源

一、NPU是什么？

NPU，全称 Neural Processing Unit，中文叫神经网络处理单元。神经网络是AI的基础计算方式，可以简单理解为“用海量乘法和加法堆出来的数学题”——AI识图、翻译、修图，底层全是在做这种题。

NPU就是一块只会做这种题的电路，塞在手机或电脑的主芯片里，和CPU住在一个屋檐下。

一个厨房类比

把芯片想象成一个后厨：

• CPU是全能大厨：中餐西餐甜点都会做，什么单都能接，但一次只能盯几个锅。它是芯片里的“管家”，负责系统调度、跑程序、处理杂事。
• GPU是百人大排档：上千个帮厨同时开工，最适合“同样的菜做一万份”—— originally 是为了同时点亮屏幕上几百万个像素而生的，后来发现AI计算也是“同样的题做一万亿次”，于是成了云端AI训练的主力。
• NPU是专用饺子机：只会包饺子，但包饺子这件事上，它又快又省电——一次包一排，馅料（数据）在机器里流动，出来就是成品。

AI的底层计算高度重复（绝大部分是“乘一下、加一下”的乘加运算），正好是“饺子”这种标准件。既然活儿这么单一，就没必要用全能大厨，直接上专用机器。

它解决什么问题？两个字：省电

手机和电脑最大的约束不是算力，是电池。用CPU或GPU跑AI，就像让全能大厨包一万份饺子——能包，但厨房得火力全开，电表狂转，机身发烫。

NPU的思路是两条：

1. 精度“够用就好”：科学计算要精确到小数点后很多位，但AI判断“这是猫还是狗”不需要那么高的精度。NPU普遍用低精度数字（INT8、INT4，可以理解为“打分只打整数”）来做计算，一道题的电费直接降一个数量级——就像裁判打分不写9.8732，直接打9.9，观众照样满意。
2. 数据少搬家：在芯片里，把数据从内存搬到计算单元所花的电，往往比计算本身还贵——好比工厂里“运原料”比“加工”还费钱。NPU把计算单元和内存排得紧紧的，让数据就地加工、流着算，省下大笔“运费”。

所以衡量NPU有两个指标：TOPS（每秒万亿次运算，算得多快）和TOPS/W（每瓦电换来多少算力，算得多省）。手机NPU的功耗只有几瓦，是“百瓦级”的GPU没法塞进口袋的根本原因。

顺带分清几个长得很像的词：CPU管杂务，GPU管并行大计算，NPU管AI，而DPU（上一篇讲过）是服务器里管数据进出和搬运的“后勤主管”——四个P-U各管一摊，互不顶班。

二、为什么最近这么火？

NPU不是新词。2017年，华为麒麟970成为第一款在芯片里冠名“NPU”的手机芯片，同月苹果发布A11仿生芯片，内置“神经网络引擎”支撑Face ID面容识别。但那之后好几年，NPU在手机里只是个“打杂小弟”：帮你把照片调亮点、听懂“喂 Siri”。

真正的转折发生在2024年，两件事把NPU推上了C位：

第一，AI手机集体爆发。三星Galaxy AI、苹果Apple Intelligence相继落地，通话实时翻译、AI消除路人、离线语音助手成了旗舰机标配。这些功能有个共同要求：低时延+数据不出设备——人脸、语音这些隐私数据要是在手机上原地算完，既快又安全。干这活的，只有NPU。

第二，微软给AI PC划了硬门槛。2024年5月微软发布Copilot+ PC标准，明确要求NPU算力40 TOPS起步，才配享受Windows的独家AI功能（系统级画图共创、实时字幕翻译、 Recall回顾搜索等）。高通骁龙X系列（45 TOPS）、英特尔酷睿Ultra（新一代约48 TOPS）、AMD锐龙AI 300系列（约50 TOPS）随即全部达标，苹果M系列芯片的神经网络引擎也一路加码。一夜之间，TOPS成了PC界的新“跑分”。

到2026年的今天，火势有三层：

• 换机潮：市场研究机构（Canalys、IDC等）普遍预测，NPU达标的AI PC将在2026年占到新出货PC的一半左右——PC市场沉寂多年后，第一次有了“全行业换理由”的叙事。
• 端侧大模型：量化压缩后的几十亿参数小模型（可理解为“瘦身版的ChatGPT”）已经能塞进旗舰手机，断网也能对话。模型在端上跑，NPU就是它的“宿舍”。
• 芯片军备赛：手机SoC、PC处理器、甚至汽车座舱芯片，发布会PPT上NPU算力必占一页。NPU从“附带功能”变成了卖点担当。

一句话：前几年是“AI在云上，NPU在打杂”；现在是“AI要下凡到你的口袋里”，而NPU就是接驾的那个人。

三、一张图看懂

你发出一个AI请求（比如“把这张照片里的路人抹掉”），芯片内部先做一道“派单”题：

flowchart TD
    A[你发出一个AI请求] --> B{这个活儿派给谁？}
    B --> C[CPU<br/>万能管家<br/>适合系统杂活]
    B --> D[GPU<br/>百人大排档<br/>适合云端大计算]
    B --> E[NPU<br/>AI专职车间<br/>几瓦低功耗]
    E --> F[照片美化<br/>离线翻译<br/>数据不出设备]
    D --> G[模型训练<br/>复杂推理<br/>需要联网上云]
    F --> H[毫秒级响应<br/>省电又保隐私]
    G --> I[算力强大<br/>但要上传下载]

看图记三个字：分着干。云端GPU管“大”，端侧NPU管“近”，CPU兜底管“杂”。云-边-端三层算力各司其职，AI才能又快又省地跑起来。

再补一张速查表：

四、和我有什么关系？

如果你是普通人：

• 换手机/电脑时，TOPS就是新的“核数”。想完整体验Windows的AI功能，认准NPU≥40 TOPS；买旗舰手机看芯片型号，基本都带NPU，差距在算力和能效。
• 隐私多了一道闸。人脸解锁、语音助手、照片分类如果走NPU在本地算，你的生物特征数据根本不上网——这是云端AI给不了的安心。
• 没网也能用AI。飞机上、地铁里，翻译、修图、语音转文字照样能用，因为车间就在你口袋里。

小白现在能做的三件事：①去官网查一下自己手机芯片的NPU算力，心里有本账；②下次买电脑，把“NPU多少TOPS”加进购物问题清单；③把这篇转给正准备换机的家人。

如果你是从业者：

• 新岗位在冒头：端侧模型部署、模型量化（把大模型“压缩打包”塞进NPU）、NPU算子开发与适配，是当前AI工程化的热门方向；各厂商的SDK（苹果Core ML、高通QNN、英特尔OpenVINO等）值得上手练。
• 通信人的视角：NPU是算力网络里的“端算力”毛细血管。端侧能算的越多，云侧流量结构就变——运营商的AI流量经营、边缘节点规划，都得把“端上分担了多少”算进去。

如果你是投资者：

看两条主线：一是AI PC渗透率曲线——机构预测的“2026年占比过半”是否兑现，直接决定换机周期成色；二是产业链配套——NPU对内存带宽和能效的要求水涨船高，存储、先进封装、电源管理等环节跟着NPU的军备赛一起升级。

五、一分钟总结

1. NPU是芯片里专门算神经网络的单元，只干AI这一件事，所以又快又省电。
2. 它靠“低精度+数据少搬家”两大绝招，把AI计算的电费打到GPU的零头。
3. 2017年在手机里出道，2024年借AI PC和AI手机翻红，40 TOPS成了PC新门槛。
4. 云端GPU管“大”、端侧NPU管“近”，AI的未来是云-端分工，不是谁取代谁。
5. 下次买手机电脑，记得问一句：NPU多少TOPS？

延伸阅读

• GPU：NPU的“前辈兼师兄”，同样擅长并行计算，为什么训练在云端还是它说了算？
• TPU：谷歌自研的AI专用芯片，NPU的“数据中心表亲”，脉动阵列架构的开山之作。
• 端侧大模型：几十亿参数的模型怎么塞进手机？量化和压缩的故事，和NPU是最佳搭档。

参考来源

1. Neural processing unit - Wikipedia — NPU的定义、发展沿革与架构基础介绍
2. Copilot+ PCs - Microsoft — 微软Copilot+ PC官方页面，40 TOPS NPU门槛的出处
3. Qualcomm Neural Processing SDK — 高通Hexagon NPU开发者资料，端侧AI部署的官方口径
4. Apple silicon - Wikipedia — 苹果M系列芯片与神经网络引擎的演进资料

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生（微信ID: gprshome201101）维护，聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主：爱卫生（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 星球定位：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 当前规模：5200 篇主题 / 990 个回答，198 元/年。 加入福利：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 AI 加持：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。