近存计算（Near-Memory Computing），说白了就是：把一小块“计算电路”搬到内存芯片的旁边，让数据不用再大老远跑到CPU那里打个来回，而是在内存边上就地算完、就地存放。为什么现在值得了解？因为AI大模型把“内存带宽”吃成了整个算力产业最贵的瓶颈，2026年各家最新AI芯片里，这项技术正在从学术论文走进量产产线——看懂它，你就能看懂今年一大半AI芯片发布会的潜台词。
先上一个生活化类比：你的电脑是一座工厂，内存是一个仓库。
传统计算机用的是冯·诺依曼架构（1945年定下的经典布局：负责算的和负责记的分开摆）。这就像工厂开在市区、仓库建在郊区，两者隔着三十公里。每干一点活，卡车都得来回跑：原材料拉过来、半成品送回去、再拉过来、再送回去……
平时日子还能过。但最近两年，工厂里来了一个吃饭特别凶的新伙计——AI大模型。它干活的特点是：每生成一个字，都要把几百GB的“知识存货”（模型权重，可以理解为大模型全部学过的东西）从仓库里整个过一遍。仓库门口那条路瞬间被堵死，工厂机器再快也只能干等。业内管这个叫“内存墙”（memory wall）：计算的速度涨得快，搬运数据的路却没拓宽，最后墙就撞在这条路上。
搬运到底有多贵？斯坦福学者Horowitz有个被引用无数次的经典测算：在45纳米工艺下，从内存搬一次32位数据的能耗，大约是CPU里做一次浮点加法的700倍（量级估算，不同工艺有出入）。一句话：电，大部分花在了路上，而不是干活上。
近存计算的解法，就是不搬了——在仓库门口加盖一间小作坊，把筛选、分拣、打包这类大宗简单活儿就地干掉，只有需要精密加工的才送去市区的工厂。数据和计算的距离从“三十公里”缩短到“隔壁”，路费油钱（功耗）和运输时间（延迟）双双大降。
这里要跟上一个热门名词划清界限：近存计算 ≠ 存算一体（上一期我们讲过存算一体，它副标题是“把工厂搬进数据仓库”——记忆点正好可以用上）：
| 存算一体（存内计算） | 近存计算 | |
|---|---|---|
| 思路 | 把计算电路塞进存储单元内部 | 把计算电路放在存储旁边 |
| 类比 | 工厂直接搬进仓库，货架就是流水线 | 仓库不动，隔壁加盖小作坊 |
| 类似学术说法 | Processing-using-Memory | Processing-near-Memory |
| 技术风险 | 高，常需要新存储器件，量产难 | 低，内存照旧用成熟工艺造 |
| 离量产 | 较远 | 近，产业界先落地的是它 |
在学术界，这两条路统称PIM（Processing-in-Memory，存内处理）门类下的两大分支，维基百科等资料也是按“近存（PnM）/存内（PuM）”来区分的。你可以记成：存算一体是激进的“拆迁重建”，近存计算是稳妥的“原址加盖”。正因为不动存储本身、软件硬件都好兼容，近存计算成了三巨头们现在就敢排产的那条路。
目前近存计算主要有三种落点：一是HBM堆叠里的基底裸片（下节细说，这是当下最热的）；二是内存条上的控制芯片——法国公司UPMEM曾经真的把成千上万个小计算核塞进普通内存颗粒里；三是CXL内存扩展卡（一种让服务器像插U盘一样“外挂”内存的接口）上附带计算能力。
近存计算其实是个“老idea”——冯·诺依曼瓶颈1950年代就有人念叨，90年代学术界热过一轮，UPMEM也折腾了多年，但始终没成气候：CPU厂不配合、软件要重写、谁都不敢当第一个。翻红，靠的是三件事。
第一件：三星开了第一枪（2021年）。2021年2月，三星在芯片设计顶会ISSCC上发布了业界第一款带AI计算能力的HBM-PIM芯片（HBM即高带宽内存——把内存芯片像千层饼一样垂直堆起来、紧贴GPU的显存）。三星官方数据：系统性能提升2倍以上、能耗降低70%以上，而且不用改任何软硬件。这份新闻稿至今挂在三星全球新闻室，是这条路线的标志性起点。随后SK海力士也在2022年发布了带计算引擎的GDDR6-AiM显存，并演示过用它做大模型推理加速。
第二件：AI推理把“内存墙”从论文问题变成了账单问题。大模型推理（就是你跟ChatGPT对话时它往外蹦字的过程）是典型的“内存带宽饥渴型”负载：GPU算力再强，也得等权重数据从显存里流过来。2025年起各家AI一体机卷“每秒吐多少字”，卷到最后发现卡脖子的不是算力是带宽——谁能少搬数据，谁就省钱。
第三件，也是最关键的：HBM4把“近存”写进了产品路线图。2025年4月，JEDEC（存储行业的国际标准组织）正式发布HBM4标准，单栈带宽达到2TB/s。它有个划时代的变化：HBM千层饼最底下那层“托盘”——基底裸片（base die），过去只是个搬运工（负责走线），HBM4开始改用逻辑工艺制造，台积电已经确定要替多家HBM厂商代工基底裸片。这意味着什么？托盘第一次可以塞进真正的计算电路了——存储堆叠自带“门口小作坊”，从设计上就是现成的。三星、SK海力士、美光三家在“定制基底裸片”上各押各的路，韩国媒体直接称之为HBM竞争的“隐藏钥匙”。2026年，AMD的MI400系列等首批HBM4产品已经上市。
再叠加一个背景：2026年内存正在大涨价——AI需求把DRAM价格在一年多时间里推高了200%以上，HBM产能还在挤占普通内存（美光说造一片HBM晶圆的产能相当于三片DDR5）。带宽越贵，“省带宽”的技术就越值钱。就这样，近存计算从学术圈的漂亮论文，变成了存储三巨头的产品路线图。
flowchart TD
subgraph OLD[老办法：数据跑长途]
A[内存<br/>郊区大仓库] <-->|来回搬运<br/>又慢又费电| B[CPU<br/>市区大工厂]
end
subgraph NEW[近存计算：门口开作坊]
C[内存<br/>郊区大仓库]
D[近存计算单元<br/>门口小作坊]
E[CPU<br/>市区大工厂]
C -->|几步路取货| D
D -->|简单活就地干| C
D == 复杂活才送厂 ==> E
end
OLD == 内存墙卡脖子 ==> NEW
看图记住三层关系就好：仓库（内存）本身没变，变的是门口多了一间近存计算单元——大宗的、重复的活（比如AI里最耗带宽的“把权重乘一遍”）就地干完，CPU只接手真正的精细活。数据不跑长途，电费和等待时间就省下来了。
如果你是普通人：AI手机、AI PC要真在本地跑大模型，续航和发热的胜负手之一就是“数据少跑路”。未来两三年换机，发布会说的“端侧AI性能翻倍”背后，大概率就有近存计算的功劳。你不需要买任何东西，但下次再刷到“HBM4”“PIM”这类新闻，你能看懂一半——这就够了。
如果你是从业者：通信和IT工程师要留意，智算中心、算力网络的服务器选型正在多一个新指标——算存比（算力与内存带宽的配比），只看FLOPS（每秒浮点运算次数）不看带宽，选出来的机器跑推理会翻车。芯片与存储方向的岗位（HBM封测、先进封装、存储控制芯片设计）需求肉眼可见地上涨；写代码的同学，近存/存内架构上的数据库和向量检索加速也是值得关注的新方向。
如果你是投资者：存储产业链的HBM和先进封装环节是2026年的明牌热点，近存计算是其中“从0到1”的弹性部分。但要清醒：技术路线远未收敛——近存和存内两条路还在赛跑，三家的基底裸片方案也各不相同，别把任何一条单一路线当成确定性。
小白现在就能做的三件事： 1. 转发收藏这篇，下次看到HBM4或AI芯片发布会的新闻，回来对一遍，黑话就不黑了； 2. 看一篇原文：去三星全球新闻室搜“HBM-PIM”，读一下那份2021年的官方新闻稿，感受大厂如何描述一项新技术； 3. 留意一个职业信号：在招聘网站上搜“存储芯片”“HBM”“先进封装”，看看需求和薪资——如果你或家人在选专业方向，这是很实在的参考。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生（微信ID: gprshome201101）维护，聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主：爱卫生（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 星球定位：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 当前规模：5200 篇主题 / 990 个回答，198 元/年。 加入福利：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 AI 加持：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。