存算一体，说白了就是：把“算账的地方”搬到“存东西的地方”里面去，让数据不用再来回跑腿。
打个比方：传统计算机像个布局古板的老工业园——仓库（内存）在城东，工厂（CPU/GPU）在城西。每天几千辆货车（数据总线）在两城之间来回运货，运费比加工费还贵，高速路还天天堵。存算一体干的事，就是把小作坊直接搬进仓库：货在哪个货架，就在哪个货架旁边加工，运费省了、路上时间省了、整个园区的电费也省了。
为什么现在值得了解？因为这轮 AI 大模型浪潮，把“数据搬运费”打成了天价——显卡再快，也常常在“等数据到位”。全球最会攒芯片的三星、SK海力士，和一整批创业公司、顶尖高校，都在把“存算一体”从论文变成产品。它是少数几个还没大爆发、但方向几乎所有人都在下注的名词。
要看懂存算一体，得先知道它“反”的是什么。1945 年，数学家冯·诺依曼定下了现代计算机的基本图纸：算的地方（处理器）和存的地方（内存）分开，中间用一条通道（总线）连起来。数据就像原料，不断在仓库和工厂之间往返。这 80 年来，从大型机到手机，底层布局基本没变过。
这个布局在以前没问题，但有两个隐患，今天全爆了：
平时你感觉不到它，因为你刷微信、写文档，数据量不大。但 AI 大模型一来，一切都变了。
大模型推理（就是你在手机上问 AI 问题、它一个字一个字往外蹦的过程）有个特点：几乎每算一步，都要把整个模型的参数从内存里过一遍。一个几十亿参数的模型，意味着每生成几个字，就要从仓库里搬出几十 GB 的货。
于是出现了荒诞一幕：你买的显卡，算力账面上强得吓人，实际跑大模型时却大量时间在等数据——工厂里机器空转，工人都盯着门口等货车。业内管这叫“访存受限”。你听到的“HBM 卖到缺货涨价”“显存带宽决定 AI 性能”，全都是内存墙在发威。
怎么破局？思路很简单：既然搬运太贵，那就别搬了，把计算搬过去。按“搬家距离”从近到远，存算一体其实是一个家族：
1. 近存计算（PIM，存内处理）——在仓库门口开个分拣台。 计算单元还没进仓库，但已经贴着内存颗粒放了。代表是三星 2021 年在 ISSCC（国际固态电路会议，芯片界顶会）发布的 HBM-PIM——把 AI 运算单元直接塞进了 HBM 显存颗粒（HBM 是一种堆叠起来的超高速显存，可以理解为“立体仓库”）内部；SK海力士 2022 年也发布了类似的 GDDR6-AiM。这样大部分数据在仓库门口就能就地处理，不用再进城。
2. 数字存内计算——给货架装上计数器。 在 SRAM（一种极快的缓存内存，可以理解为“手边的随身货架”）存储单元旁边，加一点轻量逻辑电路，边存边算。精度和传统数字电路一样可靠，是目前学术和产业界都很多实的路线。
3. 模拟存内计算——货架自己会算账。 这是最激进的一条：让存储单元本身参与计算。最典型的是用忆阻器（RRAM，一种“记得住自己通过了多少电”的新型元件，可以理解为“有记性的电阻”）：把数据存成电阻值，然后一通电——欧姆定律（电压÷电阻=电流）天然就在做乘法，同一列上的电流叠加天然就在做加法。一整个矩阵乘法（AI 计算里最核心、占九成工作量的运算），一步到位。相当于把乘加运算直接“写进了物理定律里”。
一句话记住这个家族：近存计算是“仓库门口设作坊”，存内计算是“货架自己会算账”，前者保守稳妥，后者激进省电，中间还有一条务实的中间路线。
训练和推理大模型的成本里，大头越来越多地花在“数据搬运”上。业界一个广为流传的观察是：大模型推理中，真正做计算的时间占比越来越低，搬运数据反而成了主角。这就是为什么这两年“HBM 一货难求、价格暴涨”“显存带宽成为大模型性能第一瓶颈”频繁上新闻——大家都在用各种办法绕内存墙，而存算一体是最釜底抽薪的那条：既然绕不过去，那就把墙拆了。
这不是纸上谈兵。前面提到的三星 HBM-PIM、SK海力士 GDDR6-AiM，都是巨头用量产工艺做出来的真芯片，并且在后来的 HBM 迭代里持续演进这个思路——存储厂从来只能卖“仓库”，存算一体让他们第一次能卖“带加工服务的仓库”，商业想象空间完全不同。可以留意：存储三巨头（三星、SK海力士、美光）在 HBM 上的竞争越激烈，PIM 类特性就越可能被当成差异化的杀手锏。
数据中心可以堆电、堆散热，但你的手机、手表、耳机不行。AI 手机、AI PC 要常驻一个“小模型”随时待命（帮你摘要、修图、听懂语音），功耗预算可能只有一两瓦——这种场景下，数据搬运的能耗占比更夸张，传统架构几乎算不过来这笔账。存算一体省掉搬运、能效比传统芯片高出一个数量级以上，恰好是端侧 AI 最渴的那种技术。国内这批年的创业公司——做 Flash 存算的知存科技、做数字大算力的后摩智能、做 ReRAM 数字存算的亿铸科技等，以及高校里的海量论文，瞄准的多是这类场景。
每年年初的 ISSCC 会议上，存算一体（Compute-in-Memory）相关论文数量连年攀升，几乎成了固定热点板块。一个方向在顶会持续升温，通常意味着它正处在“从实验室走向量产”的爬坡期——类似 2015 年前后的 AI 芯片。
当然也要说清楚：它火，不代表它明天就能取代 GPU。模拟路线的精度、温漂（温度一变电阻就漂）、良率问题，数字路线的密度问题，以及整个软件生态要从零建（现有 AI 框架默认“计算存储分离”，存算一体的编译器、算子库都得重写），都是硬骨头。业内共识是：它先吃下端侧和边缘的特定场景，再逐步向上渗透。
先看传统架构为什么难受：
flowchart TD
A[内存仓库<br/>存着海量数据] -->|货车来回运| B[总线通道<br/>又窄又堵]
B -->|继续运| C[GPU工厂<br/>算力空转等货]
C -->|算完再运回去| B
B -->|再运回仓库| A
再看存算一体的思路——计算搬到存储那边，货不动、作坊动：
flowchart TD
A[数据搬运贵<br/>内存墙越筑越高] --> B[存算一体<br/>把计算搬进存储]
B --> C[近存计算PIM<br/>仓库门口设分拣台]
B --> D[存内计算CIM<br/>货架自己会算账]
C --> E[HBM-PIM<br/>三星与SK海力士]
D --> F[数字路线<br/>SRAM加计数器]
D --> G[模拟路线<br/>忆阻器借物理定律]
看懂这张图，你就看懂了这个赛道的主要玩家分布：越往上（近存）越像传统芯片、越好落地；越往下（模拟存内）越颠覆、越省电、也越难做。
如果你是普通人： 三年内你最可能感受到它的地方是续航和隐私。存算一体的芯片先在耳机、手表、摄像头这类“电池小、要一直听一直看”的设备里商用（语音唤醒、健康监测都是它的小菜），你的设备会更耐用、响应更快；AI 手机普及后，更多 AI 功能能在本机离线完成——数据不出手机，隐私更安心。
如果你是从业者： 这里在长出新岗位。芯片侧缺模拟电路设计 + AI 架构的复合人才（模拟设计是老手艺，但懂 AI 负载的人稀少）；软件侧缺给新架构写编译器和算子库的人——存算一体的软件栈是真空地带，先入场的人踩的都是无人的坑。搞通信、搞网络的同学也值得留意：未来边缘机房里的“推理盒子”，很可能就是存算一体芯片，省电就是省机房电费。
如果你是投资者： 记住三条。一，这是个确定性方向、不确定性路径的赛道——方向（省搬运）全行业下注，但最后是 PIM、数字 CIM 还是模拟 CIM 跑出来，没人敢打包票；二，警惕“论文强、产品难”的落差，模拟存算的演示视频和量产交付之间隔着良率、精度、生态三座山；三，大厂（存储三巨头）走的是渐进式 PIM 路线，落地概率最高，创业公司则在高风险高赔率的路线上搏杀。
小白现在能做的三件事： 第一，把“内存墙”这个词记下来，下次看芯片新闻你会发现一大半热点（HBM 涨价、大显存显卡、推理加速）都是在跟它搏斗；第二，关注 ISSCC 每年的存算一体板块和存储三巨头的 HBM 新品发布，这是赛道风向标；第三，如果你是学生或想转行，模拟 IC 设计和 AI 编译器这两个方向的交叉人才，未来三五年会持续稀缺。
注：本文写作时未能联网核验 2026 年最新产品动态，涉及“最新进展”处均采用行业公认、可长期回溯的确定性事实（三星 HBM-PIM、SK海力士 AiM 等已发布产品与端侧 AI 趋势），未虚构近期新闻事件。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生（微信ID: gprshome201101）维护，聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主：爱卫生（微信：gprshome201101）——公众号「51学通信」创办者，19 年通信行业运维与讲师经验，著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书（各大电商平台有售）。 星球定位：深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域，主打运维岗位与信令分析。 当前规模：5200 篇主题 / 990 个回答，198 元/年。 加入福利：加入星球后请加爱卫生微信，拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题，另有群内分享。 AI 加持：51学通信知识星球已作为 skill 接入 WorkBuddy，使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例，做总结、找文档和 PPT 等场景全覆盖。