概述:2025年10月27日,高通官方新闻稿宣布AI200与AI250两款机柜级AI推理方案:前者2026年商用,单卡搭载768GB LPDDR内存;后者采用近存架构,宣称注意力算子能效提升最高10倍。沙特AI公司Humain成为首个锚定客户,首期部署规模200兆瓦。本文回答三个问题:高通为什么要离开舒适区闯进数据中心?768GB内存的推理方案凭什么和英伟达掰手腕?这单生意对通信行业的机房、液冷和光互联又意味着什么?
先看高通的基本盘。高通的收入大头来自QCT芯片部门,其中手机SoC和基带贡献了最大的份额,其次是汽车(Snapdragon Digital Chassis数字底盘平台)和IoT。这套结构在过去五年遭遇了三重挤压,而且每一重都是结构性的、不可逆的。
第一重是苹果的自研基带。2025年2月,苹果搭载自研C1基带的iPhone 16e上市,这是苹果自2019年收购英特尔基带团队后交出的第一份答卷。按照高通自己在2024年投资者日给出的假设:到2026年发布的iPhone上,高通基带份额将滑落到20%左右。换句话说,最肥的那块肉正在被客户一口一口吃回去。
第二重是安卓阵营的分摊。三星Galaxy系列长期在自家Exynos与高通骁龙之间双源采购,华为被禁运后又永久失去了一个年出货上亿的大客户。手机SoC市场的增量故事已经讲完,剩下的是存量博弈——联发科在中高端步步紧逼,高通守成有余、扩张无门。
第三重才是真正的催化剂:AI推理市场在2025年进入了“推理超过训练”的拐点。训练是少数巨头的游戏,推理却是千行百业的日常开销——每一个AI应用上线,背后都是持续烧钱的推理算力。推理市场的客户面比训练宽一个数量级,而且对成本的敏感度极高,这正是“能效”这两个字刻在基因里的高通最想打的市场。
于是有了2025年6月的铺垫:高通宣布以约24亿美元收购英国连接IP公司Alphawave Semi,看中的就是后者高速SerDes(串行解串器)IP——这是芯片间、机柜间高速互联的地基技术,数据中心芯片没有它就寸步难行。四个月后,AI200和AI250落地,高通的第二曲线正式押注。
市场用真金白银投了票:据CNBC行情数据,2025年10月27日发布当天,QCOM股价单日上涨约11%,随后一周累计涨幅超过20%——对于一家市值近两千亿美元的成熟公司,这是罕见的单日行情。
先讲清楚这两个产品的形态:它们不是一颗芯片,而是机柜级推理方案——从加速卡、机柜散热、供电到组网的全栈交付。这和高通过去“卖芯片给手机厂”的生意模式是两种物种,更接近英伟达卖NVL72整柜的打法。
flowchart TD
R["AI200推理机柜<br/>液冷设计"] --> N["加速卡<br/>768GB LPDDR"]
R --> S["以太网叶脊组网"]
R --> M["机柜管理<br/>供电与监控"]
N --> P["Hexagon NPU<br/>推理引擎"]
N --> K["大容量内存<br/>承载KV缓存"]
S --> L["对接外部集群<br/>模型与权重下发"]
M --> N
两款产品的分工很清晰,我把官方新闻稿与媒体报道中的关键参数整理如下:
| 维度 | AI200 | AI250 |
|---|---|---|
| 发布时间 | 2025年10月27日 | 2025年10月27日 |
| 商用时间 | 2026年 | 2027年 |
| 产品定位 | 机柜级推理整机,先把货交出来 | 下一代近存计算架构,赌能效上限 |
| 内存配置 | 单卡768GB LPDDR(官方亮点参数) | 未公布 |
| 核心卖点 | 大容量KV缓存支撑大批量并发服务 | 注意力算子有效算力利用率提升最高10倍(官方宣称值) |
| 散热 | 液冷为主 | 未公布 |
| 软件栈 | 延续Hexagon NPU工具链的全栈方案 | 同左 |
有三点值得展开。
第一,768GB LPDDR是真的敢堆。英伟达Blackwell Ultra单卡HBM3e是288GB,AMD MI355X也是288GB HBM3E,高通直接用LPDDR堆到768GB,容量是前两者的2.6倍以上。LPDDR就是手机里那颗内存,单位容量成本远低于HBM,功耗也低——这等于把手机业务三十年攒下的低功耗内存控制器和封装功夫,直接搬进了机柜。
第二,AI250的“近存计算”是技术含金量最高的一手。官方新闻稿的说法是:通过把计算搬近内存,注意力(Attention)算子的FLOPs/Watt有效利用率提升最高10倍。懂行的人一眼能看出门道——Transformer推理中最大的开销之一就是把权重和KV缓存在内存和计算单元之间来回搬运,谁能把搬运距离缩到最短,谁就赢下能效战。这和业界热议的存内计算(PIM)是同一个方向,高通选择在2027年用AI250交卷。
第三,组网走以太网。高通没有自建类似NVLink的私有互联域,方案走以太网叶脊组网。短期看这是妥协——没有高速私有互联就做不了超大模型的单柜稠密部署;但长期看,Ultra Ethernet联盟正在把以太网改造成AI后端网络,押注开放生态反而是差异化:客户不用被锁死在某个私有互联标准里。
高通数据中心征途的关键节点,我用时间线串一遍:
timeline
title 高通数据中心征途时间线
2017 : Centriq 2400服务器CPU发布
2018 : 服务器团队裁撤 首次折戟
2019 : Cloud AI 100推理芯片亮相
2025年6月 : 宣布24亿美元收购Alphawave
2025年10月 : AI200与AI250发布 Humain锚定200兆瓦
2026年 : AI200计划商用交付
2027年 : AI250近存架构商用
要理解高通这步棋,得先算一笔LLM推理的账。
大模型推理分两个阶段:预填充(Prefill)阶段吃算力,解码(Decode)阶段吃内存带宽;但真正决定单位token成本的,往往既不是算力也不是带宽,而是内存容量。原因在于KV缓存——模型处理长上下文时,每一个并发会话都要在显存里存一份不断膨胀的键值缓存。上下文越长(现在的主流应用动辄128K上下文),并发用户越多,KV缓存吃掉的容量就越恐怖。
容量不够会发生什么?批量(Batch)做不大。批量上不去,GPU的算力利用率就上不去——每生成一个token都要把几百GB的模型权重从内存里完整过一遍,权重搬运的成本被摊到越多的并发请求上,单个token就越便宜。所以推理服务的优化本质是一场容量军备竞赛:容量决定批量,批量决定利用率,利用率决定毛利。
这就是768GB LPDDR的定位:用便宜的容量换更大的批量。HBM单位容量的价格通常是LPDDR的数倍,而且HBM产能被英伟达供应链锁定、扩产周期以年计。高通绕开HBM红海,用手机产业链现成的LPDDR产能打推理市场的容量痛点——这是典型的“用我之有、攻敌之无”。
代价当然有,而且不小:LPDDR的带宽比HBM低一个数量级左右。这意味着AI200不适合预填充重、低延迟小批量的场景(比如实时Agent的交互式推理),它的甜区是大批量、高吞吐、对时延不敏感的离线推理——文档批处理、批量摘要、模型评测、合成数据生成。这个市场没有英伟达宣传海报上那么性感,但恰恰是推理算力里量大管饱的基本盘。
一句话总结这盘棋:英伟达卖的是“最快的推理”,高通想卖的是“最便宜的token”。在推理市场从卖方市场转向买方市场的过程中,后者的天花板未必更低。
光有好产品不够,数据中心生意必须有锚定客户——英伟达当年靠的是Meta和微软的大单,高通这次找到的是沙特阿拉伯的Humain。
Humain是沙特公共投资基金(PIF)2025年5月才挂牌的AI公司,背靠沙特“2030愿景”的国家算力雄心,目标是在未来几年部署吉瓦级的数据中心容量。2025年10月,高通在AI200/AI250发布的同时官宣:Humain成为首个锚定客户,首期部署规模200兆瓦,2026年起交付。据官方新闻稿,Humain后续还计划追加至吉瓦级合作。
200兆瓦是什么概念?按数据中心行业通行的功率密度估算,这相当于一座中大型AI工厂的起步规模,对应数千个液冷机柜、数万颗加速卡的量级。对一款2026年才商用的产品,发布当天就锁定国家级客户的首期订单——这是英伟达之外很少有芯片公司享受过的待遇。
这里有个通信行业读者会心一笑的细节:Humain的CEO塔里克·阿明(Tareq Amin),正是当年乐天移动(Rakuten Mobile)的CTO——全球第一个敢用云原生白盒设备从零建一张全国移动网的人,乐天那张“半路夭折但技术上惊艳”的Open RAN网络就是他的手笔。此番他从“用白盒颠覆无线网”转身去做“国家级AI工厂”,采购逻辑一脉相承:不相信单一家族的锁定,谁给开放架构和好价格就买谁。英伟达的机柜他买,AMD的MI355X他也买,高通的AI200同样进清单——多源采购、彼此压价,这正是运营商人最熟悉的采购哲学。
对高通而言,Humain这单的象征意义大于账面意义:它证明了AI200不需要挤进美国超大规模云厂商的采购名单也能起量——中东、主权AI、新兴市场的算力刚需,是巨头们顾不过来的侧翼市场。据公开报道,Humain同期还与英伟达、AMD、AWS分别签署了大规模合作,一家客户多点下注,恰恰说明这个市场大到谁都吃不完。
把视野拉高,AI200面对的是一个三面受敌的战场。我整理了主要玩家在推理侧的布防:
| 方案 | 典型形态 | 内存路线 | 规模/备注 |
|---|---|---|---|
| 高通 AI200 | 机柜级推理整机 | 单卡768GB LPDDR | 2026年交付,Humain锚定200兆瓦 |
| 英伟达 GB300 NVL72 | 72卡液冷机柜 | 单卡288GB HBM3e | 机柜功率约1.4兆瓦(报道值),NVLink私有互联域 |
| AMD MI355X / Helios | 单卡液冷,机柜化跟进 | 单卡288GB HBM3E | 2025年上市,明 年MI400机柜级接棒 |
| 谷歌 TPU v7 | Pod级自用+云输出 | 单片192GB HBM(报道值) | 单Pod数千片,仅限谷歌云 |
| 博通/Marvell自研ASIC | 云厂商定制芯片 | 视客户方案 | OpenAI与博通宣布10吉瓦合作(2025年10月) |
三面夹击分别来自三个方向。
正面是英伟达。GB300 NVL72依然是推理性能的珠峰,CUDA生态、NVLink互联、TensorRT-LLM软件栈构成了完整护城河。高通不打算正面仰攻——AI200定位“性价比token”,打的是英伟达产品线里利润率最薄、客户抱怨价格最凶的那一段。这在商业上是聪明的,但也意味着高通必须证明:省下来的钱不会被软件栈迁移成本吃回去。
侧面是AMD的贴身缠斗。有趣的是,AMD MI355X的288GB大容量打法本来就带“用容量换吞吐”的影子,高通相当于把这条路推到极致(768GB),同时用LPDDR成本优势再砍一刀。两家在2026年的推理市场会形成“容量的两档价位”,共同蚕食英伟达的定价权。
背后是自研ASIC的洪流。就在AI200发布前两周,OpenAI与博通宣布了10吉瓦级别的定制加速器合作,首批2026年下半年部署;OpenAI与AMD的6吉瓦协议、Anthropic扩容谷歌TPU至吉瓦级,都在同一个10月密集落地。头部AI公司正在把最自己那部分负载收归自研,留给商用芯片的是中间市场——这个中间市场足够大(推理负载的长尾分布在千行百业),但对新玩家的软件生态要求也最苛刻:没有CUDA,高通的Hexagon工具链就得让开发者真金白银地觉得“值得再学一套”。
这篇文章的读者大多是通信工程师,最后回到我们自己的饭碗:高通闯数据中心,和通信行业有三条实打实的交集。
第一条:运营商的AI工厂生意。Humain现象不是孤例——主权AI和运营商转型在合流。沙特STC、阿联酋e&、日韩运营商都在把既有机房、光缆管道、电力容量打包成“AI工厂托管”业务。运营商手里最值钱的不再只是频谱和管道,而是有电、有网、有地的机房资源——这在AI算力荒时代恰恰是最稀缺的生产要素。通信人需要开始补课:液冷、高压直流、机柜功率密度从传统机房的6~8千瓦/柜向AI机房的100千瓦以上/柜演进,这是一整套全新的工程体系。
第二条:Alphawave与光互联的暗线。高通24亿美元买Alphawave,买的是SerDes IP——而SerDes正是800G/1.6T光模块、CPO(共封装光学)、D2D(芯对芯)互联的公共地基。未来AI200机柜之间、机柜到光层之间的互联方案,大概率会沿着“Alphawave SerDes + 以太网 + 800G光模块”的路径演进。做传输和数据中心网络的工程师可以把这条线记下:推理网络的带宽诉求,正在把通信业的光互联技术变成AI基础设施的主动脉——这也是为什么近两年CPO、LPO这些光通信概念突然火遍整个行业。
第三条:边缘推理的想象空间。高通的看家本领是把算力塞进功耗预算受限的终端。AI200的LPDDR低功耗路线天然适合“机房边缘化”场景——地市机房、汇聚局所改造的边缘推理节点,未必装得下1.4兆瓦的GB300机柜,但可能装得下一两个几十千瓦的AI200短机柜。如果推理算力沿着“云-边-端”下沉的路径重演CDN的历史,通信运营商的局所资源和高通的边缘芯片,会在未来三到五年找到彼此。
文章最后必须泼一盆冷水,因为高通在数据中心的战绩,实在谈不上光彩。
第一次翻车:Centriq。2017年,高通发布48核ARM架构服务器CPU Centriq 2400,10nm工艺,业界瞩目。结果不到一年,2018年高通因收购恩智浦失败导致的战略收缩,直接裁撤了整个服务器团队。先发的ARM服务器芯片就此夭折,把窗口拱手让给了后来的亚马逊Graviton和Ampere。
第二次翻车:Cloud AI 100。2019年发布的推理加速器Cloud AI 100,纸面参数漂亮,但既没有大客户锚定、也没有像样的软件生态,在英伟达的碾压下悄无声息,最终不了了之。
复盘这两次失败,共同点是:有芯片、没生态、没锚定客户、赶上了公司现金流危机。这一次,剧本有三处不同——Alphawave补上了互联短板,Humain在发布当天就锁定了锚定订单,而且高通的手机和汽车业务现金流健康,数据中心是增量试错而非救命稻草。
但风险依然实在:AI200计划2026年商用,眼下正处于交付窗口,量产良率、软件栈成熟度、以太网组网方案的实际表现,都还要等真实部署的检验;AI250那“10倍能效”是官方宣称值,实验室数字和商用机房数字之间的距离,运维出身的人都懂。此外768GB LPDDR的前提是LPDDR产能与价格稳定——一旦AI服务器开始大规模抢购LPDDR,成本优势也可能被自己人买贵。
对工程师,我的判断是:方向值得押注,兑现需要观察。推理市场的“性价比token”需求是真实且巨大的,高通手里LPDDR容量牌和能效牌也是真的;但从纸面参数到规模化商用,这条路上躺着的先烈名单不长也不短。
一家靠手机芯片登顶的公司,在苹果自研、联发科紧逼、增量见顶的三重挤压下,把三十年的低功耗内功打包成机柜,押向AI推理的“性价比”腹地——这就是AI200和AI250的全部故事。768GB LPDDR是对HBM霸权的绕袭,200兆瓦的沙特大单是对英伟达客户名单的侧翼突围,2027年的近存架构是对能效天花板的一次豪赌。
它未必能撼动英伟达的王座,但它几乎必然会让推理算力变得更便宜——而更便宜的token,才是这场AI繁荣能否从巨头游戏变成千行百业日常的真正变量。至于我们通信人,与其围观芯片大战,不如盯住那个正在发生的物理事实:算力正在沿光缆寻找便宜的电力,而手里有机房、有光缆、有电的运营商,第一次站在了AI基础设施食物链的上游。
本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护,聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。
[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。
