首页 › tech › 高通二进宫:豪赌AI推理机柜

高通二进宫:豪赌AI推理机柜

概述:2025年10月28日,高通在圣地亚哥发布AI200与AI250两款数据中心AI推理加速器,宣布以机柜级方案进军AI推理市场,据路透社报道当日股价盘中大涨约20%,首个大客户锁定沙特Humain的200兆瓦订单。本文回答一个问题:一家靠手机基带吃饭的通信芯片公司,凭什么去抢英伟达的机房生意?文章拆解其产品参数、内存经济学、商业模式,以及这一仗对电信行业的参照意义。

目录

一、旧伤未愈:Centriq折戟与Cloud AI 100练兵

高通进数据中心,不是第一次。2017年11月,高通发布了Centriq 2400服务器CPU:10nm工艺、24个Arm核心,纸面参数相当漂亮,瞄准的是当时被英特尔Xeon垄断的服务器市场。结果2018年初,赶上了博通恶意收购、NXP交易告吹的动荡期,高通大幅收缩战线,服务器芯片团队几乎整建制裁撤。Centriq成了高通历史上最短命的产品线之一——从发布到放弃,满打满算不到半年。

这一仗的教训刻进了高通的战略基因:在别人的主场上正面刚通用计算,没有胜算。训练芯片和服务器CPU,正是英伟达与英特尔的主场。

但高通没有真正离开机房。2019年,它发布了Cloud AI 100推理加速器,之后的七年里,这条产品线以极低的调门悄悄练兵:不进超大规模数据中心打硬仗,主要守在边缘推理盒子、企业一体机这类利基市场。练的是什么?是Hexagon NPU的机房化改造,是推理软件栈的工程积累,是“不做训练、只做推理”的定位。

回头看,AI200/AI250就是Cloud AI 100的机柜级放大版。据Tom's Hardware披露的架构信息,数据中心版Hexagon NPU采用12+8+1的标量/向量/张量单元配置,数字格式从INT2一路支持到FP16——还是那套手机端验证过的算子血统,只是从一颗手机芯片放大到一整个160kW的机柜。

先看高通这十几年的路线图,再拆产品:

timeline
    title 高通机房芯片之路
    2017 : Centriq 2400发布
    2018 : 服务器团队解散
    2019 : Cloud AI 100登场
    2025 : AI200与AI250发布
    2026 : AI200商用并出海沙特
    2027 : AI250近存计算登场

二、AI200/AI250是什么:一张卡768GB内存

按官方新闻稿,两款产品的共同底座是:机柜级方案、直接液冷、机柜级功耗160kW,柜内用PCIe做纵向扩展(scale-up),柜间用以太网做横向扩展(scale-out),并支持机密计算(confidential computing)保护运行中的模型与数据。高通负责技术规划与边缘解决方案、数据中心的SVP Durga Malladi在发布中强调,这是“重新定义机柜级AI推理的可能性”,并承诺此后每年迭代一代——把手机芯片一年一代的节奏直接搬进了机房。

两款产品的分工很清楚:

项目 AI200 AI250
产品形态 加速卡 + 整机柜 加速卡 + 整机柜
定位 大容量内存推理 新架构高能效推理
内存 每卡768GB LPDDR 容量未披露
核心卖点 大模型与长上下文 近存计算,有效带宽提升超10倍(厂商标称)
柜级功耗 160kW 160kW
纵向扩展 PCIe PCIe
横向扩展 以太网 以太网
散热 直接液冷 直接液冷
安全 机密计算 机密计算
商用时间 2026年 2027年

最扎眼的数字是每卡768GB LPDDR。对比一下主流GPU:NVIDIA H200单卡141GB HBM3e,B200为192GB HBM3e,AMD MI325X为256GB HBM3e(以上为各厂商公开规格)。AI200一张卡的内存容量是B200的四倍。对推理业务而言,内存容量直接决定了“单个卡里能常驻几个模型、能塞下多长的上下文”,这个参数不是锦上添花,而是商业模式的根基。

AI250则是更激进的一步棋:近存计算(near-memory computing)架构,官方宣称有效内存带宽提升超过10倍、功耗显著下降,并为分离式推理(disaggregated serving)做了显式优化。注意,这些全部是厂商标称,截至发布时没有第三方实测数据背书——这一点后面还要展开。

三、为什么不用HBM用LPDDR:推理的钱被内存赚走了

要看懂高通这步棋,得先看懂大模型推理的钱花在哪。

一次LLM推理分两段:prefill(处理输入的提示词)是算力型负载,GPU的矩阵单元跑得飞快;decode(逐个吐出token)是典型的访存型负载——每生成一个token,都要把模型权重和相关KV cache从内存里搬一遍。业界共识是:推理越到后期,瓶颈越不在算力,而在内存带宽与容量。上下文窗口从4K涨到百万token,KV cache吃内存的速度水涨船高;一个平台要同时服务几十个模型,权重全部常驻显存的需求也在膨胀。

而训练市场通行的HBM(高带宽内存),恰恰是整台AI服务器里最贵、产能最紧的部件。LPDDR正好相反:带宽只有HBM的零头,但每GB成本低得多、功耗低得多、单卡能塞的容量大得多。

这就是高通的赌注:推理时代的经济性,奖励的是“每美元每瓦特的产出”(官方原话是performance per dollar per watt),而不是峰值算力。用LPDDR把容量堆上去、把成本压下来,牺牲一点带宽——对decode这种访问模式规整的负载,未必致命。

AI250的近存计算,就是来补带宽这块短板的。思路是把计算单元尽量搬到内存颗粒旁边,缩短数据搬运的距离与能耗——本质上和当年存算一体、近存处理的学术路线一脉相承。官方那句“10倍有效带宽”需要仔细读:是有效(effective)带宽,不是裸带宽。NAND Research的分析师指出,近存计算的收益高度依赖负载的数据复用特征——复用度高的负载赚大头,流式负载收益有限。这个10倍该怎么兑现、兑现到什么程度,要等2027年真机落地后由第三方实测说话。

四、第一个大客户:沙特Humain的200兆瓦

产品发布和商业落地之间隔着一条鸿沟,高通用一份合同填上了它。

与AI200/AI250同步,高通宣布与沙特AI公司Humain达成协议:从2026年起在沙特部署200兆瓦的AI200与AI250机柜方案,对内对外提供推理服务。160kW一柜,200兆瓦粗略折算约等于1250个机柜(作者按官方功耗参数估算)——对一个宣布时还没有一台实机出货的产品线,这几乎是能拿到的最大背书。

Humain的来头值得多说两句。它是沙特主权财富基金(PIF)押注AI的核心载体,而它的CEO Tareq Amin,电信行业的读者应该不陌生——这位乐天移动前CTO当年以“用软件的方法建网”闻名,把乐天从零建成了全球最受关注的vRAN网络。如今他执掌沙特的国家级AI算力公司,选型逻辑依然带着浓重的电信味:不迷信单点性能,先算TCO的总账。这与高通“每美元每瓦特”的叙事一拍即合。

商用的实锤还在后面。2026年8月底高通官网新闻稿显示,Adobe成为第一家把AI工作负载迁移到Humain平台(由高通加速)的全球软件公司——说明这套系统已经开始跑真实的生产负载,而不是停留在PPT阶段。另外,据NAND Research引述高通财报电话会的信息,CEO安蒙透露AI200正接近与一家大型超大规模云厂商成交。第二个大客户若坐实,这条产品线才算真正站稳。

五、三条路线围剿英伟达:谁能分到推理蛋糕

把高通放回大图景里看,推理算力市场目前有三条路线在竞争:

flowchart TD
    INF["AI推理算力市场"]
    INF --> GPU["通用GPU路线"]
    INF --> ASIC["云厂自研ASIC路线"]
    INF --> DSA["专用推理芯片路线"]
    GPU --> NV["英伟达H200与B200"]
    GPU --> AMD["AMD MI325X"]
    ASIC --> TPU["谷歌TPU"]
    ASIC --> AWS["AWS Inferentia"]
    DSA --> QC["高通AI200与AI250"]
    DSA --> GRQ["Groq与Cerebras"]
对比项 高通 AI200 英伟达 H200 英伟达 B200 AMD MI325X
单卡内存 768GB LPDDR 141GB HBM3e 192GB HBM3e 256GB HBM3e
定位 纯推理 训练+推理 训练+推理 训练+推理
柜内互联 PCIe NVLink NVLink Infinity Fabric
核心叙事 TCO与容量 生态与全能 生态与峰值 内存容量追赶
状态 2026年商用 已规模商用 已规模商用 已规模商用

(表为公开资料整理,互联方案以各厂商官方文档为准)

英伟达的护城河从来不在单点硬件,而在CUDA生态与NVLink互联构成的整套体系;AMD在用更大的内存容量贴身追赶;云大厂的自研ASIC则把自己最确定的工作负载从采购清单上划掉。高通选的切口很刁:不做通用GPU,不做训练,只在推理这一层,用容量、能效和TCO定价权参战。Moor Insights分析师Matt Kimball的评价是,这次发布表明高通对数据中心是认真的。

风险同样明摆着,NAND Research的分析值得原样转述:一是软件栈——从CUDA生态迁移的成本,硬件参数表再漂亮也抵消不了,高通必须做到不只是“能跑”,而是“性能打平”;二是10倍带宽等关键指标全是厂商自报,等待实测检验;三是市场究竟能容得下几家机柜级推理方案,这个问题现在没人答得上来。

六、电信人的视角:机房、电力与第二曲线

作为通信行业的老兵,看到这份发布我想到三件事。

第一,160kW这个数字,电信机房的设计者看了会沉默。传统电信机房单柜供电按5~10kW设计,主设备是刀片服务器加传输设备;AI推理机柜一上来就是160kW,还要求直接液冷。这对运营商是个两面刃:一面是大量现网机房面临“电力与制冷双重改造”的门槛,另一面是手握机房、市电引入、光纤管道和全国维护体系的运营商,天然是AI推理时代“机房物业+算力管道”的候选角色。中东主权AI给全世界上演的这套“资金+芯片+机房”的打法,接下来大概率会在更多市场复制。

第二,Humain的操盘手法,本质是电信人最熟悉的“新建网络”逻辑。不背存量包袱、用最新架构从头建、把TCO总账算到极致——这套打法在乐天的vRAN上验证过一次,如今在沙特的推理算力上再演一次。Tareq Amin从建无线网到建算力网的转场说明:电信工程方法论(容量规划、冗余设计、逐年迭代)与AI基础设施的建设逻辑是相通的。

第三,高通这步棋是给整个设备商群体的参照系。当爱立信、诺基亚在与英伟达合作往基站里塞GPU、做AI-RAN的时候(本栏目此前写过),高通绕开了RAN这个老战场,直接卡位“推理电表”这个新入口。手机市场的存量搏杀太苦,每年一代的迭代节奏是高通最熟的组织能力,把它复制到数据中心,是教科书式的第二曲线打法。

七、结语:2026年沙特亮灯见分晓

高通二进宫,这次比Centriq时代聪明得多:不抢主场的通用计算,只在推理这一层落脚;不空喊性能,用768GB内存和200兆瓦实单说话;不单打独斗,把年更节奏和软件栈一起打包成持续承诺。

但要下结论还为时过早。10倍有效带宽是厂商标称,2026年沙特的机柜是否如期亮灯、那家“接近成交”的大型云厂商是否签字、软件栈能否让客户无痛迁移,每一条都是必答题。对电信从业者而言,值得持续盯的信号是:推理机柜的功率密度何时真正进入运营商机房的设计规范,以及“运营商做算力物业”这条路,会不会在Humain之后跑出第二个样板。

机房的大门再次向高通敞开,这一次它带着合同来的。

参考来源

  1. Qualcomm Unveils AI200 and AI250—Redefining Rack-Scale Data Center Inference Performance for the AI Era — 高通官方新闻稿(2025年10月28日),AI200/AI250全部官方参数与Durga Malladi表态出处
  2. Research Note: Qualcomm Introduces AI200 & AI250 for Data Center Inference — NAND Research分析笔记,LPDDR取舍、10倍带宽主张的批判性解读、安蒙财报会云厂商订单信息
  3. Qualcomm AI250 | AI Wiki — 结构化百科条目,汇总Tom's Hardware(Hexagon 12+8+1架构)、路透社(股价涨约20%)等来源
  4. HUMAIN and Qualcomm to Deploy 200MW in Saudi Arabia — Converge! Digest对200兆瓦沙特部署协议的报道
  5. Adobe Becomes First Global Software Company to Migrate AI Workloads onto HUMAIN Platform, Accelerated by Qualcomm — 高通官网新闻稿列表(2026年8月31日),商用负载迁移的最新佐证

本文由「51学通信」技术团队出品。51学通信由通信行业18年老兵爱卫生(微信ID: gprshome201101)维护,聚焦5G/6G核心网、3GPP标准解读、通信前沿技术深度分析。 出版作品有《5G核心网原理与实践》《IMS原理与实践》等4本通信专业书籍。知识星球「51学通信」提供深度技术答疑和行业洞察。

[!tip] 51学通信知识星球 星主:爱卫生(微信:gprshome201101)——公众号「51学通信」创办者,19 年通信行业运维与讲师经验,著有《GPRS网络信令实例详解》《EPC原理与实践》《5G核心网原理与实践》三本纸质书(各大电商平台有售)。 星球定位:深耕 5G 核心网、IMS、NFV/AI、云原生等 ICT 领域,主打运维岗位与信令分析。 当前规模:5200 篇主题 / 990 个回答,198 元/年。 加入福利:加入星球后请加爱卫生微信,拉您进知识星球年度陪伴与答疑群——不限量回复您的各种问题,另有群内分享。 AI 加持:51学通信知识星球已作为 skill 接入 WorkBuddy,使用 deepseek-4-flash 在海量星球帖子中精准找贴、找视频、找 FAQ 和案例,做总结、找文档和 PPT 等场景全覆盖。

51学通信知识星球海报-扫码加入