文章正文

新警察故事

英伟达为什么突然让CPU重新变得重要?_我的网站

天狼星

一 |     昨天,下沙港海关监管作业场正式运营。    过去几年,数据中心里的CPU多少有些失意。         一谈人工智能,大家想到的是英伟达GPU、HBM、先进封装、NVLink,以及一排排功耗越来越吓人的液冷机柜。

二 | CPU虽然仍然装在服务器里,却越来越像一位负责开门、递文件、安排会议的办公室主任——不可或缺,但发布会的聚光灯基本轮不到它。首批外贸集装箱在此完成全部通关手续后,搭乘驳船经内河航道就能直发乍浦港中转出口。

三 |          现在,英伟达却突然宣布:CPU不但重要,而且要重新成为AI基础设施的竞争焦点。这标志着杭州首个千吨级内河港口正式具备外贸进出口通关功能,本地制造企业出海新增一条家门口的物流通道。         英伟达最新披露的Vera CPU,采用88个自研Olympus核心,支持176个硬件线程;最高提供1.2TB/s的LPDDR5X内存带宽、1.5TB内存容量,以及1.8TB/s的CPU与GPU一致性连接带宽。

四 | 与上一代Grace使用Arm Neoverse授权核心不同,Olympus是英伟达面向数据中心重新设计的CPU核心。(NVIDIA Developer)          一个靠GPU成为全球市值巨头的公司,为什么突然认真做起了CPU?答案当然不是黄仁勋忽然对通用处理器产生了怀旧情绪。过去,杭州东部片区的外贸货物多通过公路运往沿海口岸通关,走内河运输也需在外地口岸完成申报查验。英伟达真正关心的,是如何让那些价格昂贵、功耗惊人、每一分钟都在燃烧资本的GPU少等一会儿。         GPU越来越快,为什么CPU反而成了问题?          传统大模型推理大体上是一个相对集中的计算过程。         输入数据送进GPU,GPU完成大量矩阵计算,随后输出结果。

五 | 在这个阶段,CPU主要负责数据准备、系统管理和任务调度。“以往货物在外地口岸通关时,整体流程周期存在一定不确定性,企业需要投入较多精力跨区域对接协调。”顾家家居股份有限公司关务负责人许磊说出不少企业的共同困境。

六 | 只要CPU别拖后腿,主角自然还是GPU。         但智能体AI的执行流程并不是这样。

七 | 据企业测算,对比传统公路直运沿海口岸的模式,每个标准集装箱的物流成本可节省约300元。         一个智能体接到任务后,可能先在GPU上进行推理,随后调用搜索工具;再回到CPU执行Python脚本;然后访问数据库、解析网页、启动沙箱、调用API;完成之后再把结果送回GPU继续推理。水运模式更适合对时效敏感度不高、希望压缩物流开支的制造企业。

八 | “把申报查验前移到下沙港,相比原先下沙经乍浦转宁波的老线路,离港之后整体时长能缩短1至2天。         一次复杂任务可能在CPU和GPU之间往返几十次乃至数百次。这些动作包括:          编译模型生成的代码          启动和关闭容器或沙箱          执行Python、JavaScript和数据库查询          完成检索、数据预处理和结果校验          调度多个智能体之间的任务          管理KV Cache和其他系统数据               这里面很多工作都不是把核心数量堆上去就能解决的。

九 |          假设一个工作环节必须按照A、B、C、D的顺序执行,那么增加十倍CPU核心,也不能让C跑到A前面去。”浙江德洋国际货运代理有限公司负责人戴杨军介绍。下沙港地处杭州东部产业腹地,周边聚集数千家外贸制造企业,家电、家具、轮胎等大批货物有稳定出海需求。系统真正需要的是更快的单线程性能、更低的内存访问延迟,以及CPU在高负载状态下仍然能够稳定供给数据的能力。

十 | 依托京杭运河二通道,港口内河航道可直达乍浦港,再中转至宁波舟山港,是杭州主城区最近的水上作业区。         换句话说,GPU擅长千军万马同时冲锋,智能体执行链里却包含大量需要一个一个过关的单兵作战。         英伟达把这套逻辑概括为:CPU评价标准正在从“每美元可以买到多少核心”,转向“每美元和每瓦电力能够生产多少Token”。其官方资料称,Vera面向代码编译、Python执行和代码分析等智能体负载,相比其选择的x86基准系统最高获得约1.8倍性能;但这些结果由英伟达提供,测试平台和基准选择仍需要独立机构验证。         这句话翻译得接地气一点就是:          GPU本来正在努力干活,结果CPU拿着材料迟迟不来。老板买了一屋子昂贵GPU,最后却看着它们排队等Python脚本执行完。此次投用的海关监管作业场所配备智能卡口、大型集装箱检查设备,企业货物运抵后可一站式完成申报、查验、放行全流程。钱江海关驻下沙办事处监管一科科长严驰介绍,这里是杭州关区首个实现入场后申报的水路运输类海关监管作业场所,完成通关的集装箱经内河驳船运往乍浦港后,可直接出海或中转宁波舟山港,无需重复报关、二次查验。         这当然不能忍。

十一 | 按照规划,2026年下沙港集装箱吞吐量预计22.5万标箱,其中外贸出口重箱9.7万标箱,2030年外贸出口将突破3万标箱。         Vera并不追求“核心越多越好”          过去十多年,服务器CPU有一条很清晰的演进路线:不断增加核心数量。         云计算公司希望在一颗CPU上运行更多虚拟机,服务更多租户,于是“每插槽核心数量”和“每美元虚拟CPU数量”成为重要指标。

十二 |          2014年前后的高端Xeon通常只有十几个核心;今天的AMD EPYC已经进入百核时代,下一代Venice还将进一步提高密度。AMD已经宣布,第六代EPYC Venice在台积电2nm工艺上进入量产爬坡,并将在Helios AI机架中与MI450系列GPU配套使用。

十三 |          英伟达却没有跟随这条路线,它没有把Vera做成一颗两三百核的CPU,而是选择了88个相对宽大的核心。         Olympus采用10路解码前端、深度乱序执行、神经网络分支预测和面向图数据访问的预取机制,目标不是在芯片里塞进尽可能多的核心,而是让每个核心在复杂软件环境下跑得更快。         Vera还有一个值得关注的设计:计算核心集中在一块单片计算芯粒(Chiplet)上,而内存控制和I/O可以采用其他芯粒。

十四 |          过去几年,Chiplet已经成为先进处理器的主流方向。它能降低大芯片的制造成本,也便于组合不同功能模块。但Chiplet并不是白吃的午餐,数据跨越不同芯粒时会增加延迟和互连负担。         英伟达选择把88个CPU核心放在同一块计算裸片上,再通过第二代Scalable Coherency Fabric连接164MB共享三级缓存、内存和I/O。官方给出的“片内双向剖分”带宽约为3.4TB/s。         其设计逻辑非常明确:宁可少塞一些核心,也要减少核心之间、核心与内存之间的数据堵车。这与AMD、Intel近年来通过多芯粒提高核心数量和产品灵活性的方向,构成了一次非常有意思的架构分叉。         谁更正确?现在还远远没有答案。         如果工作负载可以高度并行,核心多当然有优势;如果大量任务依赖单线程速度、共享数据和低延迟,Vera的选择可能更有效。

十五 |          真正的问题不是单片好还是Chiplet好,而是客户究竟在运行什么东西。         “智能体CPU”是真需求,还是营销部门的新包装?          看到“专为Agentic AI设计的CPU”,有经验的从业者难免会警觉。         半导体行业很擅长给旧需求换一个新名字。

十六 | 以前叫并行计算,后来叫AI计算;以前叫服务器,后来叫AI工厂;现在连CPU也开始穿上智能体的外套。

十七 |          Ryan Shrout在其文章《NVIDIA Joins the Battle of Making the CPU Interesting Again》中提出了一个很好的问题:智能体AI所需要的,究竟是一种全新的CPU,还是一颗内存带宽更高、单线程性能更强的优秀服务器CPU?          英伟达给出的回答其实比较诚实:基础计算原理并没有改变,变化的是任务发生的频率和系统负载强度。         虚拟机和容器并不是智能体时代才出现的,数据库查询、脚本执行、数据检索也存在多年。

十八 | 区别在于,过去它们可能偶尔发生一次;智能体工作流却会持续创建环境、执行代码、访问数据、销毁环境,然后再来一遍。         强化学习同样需要同时运行大量CPU环境,对模型生成的行为进行评估和反馈。         因此,所谓“智能体CPU”并非凭空出现的新物种,更准确的说法应该是:智能体AI放大了服务器CPU中原本就存在的性能矛盾。         过去,CPU慢一点,用户可能多等几十毫秒。现在,CPU慢一点,后面的几十颗甚至几百颗GPU都可能一起等待。普通服务器里,CPU本身就是主要计算资产;AI机架里,CPU旁边站着的是一群价格远高于它的GPU。         于是CPU的经济价值发生了变化。英伟达并不是单纯出售一颗更昂贵的Arm CPU,而是试图告诉客户:不要只看CPU价格,应该看它能为整套GPU系统追回多少利用率。         这套说法非常聪明。

十九 | 因为一旦评价标准从“每颗CPU多少钱”变成“每个机架能多生产多少Token”,CPU成本可能真的会成为小数点后的数字。         Vera真正要挑战的,不只是Intel和AMD          表面上看,Vera进入的是服务器CPU市场,竞争对手自然是Intel Xeon和AMD EPYC。         但英伟达的真正目标可能更大。         亚马逊已经把Graviton推进到第五代,最新Graviton5实例相较上一代官方宣称可提高最多25%的计算性能;谷歌也通过Axion处理器为Google Cloud提供自研Arm CPU平台。(Amazon Web Services, Inc.)          这些云厂商做CPU,主要是为了控制云计算成本和产品差异化。它们关心的是同样一台服务器能够出租多少虚拟机?每个CPU的成本是多少?一度电能够服务多少云客户?          英伟达的思路不同。         Vera并不是首先作为一颗通用CPU,孤零零地插入普通服务器插槽,与Xeon、EPYC争夺每一台企业服务器。         Vera最重要的应用场景,是Vera Rubin NVL72等英伟达AI系统。

| 在这套机架里,36颗Vera CPU与72颗Rubin GPU、NVLink交换系统、ConnectX网卡和BlueField DPU共同工作。         这意味着英伟达销售的并不是CPU。它销售的是一套由英伟达定义的计算系统,CPU只是其中一个控制点。以前,英伟达需要让自己的GPU适配Intel和AMD的服务器平台。现在,它希望从CPU、GPU、互连、网卡、DPU到系统软件全部掌握在自己手里。         这才是Vera最值得警惕的地方。         英伟达已经不满足于占领加速卡插槽,它开始一点一点吃掉服务器主板、网络交换、数据处理和系统架构的价值。今天做CPU,明天做存储处理器,后天做机架,最后客户采购的可能不再是若干部件,而是一座完整的“英伟达AI工厂”。         到了那个时候,传统服务器厂商越来越像施工队,传统CPU厂商则可能从平台定义者退化为零部件供应商。         Intel与英伟达的关系,变得有些微妙          事情也并不是英伟达推出Vera之后,Xeon立即被扫地出门。         Intel在2026年3月宣布,Xeon 6被用于英伟达DGX Rubin NVL8系统。

| 这说明,在需要兼容传统软件、通用企业负载和标准服务器生态的产品中,英伟达仍然需要x86 CPU。         于是出现了一个颇有意思的局面:英伟达一边采购Intel CPU,一边推出自己的CPU与Intel竞争。         这看上去有些别扭,实际上非常符合平台公司的做法。

| 在生态尚未完全成熟时,英伟达需要Xeon帮助其进入传统数据中心;在最先进、价值最高的机架级AI系统中,它又希望使用Vera,把系统的每一个关键环节握在自己手中。         Intel真正面临的风险,不是Vera立刻抢走所有Xeon订单。而是服务器CPU的战略位置可能被重新定义。         过去,CPU是服务器的中心,GPU是挂在CPU旁边的加速器。Vera Rubin时代,GPU开始成为系统中心,CPU则被重新设计为服务GPU利用率的调度和数据处理引擎。         这相当于原来坐在董事长位置上的CPU,虽然还没有被赶出会议室,却开始负责给新董事长准备会议材料。

|          AMD同样需要回答这个问题。

|          AMD拥有EPYC和Instinct两条产品线,理论上比Intel更容易构建CPU与GPU协同平台。Helios正是AMD给出的答案:用Venice CPU、MI455X GPU、Pensando网卡和ROCm软件组成开放机架。         因此,未来的竞争不只是Vera对Xeon、Vera对EPYC。         真正的较量是:Vera Rubin与AMD Helios,谁能让整个机架生产更多Token?          现在谈Vera获胜,还为时太早          从英伟达提供的数据看,Vera相较现有x86系统,在代码编译、Python执行、数据分析、图计算和高负载内存访问等场景中表现亮眼。         此外,英伟达也公布了Perplexity、纽约证券交易所和美国国家实验室等早期测试案例。不过,这些结果目前仍主要来自英伟达及合作伙伴,部分基准采用预量产系统,一些比较对象也是已经上市一段时间的Intel和AMD产品。         而Vera真正大规模交付时,将面对的并不只是今天的Granite Rapids或者EPYC Turin。AMD Venice已经进入台积电2nm量产爬坡;Intel也在准备下一代Xeon产品。         此外,单线程性能高并不等于所有服务器工作负载都更快。

|          数据库、虚拟化、Web服务、高性能计算和智能体工作流之间的性能需求差异很大。部分场景更看重核心数量,部分需要大容量DDR内存,部分依赖软件认证,还有大量企业应用仍然建立在x86生态之上。

|          英伟达必须证明几件事:          第一,Vera的高单线程性能能够在满负载状态下持续保持,而不是只在选择性基准中领先。         第二,LPDDR5X虽然带宽高、功耗低,但容量、成本、可维护性和供应能力能够满足数据中心需求。         第三,Arm软件生态能够支持复杂企业应用,而不只是英伟达自己控制的AI机架。         第四,Vera带来的GPU利用率提升,足以覆盖客户迁移平台和重构软件的成本。         英伟达把题目出得很好,但最终还要由客户的电费账单和采购合同判卷。         CPU市场不会被Vera统一,反而会进一步分裂          Vera出现后,服务器CPU市场可能不再是Intel与AMD之间简单的x86之争。         未来至少会形成四种路线。         第一种,是Intel和AMD继续提供的通用型x86处理器,强调软件兼容、企业生态和广泛的工作负载适应性。

|          第二种,是AWS Graviton和Google Axion等云厂商自研CPU,重点追求云服务的成本、能效和内部工作负载优化。         第三种,是Vera这种与GPU、网络和AI软件深度绑定的AI工厂CPU,评价标准是GPU利用率和每机架Token产量。         第四种,则可能是面向高性能计算、存储、数据库或特定行业的专用Arm处理器。

|          过去,服务器CPU试图成为无所不能的通用平台。未来,CPU很可能越来越围绕特定系统目标设计。

|          这其实是半导体产业非常熟悉的故事:当一个通用市场足够大之后,专用化迟早会发生。GPU已经从通用图形芯片变成AI专用计算平台;现在,AI反过来又推动CPU从通用处理器走向系统定制。         对中国处理器产业有什么启示?          国内服务器CPU讨论中,也经常陷入一种简单的参数竞赛:          核心有多少?          主频有多高?          工艺是多少纳米?          单项跑分追上谁?               这些问题重要,但Vera提醒我们,先进处理器的竞争越来越不是一张规格表能够说明的。

| 真正决定AI系统表现的,是CPU核心、缓存、内存带宽、片内互连、CPU与GPU的一致性、编译器、操作系统、容器环境和任务调度之间的整体协同。         国内AI芯片企业往往非常重视加速器算力,却容易低估主机CPU和系统软件。结果可能是AI芯片的理论算力很漂亮,数据准备、任务调度、集合通信和软件执行却跟不上。

| 芯片发布时威风八面,进了数据中心之后,大家一起排队等数据。         未来国产计算体系需要关注的,不只是再做一颗CPU或者GPU,而是建立:          CPU与AI加速器之间的高速一致性互连          高带宽、低功耗的内存系统          面向智能体和强化学习的运行环境          真实集群下的延迟、故障和利用率测量体系          从芯片到机架的软硬件协同设计能力               核心数是最容易印在海报上的数字。

| 系统利用率却是最难伪装的结果。         结语:CPU没有复兴,它只是换了一个老板          Vera的出现并不意味着计算产业重新回到“CPU为王”的年代。         恰恰相反。

| CPU之所以重新受到重视,是因为GPU已经变得太昂贵、太重要,以至于所有可能让GPU等待的环节,都必须被重新设计。从这个角度看,Vera不是CPU对GPU的反攻。它更像是英伟达为了维护GPU统治地位,亲手打造的一名高级管家。

|          这名管家跑得足够快,就能让整座AI工厂少停顿、多生产Token;而谁控制了这名管家,谁就更有机会控制整个机架。

| 因此,英伟达进入CPU市场真正带来的冲击,不是服务器市场又多了一个Arm处理器。而是数据中心竞争的基本单位,正在从单颗CPU、单颗GPU,升级为完整的计算系统。         Intel和AMD过去争论的是每个插槽放多少核心。英伟达现在却把问题改成了:          一座AI工厂每兆瓦电力能够生产多少智能?          这才是Vera真正想重新定义的CPU战争。

Current article:http://rog6fd.licuqiangraosuiheizhua.pics/list_00tmux/99i7tz.html

Published on:20:36:47


|