GPU 买了那么多，跑起来却像「堵车」？

剪辑｜郑玄

最近两年，AI 行业最热的词一直绕不开「算力」。

从大模子考试，到本年 Agent 的火热，再到各家云厂商不断扩建智算中心，行业照管最多的，险些都是 GPU、芯片和算力规模。大要只消卡够多，AI 就能延续往前跑。

但现实并不是。

不少作念大模子考试和推理的东谈主，依然越来越彰着地感受到另一层问题：机器越来越贵，GPU 越来越强，但模子考试和推理的成果，却莫得同步进步。

问题不一定出在算力本人，而可能出在另一件长久被淡薄的事情上——网力。

平头哥居品总监李旭慧打了个比喻：「若是把算力比作 AI 期间的石油，网力即是输油管谈。算力提供能源，网力保险成果。」

4 月 28 日，在数字中国劝诱峰会上，平头哥发布首款智能网卡磐脉 920。这是国内首个内置 PCIe Switch 的 400G 智能网卡，最大相沿 400Gbps 婉曲带宽，可应用于万卡智算集群、通算集群和高性能存储等场景，咫尺依然量产，并将率先部署在阿里云数据中心。

磐脉 920 想要料理的即是「网力」问题。

今天的大模子考试，一个考试任务，经常需要几千以致上万张 GPU 同期和洽。单张 GPU 性能再强，也必须跟通盘这个词集群保捏同步。

问题在于，只消其中一部分节点慢下来，其他节点就只可恭候。他不雅察到，咫尺行业里好多万卡级智算集群，GPU 施行诈欺率较低，「能作念到 60%，依然算行业顶尖水平。」

昔时行业更容易柔软「有若干卡」，但施行在 AI 考试场景中，系统运行成果并不是由最强的硬件决定，而是受限于集群里最慢的阿谁节点。「超过节点的算力会捏续闲置恭候，形成大规模算力浮滥。」

磐脉 920 的发布施行上也指明了一个标的：当 GPU 依然填塞强之后，下一步到底该补那儿。

一张网卡，周转通盘这个词智算集群

当 AI 智能体开动进入实在业务场景，推理业务的占比越来越高。

「在 Agent 应用爆发的配景下，推理业务的增长速率权贵快于考试。」李旭慧示意。

大模子考试强调强同步，而推理濒临的是多数突发、小包、高频央求，九游体育2026世界杯中国官网对低时延和褂讪性的要求更高，这也意味着对「网力」的要求更高。

而详细一下磐脉 920 在作念的事，即是尽量减少整系统里的「堵」和「等」，通过网力的进步来开释 AI 算力。

其背后的结束旨趣，有三个关键。

最初是相沿多旅途 RDMA，谗谄单一起径的局限。

平庸透露，即是底本只可走一条高速，咫尺变成多条路同期分流。更关键的是，这些数据固然分开走，但最终还能按轨则准确拼总结。

李旭慧说明，磐脉 920 通过相沿逐包喷洒、乱序继承和遴荐性重传，结束 RDMA 多旅途。

从收尾来看，这套决策带来的改善相比胜利。

按照官方实测，磐脉 920 相沿单 QP 打满 400G 带宽，而同类主流居品带宽粗陋唯一其一半。同期，多旅途才智不错把交换机端口缓冲区水线责备 90%，减少丢包和重传。

第二个关键盘算，是把「绕路」变成「直连」。

磐脉 920 最大的亮点之一，是内置 PCIe Switch。这亦然国内首个作念到这小数的 400G 智能网卡。

传统工作器架构里，亚搏中国手机版app下载PCIe Switch 日常部署在主板上，数据需要绕多个节点转发。收尾即是，有的旅途长，有的旅途短，时延不一致。

关于需要高度同步的 AI 考试任务来说，这种「不整皆」会胜利影响成果。

李旭慧打了个比喻：传统架构里，经常会出现「四个下行通谈挤一个上行通谈」的情况。

这很像四条岔路同期汇入一条骨干谈，堵塞险些不能幸免。

磐脉 920 把 PCIe Switch 胜利集成进芯片里面，让网卡与 CPU、GPU 形成更胜利的聚积联系。

少绕路，意味着更低时延；旅途更颐养，则意味着更褂讪的同步成果。

左证平头哥实测，在交流集群规模和任务条目下，部署磐脉 920 后，大模子考试和推理任务完成时辰可镌汰 14%。

第三个关键，是让网络具备我方判断的才智。

传统网卡更多像搬运工。收到数据，搬昔时，仅此汉典。

据了解，磐脉 920 加入了细粒度网络感知和可编程拥塞截至才智。直白讲，即是它能主动避堵。让网络开动从被迫传输，变成主动调换。

关于越来越复杂的 AI 集群来说，这种才智的迫切性会越来越彰着。

从这些盘算能看出来，磐脉 920 并不是在追求参数上的简便进步，它作念的事情很求实，让依然很贵的算力，少浮滥小数，从而引发最大的潜能。

为何是阿里在界说 AI 基础措施？

除了性能本人，磐脉 920 背后更值得柔软的，是平头哥和阿里的合座布局。

昔时几年，好多公司作念芯片，经常聚积在单一圭臬，比如 GPU、AI 加快卡或者 CPU。

但平头哥的想路是作念全栈。

咫尺，平头哥依然形成四条居品线：真武系列 AI 芯片、倚天工作器 CPU、镇岳存储主控芯片，以及此次发布的磐脉系列智能网卡。

对应的，刚巧是数据中心里的几个关键圭臬：算力、存力和网力。

李旭慧在采访中示意：「单一芯片居品无法料理全链路问题，唯一买通算力、存力、网力，才能最大化开释 AI 硬件性能。」

这亦然平头哥和好多单点芯片公司的辞别。它不是只作念一块性能更强的芯片，而是试图从通盘这个词系统角度去看问题。

好多芯片公司作念居品，先作念出来，再去找客户和落地场景。

但平头哥不是。

李旭慧告诉极客公园，磐脉 920 立项之时 AI 智能体尚未成为行业焦点。但他们从阿里云自身业务中判断，明天 AI 一定会鼓动数据中心网络才智升级。

「一线业务场景的施行需求，是芯旋即刻迭代与居品优化的中枢驱能源。」先有阿里云的大规模业务场景，再从施行场景需求里倒推居品界说。

这即是磐脉 920 的营业旅途。据显现，和平头哥倚天、真武、镇岳系列芯片相通，它会先部署在阿里云数据中心。

从这个角度看，磐脉 920 的发布，本人即是阿里「通云哥」协同才智的一次体现。

通义崇拜模子，阿里云崇拜场景，平头哥崇拜底层硬件。模子需求鼓动云基础措施升级，云场景又反向鼓动芯片演进。

这种全栈自研的闭环，在国内科技公司里并未几见。「通云哥」的时势固然前期进入大、周期长，但一朝走通，护城河也极深。

AI 竞争走到今天，比拼的依然不是单点才智，而是这一整套系统能否顺畅运转。

跟着 AI 越来越多从考试走向推理，模子、云与芯片之间形成的捏续反映轮回，合座上风的显现可能才刚刚开动。

* 头图开头：平头哥

极客一问

你奈何看待「磐脉 920」？亚搏中国手机版app下载