算力租赁平台观察:超节点迈入144卡时代,Token工厂怎么配算力
2026 年工博会上,芯片企业的展示重心从加速卡本身挪到了整机柜。文汇报的现场报道提到,本届工博会首设集成电路展,超过 300 家企业参展,几乎所有主流 AI 芯片企业都在推系统级产品「超节点」。天数智芯的天垓300 IXL144 单柜可集成 144 颗 GPU、约 10.1TB 显存,沐曦股份的曦景 S600 做到单机柜 64 卡全互连,东方算芯的慧算 HS256 用双机柜 8 台液冷服务器提供 33 PF BF16 算力。
对采购方来说,这场密度竞赛改变的不是芯片选型,而是报价的计量单位。过去按卡、按台谈价,现在越来越多的项目按柜谈。这篇文章把超节点的参数口径、适用场景,以及它和现有整机租赁价格之间的换算关系讲清楚。
一、超节点解决的是机间通信,不是单卡性能
先把定义说清楚,避免把它当成又一代新卡的营销名词。
指把数十到上百颗加速器通过高速互联在单个物理机柜内组成一个计算域,卡与卡之间的数据交换不再经过传统以太网或 InfiniBand 交换机,而是走柜内背板或铜缆直连,把通信时延压到百纳秒级。按天数智芯公布的参数,其整柜 P2P 互联单跳时延在 100ns 级,支持跨节点显存直访。
天数智芯副总裁郭为对媒体解释过这个思路的由来:以前一台服务器装 8 张卡叫单节点,单节点不够用,就沿传统数据中心的做法把多台服务器连成集群,但集群间通信效率难以提升,卡与卡之间的数据交换会成为新的短板。超节点的做法是把多机通信变成机内通信。
这个变化对大模型训练和推理都有意义。模型参数量从千亿走向万亿后,单卡显存和单卡算力都逼近物理上限,靠堆机器扩规模的做法会遇到通信瓶颈,柜内互联是把瓶颈往后推的手段。
二、密度竞赛里的几个公开数字
本届工博会上,至少四家厂商拿出了可交付或已交付的超节点方案。把公开参数放在一起,密度梯次比较清楚。
| 厂商 | 方案 | 单柜规模 | 公开信息 |
|---|---|---|---|
| 天数智芯 | 天垓300 IXL144 | 144 颗 GPU、18 颗 CPU、约 10.1TB 显存 | 2026 工博会首秀;厂商测算每百万有效 Token 成本较国际主流方案低 40% |
| 沐曦股份 | 曦景 S600 | 单机柜 64 卡全互连 | 2026 工博会展示 |
| 燧原科技 | 云燧 ESL64-O | 正交架构、零线缆设计 | 与中兴通讯共同开发;官方称可支撑万卡级以上集群组网 |
| 东方算芯 | 慧算 HS256 | 双机柜 8 台标准液冷服务器 | 单超节点 33 PF BF16 算力;年底交付千卡级集群 |
需求侧的规模也在同步上去。IDC 给出的数字是,2026 年中国智能算力规模预计达到 2576.5 EFLOPS,同比增长 87.9%。需求真实放量之后,超节点的规模化部署才顺理成章。
三、Token 工厂是第一批买单的场景
超节点的采购门槛不低,单柜集成上百颗芯片,整套系统的投入远超一台八卡整机。那么什么场景值得为它买单?
郭为给出的判断是高并发、超长上下文、需要超大显存的高附加值场景。最典型的例子是 Token 工厂。假设要部署一个万亿参数级别的模型,支撑数百乃至上千用户的高并发访问,同时还要满足长上下文需求,这就要求系统同时具备高算力、高效协同和大显存容量三方面能力。以 144 颗 GPU 加约 10.1TB 显存的配置,可以同时支撑高并发与超长上下文。
他提到的其他场景包括搜索推荐、AI Coding、AI 短剧和超长文档分析。其中 AI Coding 被点名为当前最复杂的 Token 应用之一,原因是它对模型参数量要求极高,同时工程师在高并发场景下往往需要处理数千行代码的超长上下文。
归纳一下判断标准:模型规模在万亿参数级别、并发用户数以百千计、上下文长度以十万 token 计,这三个条件同时成立时,超节点的单位成本才有优势。缺任何一条,用八卡整机集群或容器实例更划算。
四、从整机租赁到整柜租赁,报价口径怎么换
目前算力租赁平台上的在架机型仍以八卡整机为主,超节点多数还处在交付或小规模部署阶段。做容量规划时,一个实用的办法是把超节点的显存总量折算成现有整机台数,先得到量级概念。
天垓300 IXL144 单柜约 10.1TB 显存,按 1TB 等于 1024GB 换算为 10342GB。
H200 141G 八卡整机单台显存为 141GB 乘以 8,等于 1128GB。
10342 除以 1128,约等于 9.17。
结论:一个 144 卡超节点柜的显存总量,约等于 9 台 H200 141G 八卡整机。按极智算(jygpu.com)2026 年 10 月 15 日的在架报价,H200 141G 八卡整机在陕西一区的月付价为 ¥151920,9 台合计 ¥1367280。
这个数字只能作为量级参照,不能等同于超节点的实际报价。柜内互联形态、供电密度、液冷条件都和标准整机柜不同,核价必须逐项拆开。
官网在架的八卡整机价位分布如下,采集日期为 2026 年 10 月 15 日,均为月付口径。
| 机型 | 区域 | 单台月租 | 折合单卡 | 互联形态 |
|---|---|---|---|---|
| 华为 910B 64G | 湖北一区 | ¥18800 | ¥2350 | 共享 2000M |
| 华为 910B 64G | 华为专区 | ¥21200 | ¥2650 | 独享 20M |
| NVIDIA A100 80G | 四川三区 | ¥41600 | ¥5200 | NVLink |
| NVIDIA H20 96G | 四川三区 | ¥45600 | ¥5700 | IB 组网 400G×4 |
| NVIDIA H100 80G | 吉林一区 | ¥90400 | ¥11300 | NVLink + IB 400G×4 |
| NVIDIA H200 141G | 陕西一区 | ¥151920 | ¥18990 | NVLink + IB 400G×8 |
| NVIDIA B300 288G | 四川一区 | ¥392000 | ¥49000 | NVLink + IB 800G×10 |
折合单卡价从 ¥2350 到 ¥49000,跨度超过 20 倍。这个跨度里,显存容量、互联能力、CPU 与内存配比都在起作用。核价时把这几项单独列出来比,比只比单卡租金更有意义,因为超节点的价值恰恰体现在机间通信效率上。需要核对具体在架机型与实时价格,可以直接查看算力市场实时报价。
五、什么情况下不必上超节点
这条判断同样重要,因为多数企业的负载并不需要超节点。
如果是单轮推理、离线批处理,或者模型规模在百亿参数以内,八卡整机甚至容器实例就够了。以极智算容器实例侧的价格为例,910B 64G 为 ¥3.58/时、¥2577/月,显存 64GB;4090 48G 为 ¥2.86/时、¥1956/月,显存 48GB。按小时计的实例适合时长不确定的任务,超节点的成本优势只在长周期、大规模、高并发的场景里才显现。
另一个现实约束是机房条件。超节点的单柜功率密度远高于标准机柜,厂商的表述是可以进入现有机房,前提是供配电、承重、散热条件匹配。这两句话之间往往隔着一次改造,改造费用要在签约前评估清楚。
常见问题
核心区别在通信路径。八卡整机集群靠网卡把多台服务器连起来,机间通信要经过交换机,时延和带宽都有损耗;超节点把上百颗加速器放进一个计算域,柜内互联时延可到百纳秒级,支持跨节点显存直访。对通信敏感的负载,这个差别直接反映在有效算力利用率上。
厂商给出的答复是可以进入现有机房,但有前置条件,即供配电容量、楼层承重、散热方式三项都要匹配。144 颗加速器集中在单柜,功率密度远超通用机柜,风冷方案很难支撑,多数需要液冷和相应的冷却水或 CDU 条件。建议把这部分改造费用计入项目预算,而不是默认机房可直接承接。
因为长上下文和高并发都会吃掉显存。上下文越长,KV Cache 占用越大,业内通用的估算口径是单 token 的 KV Cache 占用与层数、注意力头数、头维度、数据类型相关,乘以并发会话数和上下文长度才是峰值占用。要同时支撑数百上千用户和十万级 token 的上下文,显存总量必须足够大,这也是 10.1TB 这类配置的价值所在。
先按显存总量折算到现有整机。上文的口径是 10.1TB 约等于 9 台 H200 141G 八卡整机,据此可以推算需要多少台整机才能承载同等规模的模型与上下文。再按互联需求决定是否走 NVLink 与 IB 组网,最后核对单卡租金与带宽形态。这样得到的方案精度不如超节点,但可以作为过渡期的容量基线。
2026 工博会参展规模、各厂商超节点公开参数、天数智芯副总裁郭为相关表述:文汇报与 21 世纪经济报道 2026 年 10 月 15 日报道。
2026 年中国智能算力规模 2576.5 EFLOPS、同比增长 87.9%:IDC 测算,经媒体 2026 年 10 月 15 日引用。
机型配置与价格:极智算(jygpu.com)官网算力市场与裸金属页面,2026 年 10 月 15 日采集。价格随市场波动,以下单页面显示为准。
超节点显存折算与折合单卡价为官网公开数字的算术换算,用于量级参照,不构成采购建议。
提供模型参数量、上下文长度、并发会话数与互联要求,可以按统一口径拿到容器实例与八卡整机的对照报价。
查看算力市场实时报价