裸金属GPU服务器选型时最容易忽略的是组网。本文把官网在售机型的NVLink、IB与以太网配置逐台对照,给出按任务规模选组网的可执行方法与真实月租价格。
同样 8 张 H100,两台整机的月租差了 ¥1,920。差价不在卡上,在组网。
极智算官网在售的两款 H100 80G 8 卡整机,宁夏一区 ¥88,480/月,网卡是以太网 25G×1、1000M 共享带宽;吉林一区 ¥90,400/月,配 NVLink 加 IB 组网 400G×4、1000M 共享带宽。贵的这一台,贵在跨机通信能力上。
组网这件事在选型阶段最容易被跳过,因为参数表上“8 卡”“80G 显存”更显眼。但真要跑多机训练,决定效率的是互联。这篇把官网在售机型的组网配置摆在一起对照,说清什么规模的任务该选哪一种。
一、先分清两层网络
裸金属整机的互联分两层,作用完全不同,容易被混为一谈。
机内互联解决同一台机器内 8 张卡之间怎么通信,主流方案是 NVLink 这类专有高速互联。官网在整机页面用 NVLink 标签标注,配了这个标签的机型,机内张量并行的效率会明显好于走 PCIe 的方案。
跨机互联解决多台机器之间怎么通信,走的是网卡。这里才有 IB 与以太网的分野。IB(InfiniBand)是专为高性能计算设计的网络,时延低、带宽高、支持 RDMA 直接内存访问;以太网生态成熟、成本低、运维熟悉,在 100G 及以上速率上也能承担部分并行训练场景。

二、官网在售机型的组网与月租对照
下表按组网能力从低到高排列,价格为 2026-09-30 从官网实时页面采集。
| 机型(8 卡整机) | 区域 | 组网配置 | 月租 |
|---|---|---|---|
| NVIDIA 4090 24G | 四川二区 | 以太网 25G×2 | ¥9200 |
| NVIDIA 4090 48G | 四川三区 | 以太网 25G×2 | ¥11360 |
| NVIDIA 5090 32G | 河南一区 | 以太网 25G×1 | ¥15920 |
| NVIDIA 5090 32G | 安徽一区 | 以太网 100G×2 | ¥15910 |
| 华为 910B 64G | 四川一区 | 以太网 200G×6 | ¥21760 |
| NVIDIA A100 40G | 四川三区 | NVLink + IB 200G×2 | ¥20800 |
| NVIDIA A800 80G | 四川三区 | IB 200G×2 | ¥39200 |
| NVIDIA H20 96G | 四川三区 | IB 400G×4 | ¥45600 |
| NVIDIA H800 80G | 四川三区 | NVLink + IB 400G×1 | ¥81199 |
| NVIDIA H100 80G | 宁夏一区 | 以太网 25G×1 | ¥88480 |
| NVIDIA H100 80G | 吉林一区 | NVLink + IB 400G×4 | ¥90400 |
| NVIDIA H200 141G | 陕西一区 | NVLink + IB 400G×8 | ¥151920 |
| NVIDIA B300 288G | 四川一区 | NVLink + IB 800G×10 | ¥392000 |
价格随市场波动,以实际为准。每台机型的完整配置单在官网按区域列出,包含 CPU 型号、内存容量、系统盘与数据盘规格。
三、什么规模的任务需要 IB
一条实用的分界线:任务能不能装进一台机器。
单机能装下的模型,靠机内 NVLink 就够,跨机网卡配以太网不影响主要效率,这时选 4090、5090 这类以太网机型更划算。同一台 8 卡 4090 24G 整机月租 ¥9200,8 卡 H20 96G 配 IB 400G×4 是 ¥45600,价格差近五倍,用错场景就是纯浪费。
需要跨机拆分的任务,通信开销会进入关键路径。这时 IB 的价值体现在两点:一是 RDMA 绕开操作系统内核直接访问内存,时延低;二是带宽充足,梯度同步等待的时间短。多机数据并行、流水线并行、专家并行这些策略,对跨机带宽的敏感度依次上升。
上游的演进方向也印证了这一点。9 月 29 日,中国电信上海公司的昇腾 950DT 液冷 1024 超节点落地青浦,公开参数是 256TB 全局统一内存编址与 TB 级互联带宽;同一天中国移动北京公司的千卡超节点落地昌平,单节点 1024 卡算力 1 EFLOPS(FP8),支持微秒级时延。超节点做的事,本质就是把跨机通信变成准机内通信。
四、容易被忽略的一项:共享还是独享
网卡规格之后,还要看公网带宽的口径。整机页面里写的是“共享 1000M”还是“赠送 20M 独享”,差别比数字大小更重要。
共享带宽意味着同机房其他租户会分流,高峰时段的实际可用带宽可能低于标称值。独享带宽是给这台机器的固定额度,适合需要稳定对外服务的场景。以 H100 吉林一区为例,标注的是共享 1000M;而 A800 四川三区是赠送 50M 独享,另外可按 15 元/月/M 扩容。910B 三台的差异更明显:华为专区赠送 20M 独享、扩容 18 元/月/M,四川一区赠送 10M 独享、扩容 12 元/月/M。
对训练任务来说,公网带宽通常不是瓶颈,数据从对象存储拉取走的是内网;对需要对外提供推理接口的业务,独享带宽的稳定性价值更高。
不确定要不要上 IB 的时候,先在官网容器实例按小时试同一份代码在不同组网下的表现,拿到实测数据再决定买哪种整机,比看参数表可靠。
五、选型三步
第一步,定任务边界。先明确模型规模、是否需要跨机、并发要求,这三项决定了组网的最低要求。
第二步,按组网筛机型。单机任务优先看 NVLink 有无与显存总量;跨机任务必须有 IB,且带宽不低于 200G,规模较大的训练直接看 400G 或 800G。
第三步,同口径比价。把 CPU 型号与核数、内存、系统盘与数据盘、公网带宽口径四项一起列进比价表。同样标“910B 8 卡”,湖北一区 ¥18,800 与四川一区 ¥21,760 的差异就来自这些地方。
常见问题
集群规模:CNNIC《生成式人工智能应用发展报告(2026)》,首个全国产 10 万卡 AI 超集群已投用,2026-09-29。
产品价格与组网规格:极智算官网 /markets/bms 页面实时采集,采集时间 2026-09-30,价格随市场波动以实际为准。