H200还是B300:算力租赁平台的大显存裸金属整机怎么定价
给大模型选裸金属整机,绕不过一个分水岭:显存到 141G 还是 288G。
这两个数字背后是两套完全不同的价位。极智算官网 9 月 29 日的在售页面显示,NVIDIA H200 141G 八卡整机(陕西一区)月租 ¥151,920,NVIDIA B300 288G 八卡整机(四川一区)月租 ¥392,000。同样是 8 卡、同样是物理独占、同样带 NVLink 与 IB 组网,价格差了 2.58 倍。
多出来的这 24 万元一个月,买到的到底是什么?这笔钱该不该花?下面从定价逻辑、配置差异和市场参照三个角度拆解。
大显存裸金属整机指单机搭载 8 张高显存 GPU(单卡显存通常 80G 及以上)的物理独占服务器,不经过虚拟化层,GPU、内存与网络资源全部由单一租户独享。它支持 NVLink 卡间高速互联与 IB 集群组网,常用于大模型训练、长上下文推理和高并发推理服务。相比容器实例,它的优势在组网完整性与运行稳定性,劣势在起租门槛与固定成本。

一、先看全部在售档位,再谈选择
只看两个极端容易误判。把官网在售的大显存整机按价格排序,梯度其实很清楚。
| 机型 | 区域 | 显存 | 组网 | 月租 |
|---|---|---|---|---|
| NVIDIA A100 40G 8 卡 | 四川三区 | 40G×8 | NVLink + IB 200G×2 | ¥20,800 |
| NVIDIA A800 80G 8 卡 | 四川三区 | 80G×8 | IB 200G×2 | ¥39,200 |
| NVIDIA A100 80G 8 卡 | 四川三区 | 80G×8 | NVLink | ¥41,600 |
| NVIDIA H20 96G 8 卡 | 四川三区 | 96G×8 | IB 400G×4 | ¥45,600 |
| NVIDIA H20 141G 8 卡 | 陕西一区 | 141G×8 | NVLink + IB | ¥57,600 |
| NVIDIA H800 80G 8 卡 | 四川三区 | 80G×8 | NVLink + IB 400G×1 | ¥81,199 |
| NVIDIA H100 80G 8 卡 | 宁夏一区 | 80G×8 | 以太网 25G×1 | ¥88,480 |
| NVIDIA H100 80G 8 卡 | 吉林一区 | 80G×8 | NVLink + IB 400G×4 | ¥90,400 |
| NVIDIA H200 141G 8 卡 | 陕西一区 | 141G×8 | NVLink + IB 400G×8 | ¥151,920 |
| NVIDIA B300 288G 8 卡 | 四川一区 | 288G×8 | NVLink + IB 800G×10 | ¥392,000 |
从 A100 40G 的 ¥20,800 到 B300 288G 的 ¥392,000,整个区间跨了接近 19 倍。这个跨度说明一件事:大显存整机不是一类产品,而是几条互不替代的产品线。选型的第一步不是比较单价,而是先把自己的任务定位到对应的区间。
二、H200 141G 与 B300 288G:差在哪
把两台机器的配置并排看,差异集中在三个地方。
| 项目 | H200 141G(陕西一区) | B300 288G(四川一区) |
|---|---|---|
| CPU | 48 核×2,Intel Xeon Platinum 8592+ | 120 核×2,Intel Xeon 6767P |
| 内存 | 64G×32,DDR5 | 64G×32,DDR5 |
| 系统盘 | 480G×2 | 1920G×2 |
| 数据盘 | 3.84T×4,SSD | 3.84T×8,NVMe |
| 组网 | IB 组网 400G×8,NVLink | IB 组网 800G×10,NVLink |
| 带宽 | 共享 1000M | 独享 30M,可扩容 12 元/月/M |
| 月租 | ¥151,920 | ¥392,000 |
第一是单卡显存,141G 到 288G,翻了一倍多。这直接决定了单机能容纳多大的模型和多大的上下文。对 70B 级模型的推理而言,141G 单卡已经够用;但当上下文拉到百万 token 级别、或者需要在一张卡上同时承载多个并发请求时,288G 的价值才体现出来。
第二是互联带宽,从 400G×8 到 800G×10。这一项在跨机扩展场景下权重很高。多机训练时,梯度同步的通信量随卡数增长,互联带宽不足会成为瓶颈,让增加卡数带来的收益快速衰减。IB 800G×10 的配置是为更大规模集群准备的。
第三是 CPU 与存储规格。B300 机型的 CPU 核数接近翻倍,系统盘从 480G×2 提到 1920G×2,数据盘从 4 块 SSD 变为 8 块 NVMe。这些不是锦上添花,而是为了匹配更高的单机吞吐:数据加载跟不上,再强的卡也会空转。
把市场报盘和官网价格放在一起比,会看到一个反直觉的结果:官网的短周期月租,并不比市场上的 5 年长约贵多少。H200 官网 ¥151,920/月,市场 5 年闭口价 13.3 万元/台·月;B300 官网 ¥392,000/月,市场闭口价 35.6 万元/台·月。后者便宜约 9%,但代价是 5 年锁定期和“仅限强主体”的资质门槛。
这个对比给了一条很实际的决策线索:如果你能承受 5 年锁定期,长约的单价优势值得争取;如果业务周期不确定、需要按阶段调整算力规模,短周期月租多付出的那部分,本质上是灵活性的价格。
三、什么场景该上 288G
显存翻倍,价格涨 2.58 倍。这个杠杆只有在特定条件下才划算。
适合上 288G 的情况。第一,模型权重本身超过 141G,比如超大规模稠密模型或未量化的大参数模型,装不下就没有讨论空间。第二,长上下文高并发推理服务,KV 缓存的峰值占用远超权重,显存越大能承载的并发越高,单位请求成本反而下降。第三,需要跨机扩展到 16 卡及以上的训练集群,800G 级 IB 组网是前提。
不必上 288G 的情况。第一,70B 级模型的常规推理,141G 已经充裕,H200 或 H20 141G 都能承接。第二,中小规模微调,显存不是瓶颈,反而 CPU 与数据盘 IO 决定了训练效率。第三,业务并发还在验证阶段的团队,先用 141G 档位跑通再扩容,能避免为不确定的需求付固定的高月租。
值得注意的是,H20 141G 提供了一个中间选项:显存同样是 141G,月租 ¥57,600,配置为 52 核×2、64G×32 DDR4、系统盘 480G、数据盘 4T×4 NVMe,带 NVLink 与 IB 组网、共享 2000M 带宽。它的单卡显存与 H200 相同,价格不到 H200 的四成。差距在算力密度与互联规格,但对显存敏感、对算力峰值不敏感的业务,这个档位的性价比很突出。
查看大显存整机实时报价

四、签约前的三项核对
核对一:显存之外的配套是否匹配。以 H200 与 B300 为例,数据盘从 3.84T×4 SSD 变为 3.84T×8 NVMe,系统盘从 480G×2 变为 1920G×2。这些差异对数据密集型的训练任务影响明显,不能只看显存数字。
核对二:组网规格与扩展计划是否一致。如果未来半年内计划从单机扩到多机,签约时就应确认机房内的 IB 交换能力是否支持,以及新增节点的带宽档位能否对齐。等到扩展时才发现组网规格不匹配,改造成本会很高。
核对三:计费方式与资金安排是否匹配。市场长约普遍要求押金,Mysteel 报盘中的“押二付一”“押一付六”都意味着大额前置资金占用。短周期月租虽然单价略高,但资金压力小得多。这一项要和财务一起算,不能只比单价。