给大模型选裸金属整机,绕不过一个分水岭:显存到 141G 还是 288G。

这两个数字背后是两套完全不同的价位。极智算官网 9 月 29 日的在售页面显示,NVIDIA H200 141G 八卡整机(陕西一区)月租 ¥151,920,NVIDIA B300 288G 八卡整机(四川一区)月租 ¥392,000。同样是 8 卡、同样是物理独占、同样带 NVLink 与 IB 组网,价格差了 2.58 倍。

多出来的这 24 万元一个月,买到的到底是什么?这笔钱该不该花?下面从定价逻辑、配置差异和市场参照三个角度拆解。

什么是大显存裸金属整机

大显存裸金属整机指单机搭载 8 张高显存 GPU(单卡显存通常 80G 及以上)的物理独占服务器,不经过虚拟化层,GPU、内存与网络资源全部由单一租户独享。它支持 NVLink 卡间高速互联与 IB 集群组网,常用于大模型训练、长上下文推理和高并发推理服务。相比容器实例,它的优势在组网完整性与运行稳定性,劣势在起租门槛与固定成本。

20.png

一、先看全部在售档位,再谈选择

只看两个极端容易误判。把官网在售的大显存整机按价格排序,梯度其实很清楚。

官网在售高显存整机对照(来源:极智算官网 /markets/bms,2026-09-29 采集,价格随市场波动,以实际为准)
机型区域显存组网月租
NVIDIA A100 40G 8 卡四川三区40G×8NVLink + IB 200G×2¥20,800
NVIDIA A800 80G 8 卡四川三区80G×8IB 200G×2¥39,200
NVIDIA A100 80G 8 卡四川三区80G×8NVLink¥41,600
NVIDIA H20 96G 8 卡四川三区96G×8IB 400G×4¥45,600
NVIDIA H20 141G 8 卡陕西一区141G×8NVLink + IB¥57,600
NVIDIA H800 80G 8 卡四川三区80G×8NVLink + IB 400G×1¥81,199
NVIDIA H100 80G 8 卡宁夏一区80G×8以太网 25G×1¥88,480
NVIDIA H100 80G 8 卡吉林一区80G×8NVLink + IB 400G×4¥90,400
NVIDIA H200 141G 8 卡陕西一区141G×8NVLink + IB 400G×8¥151,920
NVIDIA B300 288G 8 卡四川一区288G×8NVLink + IB 800G×10¥392,000

从 A100 40G 的 ¥20,800 到 B300 288G 的 ¥392,000,整个区间跨了接近 19 倍。这个跨度说明一件事:大显存整机不是一类产品,而是几条互不替代的产品线。选型的第一步不是比较单价,而是先把自己的任务定位到对应的区间。

二、H200 141G 与 B300 288G:差在哪

把两台机器的配置并排看,差异集中在三个地方。

H200 141G 与 B300 288G 整机配置对照
项目H200 141G(陕西一区)B300 288G(四川一区)
CPU48 核×2,Intel Xeon Platinum 8592+120 核×2,Intel Xeon 6767P
内存64G×32,DDR564G×32,DDR5
系统盘480G×21920G×2
数据盘3.84T×4,SSD3.84T×8,NVMe
组网IB 组网 400G×8,NVLinkIB 组网 800G×10,NVLink
带宽共享 1000M独享 30M,可扩容 12 元/月/M
月租¥151,920¥392,000

第一是单卡显存,141G 到 288G,翻了一倍多。这直接决定了单机能容纳多大的模型和多大的上下文。对 70B 级模型的推理而言,141G 单卡已经够用;但当上下文拉到百万 token 级别、或者需要在一张卡上同时承载多个并发请求时,288G 的价值才体现出来。

第二是互联带宽,从 400G×8 到 800G×10。这一项在跨机扩展场景下权重很高。多机训练时,梯度同步的通信量随卡数增长,互联带宽不足会成为瓶颈,让增加卡数带来的收益快速衰减。IB 800G×10 的配置是为更大规模集群准备的。

第三是 CPU 与存储规格。B300 机型的 CPU 核数接近翻倍,系统盘从 480G×2 提到 1920G×2,数据盘从 4 块 SSD 变为 8 块 NVMe。这些不是锦上添花,而是为了匹配更高的单机吞吐:数据加载跟不上,再强的卡也会空转。

同期的市场流通价参照(来源:Mysteel 算力日报,2026-09-28)
  • H200:新疆现货租赁 64 台报盘,5 年闭口,13.3 万元/台·月,押一付六,仅限强主体;另有 6 台启动 3 年起租,13.5 万元/台·月;同期有机构收购 H200 SXM 整机现货,报价 590 万元以上
  • B300:广东现货租赁 128 台报盘,5 年闭口,IB 组网,35.6 万元/台·月,押二付一,仅限强主体;另有 B300 3T 机型月租押一付一,40 万元/台·月

把市场报盘和官网价格放在一起比,会看到一个反直觉的结果:官网的短周期月租,并不比市场上的 5 年长约贵多少。H200 官网 ¥151,920/月,市场 5 年闭口价 13.3 万元/台·月;B300 官网 ¥392,000/月,市场闭口价 35.6 万元/台·月。后者便宜约 9%,但代价是 5 年锁定期和“仅限强主体”的资质门槛。

这个对比给了一条很实际的决策线索:如果你能承受 5 年锁定期,长约的单价优势值得争取;如果业务周期不确定、需要按阶段调整算力规模,短周期月租多付出的那部分,本质上是灵活性的价格。

三、什么场景该上 288G

显存翻倍,价格涨 2.58 倍。这个杠杆只有在特定条件下才划算。

适合上 288G 的情况。第一,模型权重本身超过 141G,比如超大规模稠密模型或未量化的大参数模型,装不下就没有讨论空间。第二,长上下文高并发推理服务,KV 缓存的峰值占用远超权重,显存越大能承载的并发越高,单位请求成本反而下降。第三,需要跨机扩展到 16 卡及以上的训练集群,800G 级 IB 组网是前提。

不必上 288G 的情况。第一,70B 级模型的常规推理,141G 已经充裕,H200 或 H20 141G 都能承接。第二,中小规模微调,显存不是瓶颈,反而 CPU 与数据盘 IO 决定了训练效率。第三,业务并发还在验证阶段的团队,先用 141G 档位跑通再扩容,能避免为不确定的需求付固定的高月租。

值得注意的是,H20 141G 提供了一个中间选项:显存同样是 141G,月租 ¥57,600,配置为 52 核×2、64G×32 DDR4、系统盘 480G、数据盘 4T×4 NVMe,带 NVLink 与 IB 组网、共享 2000M 带宽。它的单卡显存与 H200 相同,价格不到 H200 的四成。差距在算力密度与互联规格,但对显存敏感、对算力峰值不敏感的业务,这个档位的性价比很突出。

全系整机配置、组网规格与月租逐台公示,支持按天与包月两档计费
查看大显存整机实时报价

19.png

四、签约前的三项核对

核对一:显存之外的配套是否匹配。以 H200 与 B300 为例,数据盘从 3.84T×4 SSD 变为 3.84T×8 NVMe,系统盘从 480G×2 变为 1920G×2。这些差异对数据密集型的训练任务影响明显,不能只看显存数字。

核对二:组网规格与扩展计划是否一致。如果未来半年内计划从单机扩到多机,签约时就应确认机房内的 IB 交换能力是否支持,以及新增节点的带宽档位能否对齐。等到扩展时才发现组网规格不匹配,改造成本会很高。

核对三:计费方式与资金安排是否匹配。市场长约普遍要求押金,Mysteel 报盘中的“押二付一”“押一付六”都意味着大额前置资金占用。短周期月租虽然单价略高,但资金压力小得多。这一项要和财务一起算,不能只比单价。

H200 141G 和 H20 141G 差在哪,价格为什么差这么多?
单卡显存同为 141G,但算力密度与互联规格不同。官网在售的 H20 141G 八卡整机(陕西一区)月租 ¥57,600,配置为 52 核×2、64G×32 DDR4、系统盘 480G、数据盘 4T×4 NVMe、共享 2000M 带宽;H200 141G 八卡整机月租 ¥151,920,配置为 48 核×2、64G×32 DDR5、系统盘 480G×2、数据盘 3.84T×4 SSD、IB 组网 400G×8。显存容量相同意味着可加载的模型规模相近,差异主要在计算吞吐与跨机通信能力。
B300 288G 值不值得上?
取决于三个条件:模型权重是否超过 141G、推理并发与上下文长度是否让 KV 缓存成为瓶颈、是否需要跨机扩展到 16 卡以上。三个条件命中任意两个,288G 的价值就成立。如果只是 70B 级模型的常规推理,141G 档位(H200 或 H20 141G)已经足够,把差价用在增加实例数量上通常更划算。
长约和短周期月租,哪个更省?
单价上长约更省。以 H200 为例,市场 5 年闭口报盘为 13.3 万元/台·月,官网短周期月租为 ¥151,920/月,差价约 12%。但长约通常要求押金(如押二付一、押一付六)并设有资质门槛,且 5 年内难以调整规模。业务周期不确定的团队,短周期月租多付的部分可以视为灵活性成本。
整机带宽是共享还是独享,影响大吗?
影响取决于业务类型。对外提供推理服务、需要大量公网出入流量的业务,独享带宽更稳定,不会因邻居流量波动而抖动。官网 B300 288G 配置为独享 30M 并可扩容(12 元/月/M),H200 141G 为共享 1000M。纯内部训练任务对流量的敏感度低,共享带宽通常够用。签约前应确认带宽类型与扩容单价,把扩容成本算进预算。
数据说明:官网整机配置与价格采集于 2026-09-29,页面标注“价格随市场波动,以实际为准”。市场流通报盘引自 Mysteel 算力日报(2026-09-28),报盘条款(期限、押金、资质要求)以发布方原文为准。文中价格对比仅供采购参考,不构成任何投资建议。