算力租赁平台H20整机什么时候必须上:八卡NVLink与私有化部署
H20 在官网有两条产品线:容器实例和裸金属整机。实例 141G 包月 8611 元,整机 141G 月付 69120 元,折合单卡 8640 元。单卡价差 29 元,不到半个百分点。
价差这么小,选择就不该按价格做。整机贵的不是卡,是独享、互联、内存与本地盘。这四样东西在特定场景里是硬条件,缺了就跑不起来。
今天官网裸金属 16 组机位的价格与余量,与前两天完全一致,H20 141G 整机在陕西一区余 994 台。这篇讲清三个必须上整机的条件,以及交付验收要看哪几项。
一、两条线的报价摆一起
整机侧今天有两个 H20 机位。141G 版在陕西一区,接口价 72000 元,月付按 0.96 系数算 69120 元,年付折合月价 57600 元,折单卡分别是 8640 元与 7200 元。
96G 版在四川三区,接口价 57000 元,月付 54720 元,年付折合月 45600 元,折单卡为 6840 元与 5700 元。八卡整机,机位余 44 台(总 50),属于比较紧的状态。
实例侧 141G 是 8611 元包月,21 核 CPU、125G 内存、300G 数据盘。把两条线并排,能看出整机在卡以外的部分拉开了量级差。
| 项目 | 实例 141G | 整机 141G(陕西一区) | 整机 96G(四川三区) |
|---|---|---|---|
| 单卡月价 | 8611 元 | 8640 元 | 6840 元 |
| 卡数形态 | 1/2/4/8 档 | 8 卡整机 | 8 卡整机 |
| CPU | 21 核 | 2×8563C,52 逻辑核 | 2×8480,112 逻辑核 |
| 内存 | 125G | 2048G | 2048G |
| 本地盘 | 系统 60G + 数据 300G | 4×4T NVMe | 4×3.84T SSD |
| 互联 | 容器内共享 | NVLink 支持 | 无机内 NVLink |
| 网络 | 1000Mb 共享 | 2000M 共享 | 4×400G IB,20M 独享 |
| 余量 | 8 卡 | 994 台 | 44 台 |
表里最刺眼的是内存与本地盘。整机 2048G 内存是实例的 16 倍,本地盘 16T 是实例 300G 的 53 倍。这两项决定了整机能干实例干不了的活。
二、硬条件一:机内张量并行需要NVLink
模型单卡装不下时要切张量并行。切分之后,每一层的前向都要在各卡之间交换中间结果,通信量随层数线性增长。
走 PCIe 或以太网做卡间通信,带宽与延迟都吃紧。八卡 NVLink 把机内互联做成专用通道,通信不占用业务网卡,切分效率明显更好。这就是整机 141G 标着 NVLink 支持的意义。
96G 整机这一栏写的是无机内 NVLink,但它给了 4 条 400G IB。IB 用于跨机互联,机内八卡之间的通信仍走 PCIe。做单机八卡大模型推理,141G 版的机内互联更合适;做多机集群训练,96G 版的 IB 组网更关键。
判断方法很直接:模型能否在单卡跑起来。不能,且要靠机内八卡切分,选 141G 整机;能单卡跑但要多机并行,选带 IB 的机型。
IB 的账要按每卡均摊算。96G 整机是 4 条 400G 链路,八卡共享,每卡均摊 200G;这个数值决定跨机训练时梯度同步的速度。141G 整机的接口里 IB 字段渲染为 0,签约前要书面确认实际链路数,别按页面字段下判断。
三、硬条件二:数据不出内网
容器实例是多租户共享的物理机,逻辑隔离靠容器。对多数业务够用,但金融、医疗、政务类客户常有一条硬要求:数据与模型都不出自己可控的环境。
裸金属整机给的是整台物理机独占,从 BIOS 到磁盘都是单一租户。这条在合规评审里是实打实的加分项,不是营销话术。
网络侧也要配套看。141G 整机标的是 2000M 共享带宽,96G 整机是 20M 独享加 4 条 400G IB。私有化部署如果只在内网服务,公网带宽需求低,重点在 IB 与内网交换;如果要对外提供 API,共享带宽的实际上行要提前测。
还有一条容易漏:数据落盘位置。整机本地盘 16T 的数据归租户独占,退租时的擦除条款要在合同里写清,这比技术参数更影响合规结论。
四、硬条件三:内存与本地盘的量级
实例 125G 内存够跑推理,不够做数据工程。多模态训练要先解码视频、抽帧、清洗,这些步骤在内存里完成,2048G 内存能把整个批次的中间结果托住。
本地盘同理。300G 装得下权重,装不下数据集。16T NVMe 可以放几十万条图文对,训练时随机读不用回源对象存储,数据管道的抖动会小很多。
算一笔具体的账:一路 1080P 视频按每分钟 100M 估算,16T 大约能放 16 万分钟素材;300G 只能放 3000 分钟。做视频类微调,这个差距直接决定能不能在本地完成数据准备。
如果业务只是在线推理,这两项用不上,整机的溢价就白花了。判断标准是:有没有一步需要在本地处理原始数据。有,整机;没有,实例。
五、交付与验收要看的三项
其一,机位是否真实可交付。H20 141G 整机余 994 台(总 1000),H20 96G 余 44 台(总 50)。余量大的机型交付快,余量小的要确认排期,别按页面数字直接承诺客户上线时间。
其二,组网配置是否与需求匹配。141G 整机的 IB 字段在接口里显示为 0 条 0G,这是页面渲染问题,不能据此判断没有 IB。签约前要一份书面组网清单,写清 IB 速率、链路数与交换机型号。
其三,年付条款与退租规则。年付折合月价比月付低 16.67%,但定金占用与中途退租的结算方式要提前确认。八卡整机年付总额 691200 元,三成定金就是 20 万量级,财务排期要提前留出窗口。
交付周期也要算进项目计划。整机涉及上架、组网、系统安装与验收,不是点一下就能开机;余量大的机型排期短,余量小的机型要提前锁。把交付周期写进合同附件,比口头承诺可靠。
整机的价格是慢变量,三天不动是常态,谈判空间在付款系数与另计项上。H20 整机配置与机位余量可以在裸金属页面逐台核对,签合同前建议再抓一次当日数据。
常见问题
Q:H20 整机的 NVLink 有什么用?
A:用于机内八卡的张量并行通信。模型单卡装不下时切分到多卡,每层都要交换中间结果,NVLink 提供专用高带宽通道,不占用业务网卡,切分效率高于走 PCIe 或以太网。
Q:私有化部署选实例还是整机?
A:看是否有数据不出内网的硬要求,以及是否需要本地处理原始数据。前者只能选整机独占,后者看内存与本地盘量级。纯在线推理且无合规限制,实例的单位成本更友好。
Q:整机折单卡 8640 元比实例 8611 元贵,为什么还选整机?
A:价差只有 29 元,买的是独享物理机、机内 NVLink、2048G 内存与 16T 本地盘。这些在训练、数据准备与合规场景里是硬条件,不是可选项。
Q:H20 141G 整机接口里 IB 显示为 0,是没有 IB 吗?
A:不能据此判断。该字段在页面上存在渲染异常,配置真实性需向商务索取书面组网清单确认,写明 IB 速率、链路数与交换机型号,再写进合同附件。
查H20整机配置与机位
进入算力市场相关阅读:
标签:算力租赁平台|H20整机|NVLink有什么用|私有化部署|裸金属H20