算力租赁平台H200只比H100贵7.4%:单位显存成本怎么核
11 月 9 日抓取的官网价格里,H200 141G 按量 13.94 元/时,H100 80G 按量 12.98 元/时。贵 0.96 元,幅度 7.4%,而显存从 80G 变成 141G,多 76%。
把价格折成每 GB 显存:H200 是 0.0989 元,H100 是 0.1623 元,前者便宜 39%。这个换算比按卡比价更贴近大模型负载的实际约束,因为显存决定能装多大模型、能开多少并发。
同一次抓取里还有一个更值得注意的位置:H800 80G 按量 13.88 元,只比 H200 便宜 0.06 元,显存少 61G,每 GB 显存成本是 H200 的 1.75 倍。选型时按数字代际排序,容易在这里栽跟头。
一、五个档位换成每 GB 显存的价格
先看原始价格与换算结果。按量价除以显存容量得到每 GB 显存的小时成本,包月价除以显存得到每 GB 显存的月成本。两个口径的排序并不完全一致,因为月折扣系数各档不同。
| 档位 | 显存 | 按量价 | 包月价 | 每 GB 按量 | 每 GB 包月 | 月折扣 |
|---|---|---|---|---|---|---|
| H200 141G | 141G | 13.94 元 | 8029 元 | 0.0989 元 | 56.9 元 | 0.8 |
| H800 80G | 80G | 13.88 元 | 7995 元 | 0.1735 元 | 99.9 元 | 0.8 |
| H100 80G | 80G | 12.98 元 | 7476 元 | 0.1623 元 | 93.5 元 | 0.8 |
| A800 80G | 80G | 7.15 元 | 4118 元 | 0.0894 元 | 51.5 元 | 0.8 |
| H20 96G | 96G | 6.2 元 | 3571 元 | 0.0646 元 | 37.2 元 | 0.8 |
| 4090 48G | 48G | 2.86 元 | 1956 元 | 0.0596 元 | 40.8 元 | 0.95 |
六档的月折扣系数里五个是 0.8,只有 4090 48G 是 0.95。这意味着前五档的包月价比价,与按量价比价结论一致,不会因为折扣差异被打乱。
排序很清楚:每 GB 显存最便宜的是 4090 48G(0.0596)与 H20 96G(0.0646),最贵的是 H800 80G(0.1735)。H200 排在第三便宜的位置,比 H100 便宜 39%,比 H800 便宜 43%。
这里要提醒一句:每 GB 显存成本低不等于划算。4090 与 H20 的单位显存便宜,是因为显存单价低但算力弱,跑大模型训练时算力与互联会成为瓶颈。这个指标的作用是筛显存档位,不是给性价比排名。
二、H200 只贵 7.4% 的三个原因
一是同架构。H200 与 H100 用的是同一代 GPU 架构,差别主要在显存:H200 用 HBM3e 堆到 141G,H100 是 80G HBM3。显存容量与带宽提升,算力规格接近,采购成本因此没有拉开代际差距。
二是平台的两档折扣系数相同。H200 与 H100 的日、月、年折扣都是 0.8,没有哪一档额外让利。所以 7.4% 的差价完全来自挂牌按量价的差额,13.94 对 12.98。
三是标注口径相同。官网行情接口里 H200 与 H100 的算力标注都是 1979 TF,这个数字是 FP16 Tensor 稀疏口径。标注相同不代表性能相同,实际差别在显存带宽与容量,跑长上下文推理与大批量训练时差距会显出来。
三项叠加的结论是:在同一个平台上,H200 相对 H100 的溢价只有 7.4%,而它能装下更大的模型、开更多并发。大模型推理与中小规模训练场景,优先看 H200 是合理的。
三、H800 的位置最尴尬
H800 按量 13.88 元,比 H200 便宜 0.06 元,折成幅度 0.43%。显存 80G,比 H200 少 61G。每 GB 显存成本 0.1735 元,是 H200 的 1.75 倍、H100 的 1.07 倍。
单看价格,H800 与 H200 几乎同价;单看显存,H800 与 H100 同档。它被夹在中间:既没有 H200 的容量,也没有 H100 的价格优势,比 H100 还贵 0.9 元。
这不是说 H800 不能选。它的算力规格高于 H100,在算力吃紧、显存够用的场景里仍有价值。但选型时如果只按价格排,H800 会显得毫无理由,必须结合具体负载判断。
这一档也提醒我们:型号名称里的数字不代表性能顺序。H800 是特定市场的规格版本,与 H100、H200 的关系不是简单的代际递进。看配置单与实测,比看型号名可靠。
四、比价三步:显存、算力、实测
一是按每 GB 显存成本筛档位。显存装不下模型,其他指标都免谈。经验口径是权重占显存七成以内要留出 KV Cache 与激活值的空间,70B 模型 fp16 权重约 140G,单卡 141G 刚好卡在边界,实际部署更常用多卡切分。
二是按单位算力成本复核。用按量价除以平台标注的算力值,注意先把稀疏与稠密口径拉平。同一页里 H20 标 148 是稠密口径、H100 标 1979 是稀疏口径,直接相除会把差距夸大一倍。
三是用自己模型实测。同一份权重、同一个推理框架、同一组并发,记录每秒 token 数与显存占用。实测吞吐除以每小时价格,得到单位产出的成本,这一步是跨档比价里可靠程度较高的一环。
三步之外的现实约束是库存。11 月 9 日抓取时,H100、H200、H800、A800、H20 五个档位全部余 0,H200 还带企业专属标签。比价结论要留着有货时用,下单前先确认当日可开通状态。
五、显存之外还要看的三个指标
显存决定能不能装下,带宽决定装下之后跑多快。H200 的显存带宽比 H100 高约四成,长上下文推理与大批量训练时,这个差距会直接反映在每秒 token 数与样本吞吐上。只看容量不看带宽,会低估两代卡的差别。
卡间互联决定多卡能不能协同。单机八卡用 NVLink,跨机要用 IB。官网裸金属配置单里,H200 陕西一区给的是 IB 400G×8,H20 四川三区是 IB 400G×4,H800 四川三区只有 IB 400G×1。每卡均摊带宽依次是 400G、200G、50G,多机训练的扩展效率差别很大。
卡内算力决定单卡能跑多快,但要按同一口径比。平台标注里 H20 的 148 TF 是稠密口径、H100 的 1979 TF 是稀疏口径,直接相除会把差距放大一倍。跨架构比较前,先把稀疏值折半或把稠密值翻倍,统一到同一基准。
三项指标的适用场景不同。显存优先的场景是长上下文推理与大模型加载;带宽优先的是高并发推理与大批量训练;互联优先的是多机并行训练。选型时先确定自己的瓶颈在哪一项,再按这一项排序。
四项全看的做法是列一张表:显存、带宽、单卡算力、每卡均摊互联,四项各填数字,再对照自己的模型与批次规模。这张表比任何选型指南都准,各档位实时报价可以直接填进这张表的数据源。
常见问题
Q:H200 为什么只比 H100 贵一点?
A:同架构、不同显存。H200 用 HBM3e 做到 141G,H100 是 80G HBM3,算力规格接近,采购成本没有代际差。平台两档的月折扣都是 0.8,差价就只剩挂牌价的 7.4%。
Q:H20 每 GB 显存最便宜,为什么不选它?
A:显存便宜但算力弱。H20 标 148 TF 是稠密口径,与 H100 的 1979 TF 稀疏口径不是同一基准,拉平后差距仍然明显。显存够用但算力吃紧的训练场景,H20 会成为瓶颈。
Q:H200 标 1979 TF 和 H100 一样,性能真的一样吗?
A:标注值一样,实际不同。标注是峰值算力口径,H200 的优势在显存容量与带宽,长上下文推理、大 batch 训练时体现明显。判断性能要看自己模型的实测吞吐。
Q:H200 带企业专属标签,怎么开通?
A:企业专属档位通常需要资质审核与商务流程,不走自助下单。有需求先联系平台商务确认资质材料与交付周期,价格与库存以审核后的报价为准。
查当日库存与节点报价
进入算力市场相关阅读:
标签:算力租赁平台|H200租赁|单位显存成本|GPU选型|H100价格