11 月 13 日平台可用卡 11 张,进口卡六个档位全部为零,910B 只剩三张散卡。这种状态下做方案,第一位的问题不是哪个型号便宜,而是哪些路径今天真的能开出来。

能开出来的路径有五条:H20 141G 的八卡实例、四卡实例,910B 的三张散卡,裸金属 H20 96G 整机,裸金属 4090 48G 整机。五条路径的月成本从 7293 元到 68888 元,跨度接近十倍。

下面按可得性、成本、显存与互联四个维度把这五条排开,文末给一张按任务类型选路的对照表。算账用官网数字四则运算,口径写清楚。666.png

余量告急时,一条主路分出五条支路,能走的条数取决于任务形态

一、先把五条路径的价格与显存摊平

第一条是 H20 141G 八卡实例。单卡包月 8611 元,八卡合计 68888 元,总显存 141 乘 8 等于 1128G,今天可开。这一档 11 月 10 日上架,余量三天未动。

第二条是同档四卡实例。单卡价不变,四卡合计 34444 元,总显存 564G。注意这是把同一个 8 卡池拆成两份,拆完这个池子就没有整八卡了。

第三条是 910B 三张散卡。节点 h5239 与 h9133 走标准价 2577 元,h5253 走 83 折 2139 元,合计 7293 元,总显存 192G。三张卡分属三个节点,互联退化到以太网。

第四条是裸金属 H20 96G。四川三区 43 个机位可用,月付 54720 元,八卡总显存 768G,带 IB 400G 乘 4 组网,每卡均摊 200G。下单后需要整机交付与上架,不是即时开机。

第五条是裸金属 4090 48G。四川三区 19 个机位,月付 13632 元,八卡总显存 384G,以太网互联,无 IB。折合单卡 1704 元,月成本处在低位的一档。

路径可得性月成本总显存单位显存成本互联形态
H20 141G 八卡实例今日可开68888 元1128G61.1 元/GB机内 NVLink
H20 141G 四卡实例今日可开34444 元564G61.1 元/GB机内 NVLink
910B 三张散卡今日可开7293 元192G38.0 元/GB无,跨节点以太网
裸金属 H20 96G有机位,需交付54720 元768G71.3 元/GBIB 400G×4
裸金属 4090 48G有机位,需交付13632 元384G35.5 元/GB无,以太网

单位显存成本等于月成本除以总显存,用来横向比较显存这一项的贵贱,不代表综合性价比。这个口径里 4090 48G 的 35.5 元每 GB 排在低档,H20 96G 整机 71.3 元每 GB 排在偏高一档,两者相差一倍。

二、单位显存成本为什么会倒挂

直觉是显存越大单价越低,实际排出来不是这样。H20 141G 实例 61.1 元每 GB,同代 H20 96G 整机 71.3 元每 GB,大显存反而便宜 14.3%。原因在报价结构:整机报价里含了独占带宽、更高配比的 CPU 内存、IB 组网,这些都要摊到显存上。

4090 48G 的 35.5 元每 GB 更极端。它没有 IB,走以太网,带宽是独享但速率不高,配套的 CPU 只有 128 核、内存 1024G。显存便宜是拿互联和配比换来的。

910B 三散卡的 38.0 元每 GB 也不能看表面。三张卡各在一个节点,跑不了张量并行,实际可用显存只有单卡的 64G,192G 是纸面合计。按“可用显存”重算,成本变成 7293 除 64 等于 114 元每 GB,是五条里偏高的一档。

两个口径要分开:纸面总显存用于估算容量上限;可用显存用于估算能否装下模型。多卡并行场景下两者接近,跨节点拼卡场景下差距可以达到三倍。

这就是缺卡时容易踩的坑:看到三张便宜卡就以为捡到了,实际只能当三台单卡机器用,跑不了任何一个需要跨卡并行的任务。665.png

五条路径的总显存从 1128G 到 192G,跨度近六倍

三、按任务类型选路,比按价格选路靠谱

八卡全参微调这一类,只能走 H20 141G 八卡或裸金属 H20 96G。前者今天可开、总显存 1128G,后者要等交付、总显存 768G 但带 IB。用 70B 模型做全参混合精度训练,按每参数 16 字节估算约 1120G,只有 1128G 这一档刚好贴边,768G 装不下。

百亿参数级微调或长上下文推理这一类,四卡 H20 141G 更合适。564G 能装下 32B 全参训练的 512G 需求,也留得住 128K 上下文的 KV Cache。34444 元的月成本比八卡省一半。

单卡验证与小批量推理这一类,910B 三散卡成本偏低。7293 元跑三个互不干扰的小任务,或者用一张做推理、一张做量化、一张做数据预处理,这种用法比 4090 48G 整机还灵活。

稳态生产且要走专线这一类,裸金属 H20 96G 是合适形态。54720 元的月付里含了独占带宽与 IB 组网,数据不出内网,长期跑推理比容器实例稳。代价是交付周期与起租门槛。

任务形态建议路径月成本关键约束
70B 全参微调H20 141G 八卡实例68888 元显存 1128G 贴边,激活值需梯度检查点
32B 微调、长上下文推理H20 141G 四卡实例34444 元拆池后无整八卡
单卡验证、小批量推理910B 三张散卡7293 元不能并行,显存按单卡算
稳态推理、要走专线裸金属 H20 96G54720 元需交付上架,有起租期
图像生成、批量渲染裸金属 4090 48G13632 元无 IB,多机扩展受限

表里 70B 全参的显存估算用的是业界通用口径:混合精度下每参数约 16 字节,含 fp16 权重 2、梯度 2、fp32 主权重 4、优化器两个动量各 4,不含激活值。这是估算,实际受批次大小与序列长度影响,不能当实测容量用。

四、拆卡与拼单的两个隐形成本

拆卡的隐形成本是不可逆。8 卡池拆成两个 4 卡,池子里就没有整八卡了,后面来的八卡单要等释放。如果这个池子是全平台仅剩的满配池,拆完之后整条产品线都要排队,这个代价要提前跟业务方讲清。

拼单的隐形成本是调度复杂度。三张散卡分属三个节点,每张卡要单独建实例、单独配环境、单独监控。运维成本按实例数线性增长,三张卡的管理开销接近三台独立服务器,人力成本可能超过省下的租费。

还有一条容易被忽略:跨节点实例之间没有高速通道,数据交换走公网或共享存储,传输 100G 数据集在 1000Mb 共享带宽下按满速估算要两小时以上,实际远低于满速。这类时间成本要算进项目周期。

反过来说,如果任务天然是三个互不相关的子任务,三张散卡反而是合适形态。判断标准是并行度需求,不是卡的数量。

五、下单前的核对清单

其一核对余量。余卡随下单实时变化,方案定稿前再看一次页面,别用前一天的数字。其二核对规格档位,平台只有 1、2、4、8 四档,写 3 卡或 6 卡的方案开不出来。

其三核对计费方式。按量适合验证,包月适合稳态,包天的折扣主要体现在跨日连续使用。H20 141G 包天 302 元、包月 8611 元,按 30 天算包天累计 9060 元,反而高于包月,跨月使用要注意这个临界点。

其四核对数据盘。H20 141G 数据盘 300G,装得下 70B 的 FP16 权重(约 140G);H20 96G 与进口高端档位只有 50G,装不下 32B 的 FP16 权重(约 64G),权重要放共享存储或对象存储。

五条路径的当日余量与报价,在算力市场缺卡替代方案对照页可以一次看完;要走整机形态的,裸金属机位与配置清单里有机位余数和整机配置。

常见问题

Q:缺卡的时候,先降卡数还是先换型号?

A:先换型号再降卡数。换型号只损失单卡性能,降卡数会直接改变并行策略,可能要重写训练脚本。910B 三散卡虽然便宜,但把八卡任务降到单卡,周期会拉长数倍,代价比换型号大。

Q:拆卡租怎么算,四卡和八卡哪个划算?

A:单卡价相同,四卡 34444 元、八卡 68888 元,单位显存成本都是 61.1 元每 GB,价格上没有区别。区别在可得性与占用:四卡更容易命中余量,但会让整八卡池消失;八卡一次到位,但要占用满池。

Q:拼卡与整机的差别在哪?

A:拼卡是多个独立实例,卡之间没有高速互联,适合互不相关的任务;整机是同一机箱内的八卡,带 NVLink 或 IB,能做张量并行与集合通信。价格上拼卡通常更便宜,能力上拼卡不能替代整机。

Q:裸金属机位有货,为什么不能当天开?

A:机位余量指的是可上架的整机数量,下单后要走配置确认、上架、装机、验收几个环节,还要确认带宽与 IP。容器实例是资源池里直接切分,所以能即时开通。赶交付期用实例,稳态用整机。

数据来源与时效:容器实例的按量价、包天价、包月价、余卡与配置取自极智算官网行情接口与算力市场页面 2026-11-13 抓取;裸金属机位余数、月付价与整机配置取自同站裸金属接口当日抓取,月付价按接口价格乘 0.96 口径换算;显存估算采用业界通用的每参数 16 字节混合精度口径,为估算值非实测。价格随市场波动,以实际下单页面为准。

按余量与预算筛一遍可开方案

进入算力市场

相关阅读:

标签:算力租赁平台|缺卡替代方案|拆卡租|拼卡与整机|GPU租赁