算力租赁平台GPU租用选型：4090 1.96元/时与H20 6.20元/时的分界线在哪
同一家算力租赁平台上，最便宜的卡和中间档位的卡，时租能差 4 倍。以极智算（jygpu.com）9 月 4 日的容器实例挂牌价为例：RTX 4090 是 1.96 元每小时，华为昇腾 910B 是 4.47 元每小时，NVIDIA H20 是 7.75 元每小时。月付折扣后分别是 1.57 元、3.58 元、6.20 元。
选贵的不一定对，选便宜的经常踩坑。这篇文章把三张卡的规格、能干的事和干不了的事按实际工程口径拆开，最后给一份可以照着执行的选型清单。
一、先看牌价和规格，别急着比性能
| 项目 | RTX 4090 | 昇腾 910B | NVIDIA H20 |
|---|---|---|---|
| 显存容量 | 24GB GDDR6X | 64GB HBM2e | 96GB HBM3 |
| FP16 算力 | 330 TFLOPS | 320 TFLOPS | 148 TFLOPS |
| 卡间互联 | 不支持 NVLink | HCCS 392GB/s | NVLink 900GB/s |
| 时租（挂牌） | ¥1.96 | ¥4.47 | ¥7.75 |
| 月付折后时租 | ¥1.57（95 折） | ¥3.58（93 折） | ¥6.20（8 折） |
| 月付参考 | 约 ¥1,074 | 约 ¥2,397 | 约 ¥3,571 |
| 配套 CPU / 内存 / 盘 | 15 核 / 60GB / 100GB | 23 核 / 250GB / 500GB | 24 核 / 128GB / 50GB |
数据来源：极智算官网算力市场（jygpu.com）2026-09-04 实时挂牌价，显卡规格为公开技术参数。
看这张表最容易产生的误解，是拿"FP16 算力"直接排高下。H20 只有 148 TFLOPS，不到 4090 的一半，价格却是它的近 4 倍。这不是定价失误，而是因为在大模型场景里，显存容量和带宽往往比峰值算力更早成为瓶颈。卡一旦放不下模型，算力再高也跑不起来。H20 的 96GB 大显存适合什么任务，以及4090 的规格边界在哪，这两篇分别展开过。
二、第一道门槛：显存够不够放得下
选型的第一步永远是算显存。这里给一套工程上常用的粗算方法，不追求精确，但能快速排除错误选项。
纯推理场景，模型权重按 FP16 每个参数 2 字节计算，再留 20% 余量给激活值和 KV Cache：
| 模型规模 | FP16 权重 | 推理所需显存（估） | 可行方案 |
|---|---|---|---|
| 7B | 约 14GB | 约 17GB 起 | 4090 24GB 单卡 |
| 13B | 约 26GB | 约 32GB 起 | 910B 64GB 单卡，或 4090 双卡 |
| 34B | 约 68GB | 约 82GB 起 | H20 96GB 单卡 |
| 70B | 约 140GB | 约 170GB 起 | H20 双卡，或 H100 80G×8 裸金属 |
训练场景的开销要大得多。全参数微调在混合精度下，每个参数大约要占 16 到 20 字节，包含 FP16 权重 2 字节、梯度 2 字节、Adam 优化器的一阶与二阶动量 8 字节，以及 FP32 主权重 4 字节左右。按这个口径，7B 模型全参微调就需要 112GB 到 140GB 显存，4090 的 24GB 完全不够，得上多卡或者改用 LoRA。
LoRA 微调是另一个量级，只训练低秩适配矩阵，冻结主干权重，显存占用通常在每参数 2 到 4 字节，7B 模型大约 14GB 到 28GB，4090 单卡可以跑。这也是为什么 4090 在微调场景里依然有人用，而在预训练场景里几乎没人用。
三、第二道门槛：算力和互联什么时候才重要
如果模型能放进显存，接下来才轮到算力说话。4090 的 330 TFLOPS 在单卡推理场景里其实很够用，7B 模型配合 vLLM 这类推理框架，单卡吞吐可以做到相当漂亮的水平，而成本只有 H20 的四分之一。
一旦进入多卡并行，情况就变了。4090 不支持 NVLink，八卡之间走 PCIe 4.0，双向带宽约 64GB/s；H20 走 NVLink，900GB/s；910B 的 HCCS 是 392GB/s。数据并行训练时，每个迭代要做一次全量梯度的 All-Reduce，同步数据量约等于整个模型的参数量。带宽差 14 倍，训练速度就是 14 倍的差距，抵消掉 4090 的算力优势绰绰有余。
这也是为什么做分布式训练的团队很少选 4090 集群。极智算上 4090 24G×8 裸金属月付折后 7,920 元，价格确实诱人，但它适合的是 7B 到 10B 模型的 LoRA 微调、多卡负载均衡的推理服务，以及图像生成类模型的训练。真要做 30B 以上的全参训练，PCIe 互联是硬伤，这时候应该看910B×8 和 H100×8 的裸金属对比。
四、容易被忽略的配套规格
很多人只盯着 GPU，结果卡在 CPU、内存和数据盘上。看极智算这三款容器的配置差异：4090 配 15 核 CPU、60GB 内存、100GB 数据盘；910B 配 23 核、250GB 内存、500GB 数据盘；H20 配 24 核、128GB 内存、50GB 数据盘。
内存这一项尤其关键。数据加载、预处理、分词都在 CPU 内存里完成，内存太小会导致 DataLoader 成为瓶颈，GPU 等着数据进来。经验值是系统内存不小于显存总量的 1.5 倍。单卡 24GB 配 60GB 内存是合理的，H20 单卡 96GB 配 128GB 内存只能算勉强够用，如果是做长序列推理，需要提前规划。
数据盘则直接影响数据集和 checkpoint 的读写。训练一个 7B 模型，每个 checkpoint 大约 14GB，加上数据集，50GB 的盘很快就会满。H20 那款只配 50GB，明显是按纯推理场景设计的，要用来训练必须额外挂载存储。这一点在下单前一定要确认清楚，我们在工单里见过好几次因为盘满导致训练中断的情况。
五、一份可以直接照着做的选型清单
第 1 步：确定任务类型。训练还是推理？训练的话是全参微调、LoRA 还是预训练？推理的话在线还是离线？这一步决定后面所有判断的方向。
第 2 步：按参数量算显存。推理用 2 字节每参数乘 1.2；全参训练用 16 至 20 字节每参数；LoRA 用 2 至 4 字节每参数。算出总量后，再加 20% 的安全余量。
第 3 步：确定卡数。单卡能放下就单卡，放不下再考虑多卡。多卡优先选支持 NVLink 或 HCCS 的型号，避免用 PCIe 互联的卡做张量并行。
第 4 步：核对配套规格。系统内存不小于显存总量的 1.5 倍；数据盘容量要能放下数据集加至少 3 个 checkpoint；CPU 核数要够 DataLoader 开多个 worker。
第 5 步：跑一轮基准测试。用按小时计费的容器实例跑 24 到 48 小时，拿到真实的吞吐和显存占用曲线，再决定是继续用容器还是转裸金属。在极智算上租 4090 容器跑 48 小时，成本 94 元。这个钱值得花，比拍脑袋租一个月再后悔便宜得多。具体的操作流程，可以参考从开机到跑通第一个大模型的容器实例实操。
六、按小时还是月付：一条可以算出来的线
极智算的容器实例支持按小时和月付两种计费，月付分别打 95 折、93 折和 8 折。H20 的月付折扣最大，8 折意味着连续用满一个月能省 20%。
那什么时候该从按小时转到裸金属按月租？以 4090 为例可以算得很清楚。极智算 4090 24G×8 裸金属月付折后 7,920 元，摊到单卡是 990 元每月。容器时租按挂牌价 1.96 元算，990 除以 1.96 约等于 505 小时；按月付折后 1.57 元算，约等于 630 小时。
结论就是这条线：单卡每月使用超过 505 小时，裸金属开始比按小时租便宜；超过 630 小时，裸金属比月付容器也便宜。一个月满负荷是 720 小时，所以跑满负载的业务，裸金属一定更划算。反过来，如果每月只用几十个小时，按小时租完就释放，成本优势明显。
这条线对不同型号的位置不一样，可以按同样的办法自己算。先到算力市场查当前的时租和月付价，再套上面的除法。更详细的计费规则对比，可以参考算力按小时租还是按月租。
常见问题
Q1：GPU 服务器按小时租用一般多少钱？
以极智算 2026 年 9 月 4 日的挂牌价为例：RTX 4090 24GB 为 1.96 元每小时，月付 95 折后 1.57 元；昇腾 910B 64GB 为 4.47 元每小时，月付 93 折后 3.58 元；H20 96GB 为 7.75 元每小时，月付 8 折后 6.20 元。作为市场参照，SMM 同期采集的 4090-24G 整机长三角包月均价为 1.26 元每卡时，H20-96G 整机京津冀为 7.47 元每卡时。按天计费的口径和按小时又有区别，详见算力租赁各类机型的收费标准汇总。
Q2：7B 模型做推理，选 4090 还是 910B？
如果只跑 7B，4090 就够了。7B 模型 FP16 权重约 14GB，4090 的 24GB 显存放得下，还能留出 KV Cache 空间，时租 1.96 元是三档里最低的。除非你有国产化合规要求，或者 KV Cache 需要支撑很长的上下文，否则不必上 910B。
Q3：H20 的 FP16 算力比 4090 低，为什么还更贵？
因为大模型推理首先受限于显存而非算力。H20 有 96GB HBM3 显存和约 4TB/s 的显存带宽，能单卡装下 34B 级别的模型，而 4090 的 24GB 连 13B 模型都跑得紧张。在 70B 模型的推理场景里，4090 根本放不进去，这时候算力数字没有意义。H20 的定价对应的是显存容量，不是峰值算力。
Q4：昇腾 910B 上跑 PyTorch 模型麻烦吗？
需要适配，但工作量可控。华为提供了 torch_npu 一键迁移工具，多数常规算子可以直接转换，按照公开经验，模型迁移到 CANN 的适配成本大约在 2 至 5 人天，取决于算子复杂度。如果业务本来就是基于盘古、鹏城脑海这类昇腾原生模型做二次训练，在 910B 上的效率反而可能高于在英伟达卡上做迁移。
Q5：容器实例和裸金属该怎么选？
看两个条件。一是月使用时长，单卡超过约 505 小时，裸金属的单卡成本开始低于容器时租。二是是否需要多卡高速互联，裸金属支持 IB 组网，容器实例通常不支持。如果两条都不满足，用容器实例，随用随开、用完即停。裸金属的完整规格、区域和月付价格可以看八卡裸金属服务器租赁指南。
1. 平台挂牌价与容器配置：极智算官网（jygpu.com）算力市场，2026-09-04。
2. 显卡技术规格：NVIDIA 与华为公开技术文档。
3. 市场行情对照：上海有色网 SMM 算力专区 2026-09-04 报价。
4. 显存估算方法为工程通用口径，实际占用受框架、并行策略和批处理大小影响，建议以实测为准。
先用 94 元把方案验证一遍
极智算容器实例按小时计费，预置 PyTorch、TensorFlow、vLLM、PaddlePaddle 等环境，秒级拉取镜像。租 4090 跑 48 小时基准测试约 94 元，合适再谈长租。
查看 GPU 按小时租用价格