从单卡到8卡：算力租赁平台的多卡GPU实例怎么配
团队第一次租多卡时，最常见的两种错误姿势：一种是任务明明单卡能跑，直接按8卡整机下单，成本翻了八倍，利用率不到两成；另一种是模型已经需要多卡并行，却用好几台单卡实例硬扛，数据在实例之间来回搬运，训练速度反而更慢。多卡GPU服务器租用这件事的核心，是让“卡数”跟着“并行方式”走。这篇把深度学习训练显卡配置的卡数逻辑讲清楚，价格全部取自极智算官网2026年9月28日实时页面。
一、先分清三种多卡形态
在算力租赁平台上，多卡有三种供给形态，对应三种预算量级：
形态一：容器实例选多卡。下单面板支持1到8卡的弹性选择（以910B为例：1卡/64G、2卡/128G，一直到8卡/320G，总价按卡数递增）。适合调试期验证并行脚本、中小规模训练。优点是按量计费、随开随停；局限是机内容器多卡、跨实例协同能力弱于整机。
形态二：裸金属8卡整机。一台物理服务器8张卡，独占CPU、内存与存储，带NVLink或IB组网。4090 24G×8整机¥7,920/月起（四川二区），这是训练任务的标准单元，也是本文的主角。
形态三：多机集群。多台8卡整机通过IB组网互联，面向大模型预训练。这属于企业级采购，需要联系算力顾问出方案，不在自助下单范围。
二、卡数怎么定：跟着并行方式走
决定卡数的不是预算，而是模型的并行策略。工程上的对应关系大致是：模型单卡装得下（7B级FP16、13B级INT4），单卡足够，别多花；模型需要切分或显存超限（13B级FP16、32B级），2到4卡起步；标准训练项目（70B级微调、大批量数据并行），8卡整机一步到位；预训练级任务，多机多卡，另案处理。
还有一个常被高估的因素是“多卡加速比”。数据并行场景下，4卡跑完一个epoch的时间通常不是单卡的四分之一，通信开销、数据加载都会吃掉一部分效率。所以多卡选型的验证方法是：先在按量多卡实例上跑几十个step，看吞吐是否线性增长，再决定包月卡数。这一步花的是按量的小钱，避免的是包月的大浪费。
| 任务场景 | 建议形态 | 官网参考价格（2026-09-28） |
|---|---|---|
| 单卡能装下的微调与推理 | 单卡容器 | 4090 ¥1.57/时；910B 83折节点 ¥2.97/时 |
| 2-4卡并行验证 | 容器多卡 | 按所选卡数线性计费，以910B为例单卡¥3.58/时为基准 |
| 标准训练项目 | 8卡裸金属整机 | 4090×8 ¥7,920/月；910B×8 ¥18,800起/月；A100 80G×8 ¥40,000/月 |
| 大显存训练 | 8卡裸金属整机 | H20 96G×8 ¥45,600/月；H100×8 ¥86,880/月 |
| 前沿大模型 | 8卡旗舰或多机 | H200×8 ¥151,920/月；B300×8 ¥378,400/月 |
三、多卡机器的通信前提：别忽略组网
聊组网之前，先把三种主流并行方式对齐一下，因为“卡数”只有在并行方式确定后才有意义。数据并行（DDP）是每张卡放一份完整模型，各吃各的数据批次，梯度定期汇总，适合模型单卡装得下的场景，对组网要求最低；模型并行（张量并行）是把单层网络切开分到多张卡上，卡与卡之间每个前向传播都要高频通信，必须依赖NVLink这类高速互联；流水线并行是按层把模型分段，各卡接力计算，通信量介于两者之间，但要做好“气泡”管理，否则利用率会明显下降。实际的大模型训练几乎都是三者混用，这也是为什么70B级以上的训练任务直接推荐8卡整机起步。
多卡并行的效率上限由通信决定。8卡整机内部，卡间协同依赖NVLink这类高速互联，跨机扩展则依赖IB组网。官网整机页面把这些信息标得很清楚：4090整机是以太网25G×2（机内并行够用，跨机扩展弱），A100 80G整机是NVLink，H20 96G整机配IB 400G×4，H100整机分两种（宁夏一区NVLink加共享1000M带宽 ¥86,880/月，吉林一区NVLink加IB 400G×4 ¥87,200/月）。
选配时的判断顺序：第一问任务是否需要跨机（多台整机），需要就直接选IB机型，不需要就别为IB多付钱；第二问机内并行的紧密度，NCCL集合通信频繁的训练任务，NVLink机型的加速比明显更好；第三问后续扩展，预计半年内要扩多机的项目，第一次采购就把网络规格留足，避免中途换机型。
四、从验证到包月的四步路径
第一步，单卡试跑：按量开一台单卡实例，确认环境、数据管道与基线速度。第二步，多卡验证：同样按量，开2卡或4卡，跑固定step数对比吞吐，算出实际加速比。第三步，核算卡数：用加速比和项目工期反推最优卡数，通常“稍多于一档”比“直接顶配”更划算，因为并行效率随卡数递减。第四步，切包月或整机：定稿配置后，容器多卡转包月，或直接上8卡整机（¥7,920到¥378,400/月按档位选择），整机侧的CPU核数、内存容量、NVMe数量也一并按数据吞吐需求核对。下单前在算力市场核对各档实时库存，热门型号紧张时提前锁定。
配置你的多卡实例