租大模型训练算力,正确路径是从模型倒推:先定参数规模,估算显存,匹配显卡档位,再算单次训练成本。直接问"训练算力多少钱"没法回答,但按这四步走,任何人都能算出自己的答案。本文给出 7B 到 70B 的显存对照、推荐配置与月租参考。
把模型规模告诉算力顾问即可获取匹配方案;反过来,不问模型规模就报价的服务商要谨慎。
实名认证即可到账,可直接抵扣训练算力费用
这是算力选型最不容易出错的路径。跳过任何一步都可能租错规格——要么显存不够跑不起来,要么规格过剩白花钱。
明确要训练的模型规模(7B、13B、70B),是全参训练还是 LoRA 微调。
按参数量与精度估算权重,再加上梯度、优化器状态与激活值。
显存需求对应显卡数量与互联要求(NVLink / IB / PCIe)。
每小时租金 × 预计训练时长,并预留 20%-30% 容错。
先看权重本身(FP16 精度):7B 约 14GB、13B 约 26GB、70B 约 140GB。但训练不能只算权重,还要存梯度(约 1 倍权重)、优化器状态(Adam 约 2 倍权重),加上激活值。粗略估计,全参训练的实际显存需求约为权重的 4-12 倍,取决于并行策略和优化器。
| 模型规模 | FP16 权重 | 全参训练显存(估算) | LoRA 微调显存 | 推理显存 | 推荐卡型 |
|---|---|---|---|---|---|
| 7B | 约 14GB | 56-168GB | 单张 24GB 起 | 约 16-20GB | 4090 ×1-8 |
| 13B | 约 26GB | 104-312GB | 24-48GB | 约 28-32GB | 4090 ×8 / 910B ×2-4 |
| 30B-34B | 约 60-68GB | 240-820GB | 48-96GB | 约 70GB | 910B ×8 / A800 ×4-8 |
| 70B | 约 140GB | 560-1680GB | 96-160GB | 约 150GB+ | H100 ×8(多机可扩) |
以上为理论估算,实际受并行策略、优化器选择、框架实现与 batch size 影响较大,建议在正式长租前用按量实例实测一次。
不同规模对应不同的卡型与数量。下表为极智算在售配置的对应关系与月租参考水平,可作为预算起点。
| 训练目标 | 推荐配置 | 月租参考 | 说明 | 操作 |
|---|---|---|---|---|
| 7B~13B LoRA 微调 | 4090 24G ×8 | 约 7920 元/月 | 入门档,垂类模型主流选择 | 查看 |
| 13B~30B 全参 / 微调 | A100 / H100 80G ×4-8 | 数万元/月 | 大显存,减少切分复杂度 | 询价 |
| 30B~70B 训练(含信创) | 昇腾 910B 64G ×8 | 约 21200 元/月 | 国产化可选,成本优势明显 | 查看 |
| 70B 级全参预训练 | H100 80G ×8(多机可扩) | 约 86880 元/月 | 旗舰档,需 IB 组网支撑 | 询价 |
月租价格为 2026 年 9 月参考水平,实际以 算力市场 实时挂牌为准;整机与集群方案可通过 离线申请通道 获取报价。
以 70B 全参预训练为例,两种方案的测算对比:H100×8 折合约 120.7 元/时,预计约 168 小时(7 天),单次约 2.03 万元;昇腾 910B×8 折合约 29.4 元/时,预计约 420 小时(17.5 天),单次约 1.24 万元。
这是训练算力选型最现实的一道选择题:预算敏感、周期宽松,910B 更划算;项目赶进度、需要快速迭代,H100 的高吞吐能把训练周期压缩一半以上,人力和机会成本反而更低。
两个变量必须计入:一是训练效率,框架实现与数据质量直接影响实际耗时;二是多机扩展,跨机通信效率递减,卡数翻倍不等于速度翻倍。因此预算里建议预留 20%-30% 的容错。
先租小档位跑通数据与训练管线(如 4090×8),验证流程后再放大到目标模型,别一上来就锁 H100 长租。跑通管线本身就是降低风险。
7B-30B 是垂类模型的主流规模,在 4090×8 到 910B×8 之间按预算选择。国产卡 910B 在成本和信创合规上有明显优势,值得优先评估。
70B 级预训练单次成本 1-2 万元起(理论测算),多次迭代预算要提前规划,建议谈长租折扣或整包集群方案,把单位成本压下来。
任务多呈脉冲式,按量计费 + 断点续训最合适,关机不收费可把空闲成本降到零,寒暑假高峰期再考虑包月锁定资源。
推理型业务更看重稳定性和单位 token 成本,八卡整机独享可避免资源争抢,建议包月部署并预留扩容空间。
采购流程要求国产化时,昇腾 910B 是成熟选项。建议先短租验证框架迁移成本,确认精度与吞吐后再决定长租规模。
这六条直接决定训练能不能顺利跑完,签约或下单前逐条问清楚,能避开绝大多数坑。
极智算由成都极云天下科技有限公司(极云科技)运营,公司成立于 2016 年,总部位于成都天府软件园,平台于 2023 年 11 月上线,整合各地 IDC、运营商与云厂商资源,构建覆盖全国的算力网络。
4090、5090、A800、H20、H100、H800、H200 与昇腾 910B 同时在售,从入门微调到旗舰预训练都能配。
算力云按小时弹性伸缩,裸金属整机独享可组 IB 集群,一套账号打通两种形态。
按量按秒结算、关机不收费,可先用小规格跑通管线,验证后再放大规格或转长租。
PyTorch、TensorFlow、vLLM、PaddlePaddle、Miniconda 等镜像秒级拉取,支持私有镜像与镜像预热。
对公转账、企业认证专属节点、一键开票,真人工程师 7×24 在线答疑。
工信部增值电信业务经营许可证(B1-20215350),公安联网备案与营业执照信息完整可查。
手机号注册并实名认证,个人用户立即到账 10 元算力金。
按本文对照表确定卡型与卡数,算力云或裸金属任选。
选择预置框架镜像或上传私有镜像,确认版本与依赖。
先小规模验证精度与吞吐,再放大规格或转包月长租。
把参数规模、训练方式(全参 / LoRA)和期望周期告诉算力顾问,即可拿到匹配的机型、卡数与报价。反过来,不问模型规模就报价的方案,建议谨慎对待。
选型专题:昇腾 910B 国产算力卡租用 · 算力云与裸金属对比
本文配置与成本数据的来源文章,含完整四步倒推法。
4090 月租价格、适用任务清单与上机验机步骤。
H100 租赁价格锚点与 H200 升级的价值判断。