租训练算力,正确路径是从模型倒推:定参数规模 → 估算显存 → 匹配显卡档位 → 算单次成本。本文给出 7B 到 70B 的显存对照、推荐配置与月租参考。
从模型规模算出你要租什么,跳过任何一步都可能租错规格。
明确模型规模(7B、13B、70B),全参训练还是 LoRA 微调。
按参数量与精度估算权重,加上梯度、优化器状态与激活值。
显存需求对应显卡数量与互联要求(NVLink / IB / PCIe)。
每小时租金 × 预计训练时长,预留 20%-30% 容错。
FP16 权重:7B 约 14GB、13B 约 26GB、70B 约 140GB。训练还要存梯度、优化器状态与激活值,全参训练实际显存约为权重的 4-12 倍。
| 规模 | 权重 | 全参训练 | LoRA | 推荐卡型 |
|---|---|---|---|---|
| 7B | 14GB | 56-168GB | 单卡 24GB 起 | 4090 ×1-8 |
| 13B | 26GB | 104-312GB | 24-48GB | 4090×8 / 910B×2-4 |
| 30B-34B | 60-68GB | 240-820GB | 48-96GB | 910B×8 / A800×4-8 |
| 70B | 140GB | 560-1680GB | 96-160GB | H100×8(可多机) |
理论估算,实际受并行策略、优化器、框架与 batch size 影响,建议长租前用按量实测。
| 训练目标 | 推荐配置 | 月租参考 |
|---|---|---|
| 7B~13B LoRA 微调 | 4090 24G ×8 | 约 7920 元 |
| 13B~30B 全参 / 微调 | A100 / H100 80G ×4-8 | 数万元 |
| 30B~70B 训练(信创) | 昇腾 910B 64G ×8 | 约 21200 元 |
| 70B 级全参预训练 | H100 80G ×8 | 约 86880 元 |
月租为 2026 年 9 月参考水平,以 算力市场 实时挂牌为准。
预算敏感、周期宽松选 910B;赶进度、需快速迭代则 H100 的高吞吐能把周期压缩一半以上,人力与机会成本反而更低。注意训练效率与多机扩展两个变量,建议预留 20%-30% 容错。
先用 4090×8 跑通数据与训练管线,验证后再放大,别一上来锁 H100 长租。
7B-30B 是主流规模,在 4090×8 到 910B×8 之间按预算选,910B 成本与信创优势明显。
70B 预训练单次 1-2 万元起,多次迭代需提前规划,建议谈长租折扣或集群方案。
脉冲式任务适合按量 + 断点续训,关机不收费把空闲成本降到零。
看重稳定性与单位 token 成本,八卡整机独享避免资源争抢,建议包月。
昇腾 910B 是成熟选项,先短租验证框架迁移成本,再决定长租规模。
极智算由成都极云天下科技有限公司(极云科技)运营,公司成立于 2016 年,总部位于成都天府软件园,平台 2023 年 11 月上线,整合各地 IDC、运营商与云厂商资源构建全国算力网络。
4090、5090、A800、H20、H100、H800、H200 与昇腾 910B 同时在售。
算力云弹性伸缩,裸金属整机独享可组 IB 集群,一套账号打通。
按量按秒结算、关机不收费,跑通管线后再放大规格或转长租。
PyTorch、vLLM、PaddlePaddle 等镜像秒级拉取,支持私有镜像。
对公转账、专属节点、一键开票,工程师 7×24 在线答疑。
工信部增值电信业务经营许可证 B1-20215350。
手机号注册并实名认证,立即到账 10 元算力金。
按对照表确定卡型与卡数,算力云或裸金属任选。
选择预置框架镜像或上传私有镜像。
先小规模验证精度与吞吐,再放大或转包月。
把参数规模、训练方式(全参 / LoRA)和期望周期告诉算力顾问,即可拿到匹配的机型、卡数与报价。