限时充值赠算力:8.27 - 9.27 单笔充值最高赠 4000 GPU·小时立即充值
极智算首页 > 算力市场 > 大模型训练算力租用
训练算力选型 · 成都极云天下 · 增值电信业务经营许可证 B1-20215350

大模型训练算力租用
从模型规模倒推配置与预算

租大模型训练算力,正确路径是从模型倒推:先定参数规模,估算显存,匹配显卡档位,再算单次训练成本。直接问"训练算力多少钱"没法回答,但按这四步走,任何人都能算出自己的答案。本文给出 7B 到 70B 的显存对照、推荐配置与月租参考。

  • 7B / 13B / 30B / 70B 显存需求与推荐卡型一览
  • 全参训练与 LoRA 微调的显存差异讲清楚
  • 4090 八卡 7920 元/月起,按量亦可随开随停
  • 附 70B 预训练成本测算与租车必问清单

把模型规模告诉算力顾问即可获取匹配方案;反过来,不问模型规模就报价的服务商要谨慎。

新用户三重算力礼

实名认证即可到账,可直接抵扣训练算力费用

个人注册即领
10 元算力金
  • 企业认证赠 50 元算力金,专属节点不排队
  • 首充 100 元赠 10 元现金余额
  • 邀请好友,双方各得 5 元算力金
  • 企业客户专属折扣 + 开票快速通道
立即注册领取
4 步倒推选型法
7B-70B规模对照
7920元/月 八卡起租
7×24工程师在线
4090 ×87920 元/月
910B ×8约 21200 元/月
H100 ×8约 86880 元/月
按量关机不收费
合规增值电信业务经营许可证
核心方法

四步倒推法:从模型规模算出你要租什么

这是算力选型最不容易出错的路径。跳过任何一步都可能租错规格——要么显存不够跑不起来,要么规格过剩白花钱。

定模型

明确要训练的模型规模(7B、13B、70B),是全参训练还是 LoRA 微调。

算显存

按参数量与精度估算权重,再加上梯度、优化器状态与激活值。

选档位

显存需求对应显卡数量与互联要求(NVLink / IB / PCIe)。

算成本

每小时租金 × 预计训练时长,并预留 20%-30% 容错。

第一步 · 算显存

大模型训练需要多大显存

先看权重本身(FP16 精度):7B 约 14GB、13B 约 26GB、70B 约 140GB。但训练不能只算权重,还要存梯度(约 1 倍权重)、优化器状态(Adam 约 2 倍权重),加上激活值。粗略估计,全参训练的实际显存需求约为权重的 4-12 倍,取决于并行策略和优化器。

模型规模FP16 权重全参训练显存(估算)LoRA 微调显存推理显存推荐卡型
7B约 14GB56-168GB单张 24GB 起约 16-20GB4090 ×1-8
13B约 26GB104-312GB24-48GB约 28-32GB4090 ×8 / 910B ×2-4
30B-34B约 60-68GB240-820GB48-96GB约 70GB910B ×8 / A800 ×4-8
70B约 140GB560-1680GB96-160GB约 150GB+H100 ×8(多机可扩)

以上为理论估算,实际受并行策略、优化器选择、框架实现与 batch size 影响较大,建议在正式长租前用按量实例实测一次。

第二步 · 选档位

模型规模 → 配置档位与月租参考

不同规模对应不同的卡型与数量。下表为极智算在售配置的对应关系与月租参考水平,可作为预算起点。

训练目标推荐配置月租参考说明操作
7B~13B LoRA 微调4090 24G ×8约 7920 元/月入门档,垂类模型主流选择查看
13B~30B 全参 / 微调A100 / H100 80G ×4-8数万元/月大显存,减少切分复杂度询价
30B~70B 训练(含信创)昇腾 910B 64G ×8约 21200 元/月国产化可选,成本优势明显查看
70B 级全参预训练H100 80G ×8(多机可扩)约 86880 元/月旗舰档,需 IB 组网支撑询价
入门微调
RTX 4090 24G ×8
7B-13B LoRA 微调首选
¥7920/月¥9900
省 20% · 约 1.36 元/卡/小时
算力8 × 330 TFLOPS
内存8 × 64GB DDR4
硬盘2 × 3.84TB
互联NVLink · IB 网卡
立即租用
信创与性价比
昇腾 910B 64G ×8
30B-70B 训练,国产化合规
¥21200/月
八卡整机参考价
单卡显存64GB
算力320 TFLOPS
软件栈CANN / MindSpore
迁移PyTorch 需 torch_npu
立即开通
旗舰预训练
H100 80G ×8
70B 级全参预训练与多机扩展
¥86880/月
整机月租,支持 IB 组网
单卡显存80GB
CPU / 内存24核 / 128GB
按量12.98 元/时/卡
扩展可多机集群
联系算力顾问

月租价格为 2026 年 9 月参考水平,实际以 算力市场 实时挂牌为准;整机与集群方案可通过 离线申请通道 获取报价。

第三步 · 算成本

单次训练成本怎么算

以 70B 全参预训练为例,两种方案的测算对比:H100×8 折合约 120.7 元/时,预计约 168 小时(7 天),单次约 2.03 万元;昇腾 910B×8 折合约 29.4 元/时,预计约 420 小时(17.5 天),单次约 1.24 万元。

用 910B 换时间成本,还是用 H100 换训练速度

这是训练算力选型最现实的一道选择题:预算敏感、周期宽松,910B 更划算;项目赶进度、需要快速迭代,H100 的高吞吐能把训练周期压缩一半以上,人力和机会成本反而更低。

两个变量必须计入:一是训练效率,框架实现与数据质量直接影响实际耗时;二是多机扩展,跨机通信效率递减,卡数翻倍不等于速度翻倍。因此预算里建议预留 20%-30% 的容错。

H100 ×8 单价约 120.7 元/时
预计训练时长约 168 小时(7 天)
单次成本约 2.03 万元
910B ×8 单价约 29.4 元/时
预计训练时长约 420 小时(17.5 天)
单次成本约 1.24 万元
决策建议

不同类型的团队该怎么选

01

初次训练的企业

先租小档位跑通数据与训练管线(如 4090×8),验证流程后再放大到目标模型,别一上来就锁 H100 长租。跑通管线本身就是降低风险。

02

垂类模型公司

7B-30B 是垂类模型的主流规模,在 4090×8 到 910B×8 之间按预算选择。国产卡 910B 在成本和信创合规上有明显优势,值得优先评估。

03

大模型创业团队

70B 级预训练单次成本 1-2 万元起(理论测算),多次迭代预算要提前规划,建议谈长租折扣或整包集群方案,把单位成本压下来。

04

高校与科研

任务多呈脉冲式,按量计费 + 断点续训最合适,关机不收费可把空闲成本降到零,寒暑假高峰期再考虑包月锁定资源。

05

推理为主的业务

推理型业务更看重稳定性和单位 token 成本,八卡整机独享可避免资源争抢,建议包月部署并预留扩容空间。

06

需要信创合规的项目

采购流程要求国产化时,昇腾 910B 是成熟选项。建议先短租验证框架迁移成本,确认精度与吞吐后再决定长租规模。

签约前必问

租训练算力的六条核对清单

这六条直接决定训练能不能顺利跑完,签约或下单前逐条问清楚,能避开绝大多数坑。

  • 卡间互联:是 NVLink 还是 PCIe?多机能否 IB 组网?这决定了多卡并行效率的上限。
  • 断点续训:是否支持 checkpoint 保存与恢复?实例异常中断有无补偿机制?
  • 存储 IO:数据盘读写能否支撑训练数据加载?数据盘是否独立计费、能否保留?
  • 框架版本:预装 PyTorch / DeepSpeed 版本是否符合需求?自定义算子能否安装?
  • 计价方式:按任务计价还是按月计价?长租折扣多少?关机是否停止计费?
  • 技术支持:训练中断、驱动异常、多卡通信失败时,能否找到真人工程师处理?响应时效多久?
  • 平台优势

    为什么在极智算租训练算力

    极智算由成都极云天下科技有限公司(极云科技)运营,公司成立于 2016 年,总部位于成都天府软件园,平台于 2023 年 11 月上线,整合各地 IDC、运营商与云厂商资源,构建覆盖全国的算力网络。

    01

    机型覆盖全

    4090、5090、A800、H20、H100、H800、H200 与昇腾 910B 同时在售,从入门微调到旗舰预训练都能配。

    02

    两种交付形态

    算力云按小时弹性伸缩,裸金属整机独享可组 IB 集群,一套账号打通两种形态。

    03

    先试后买

    按量按秒结算、关机不收费,可先用小规格跑通管线,验证后再放大规格或转长租。

    04

    环境开箱即用

    PyTorch、TensorFlow、vLLM、PaddlePaddle、Miniconda 等镜像秒级拉取,支持私有镜像与镜像预热。

    05

    企业级支撑

    对公转账、企业认证专属节点、一键开票,真人工程师 7×24 在线答疑。

    06

    合规资质齐备

    工信部增值电信业务经营许可证(B1-20215350),公安联网备案与营业执照信息完整可查。

    开通流程

    从注册到跑起训练,最快十分钟

    注册认证

    手机号注册并实名认证,个人用户立即到账 10 元算力金。

    按规模选配

    按本文对照表确定卡型与卡数,算力云或裸金属任选。

    选镜像

    选择预置框架镜像或上传私有镜像,确认版本与依赖。

    跑通再放大

    先小规模验证精度与吞吐,再放大规格或转包月长租。

    常见问题

    大模型训练算力租用的常见问题

    大模型训练算力租赁多少钱?
    取决于模型规模。按极智算站内资讯的参考口径:70B 全参预训练单次约 1.24 万-2.03 万元(910B×8 / H100×8 理论测算);7B 微调用 4090×8 约 7920 元/月。按量计费更灵活,4090 单卡 1.57 元/时、H100 单卡 12.98 元/时,关机不收费。
    训练一个 7B 模型需要多大显存?
    FP16 精度下 7B 模型权重约 14GB。LoRA 微调只训练少量参数,单张 24GB 显卡即可运行;全参训练需在此基础上叠加梯度、优化器状态与激活值,实际约为权重的 4-12 倍,即 56-168GB,建议 4090 八卡或更大显存配置。
    70B 模型训练要什么配置?
    70B 模型 FP16 权重约 140GB,全参训练的实际显存需求在 560GB 以上,通常需要 H100 80G ×8 起步并支持多机扩展;若采用 LoRA 等高效微调方式,显存需求可降至 96-160GB,配置要求显著降低。
    微调(LoRA)和全参训练在算力上的差别?
    LoRA 只训练少量低秩矩阵,冻结原模型权重,因此不需要保存完整的梯度与优化器状态,显存需求可能只有全参训练的几分之一,单张 24GB 卡就能跑 7B 模型。全参训练则要求完整的权重、梯度、优化器状态与激活值,显存压力成倍增加。
    多卡训练一定要 NVLink 或 IB 吗?
    单机多卡场景,NVLink 能大幅提升卡间通信带宽,对 8 卡并行的训练效率影响明显;多机场景则需要 IB 网络支撑跨机通信。如果只是单卡或 2-4 卡的小规模训练,PCIe 也能跑,但并行效率会打折。下单前建议确认互联方式。
    训练成本怎么估算,为什么实际总是超?
    基本公式是:每小时租金 × 预计训练时长。实际超支通常来自三个地方:训练效率低于预期(框架实现、数据加载瓶颈)、多机扩展的通信损耗、以及中途失败重跑。建议在测算基础上预留 20%-30% 的容错预算。
    训练中断了怎么办,数据会丢吗?
    建议在训练脚本中开启 checkpoint 定期保存,并将检查点与数据存放在数据盘(数据盘独立计费、可保留),实例异常中断后可从最近的检查点恢复。算力云的系统盘会随实例释放回收,重要数据请务必存放在数据盘或提前备份。
    国产卡能训练大模型吗?
    可以。昇腾 910B×8 可支撑 30B-70B 级训练,在成本与信创合规上有优势。软件栈以 CANN 为底座、MindSpore 为原生框架,PyTorch 代码需通过 torch_npu 适配层迁移,建议先短租验证迁移兼容性与精度,再决定长租规模。
    训练算力长租能开发票吗?可以按项目结算吗?
    可以。企业完成认证后可对公转账付款,并在控制台一键申请发票,开票主体为成都极云天下科技有限公司。按月长租按周期结算;整机与集群方案支持按项目议价并签订正式合同,长租折扣、结算周期与 SLA 条款可与算力顾问协商确定。

    告诉我们模型规模,剩下的交给我们

    把参数规模、训练方式(全参 / LoRA)和期望周期告诉算力顾问,即可拿到匹配的机型、卡数与报价。反过来,不问模型规模就报价的方案,建议谨慎对待。

    • 个人注册送 10 元算力金,可直接抵扣训练算力
    • 企业认证送 50 元,专属节点不排队
    • 8.27 - 9.27 限时充值最高赠 4000 GPU·小时

    提交即表示同意平台服务协议,我们仅将信息用于算力需求对接

    训练算力专题与相关阅读

    选型专题:昇腾 910B 国产算力卡租用 · 算力云与裸金属对比

    大模型训练算力怎么租?从模型规模倒推配置与预算

    本文配置与成本数据的来源文章,含完整四步倒推法。

    RTX 4090 服务器租用指南:价格、8 卡场景与验机要点

    4090 月租价格、适用任务清单与上机验机步骤。

    H100 算力出租多少钱?H100 和 H200 差在哪

    H100 租赁价格锚点与 H200 升级的价值判断。

    咨询
    顾问
    注册
    领10元