GPU租用平台价格对比:RTX4090/A100/H100租用要多少钱
今年GPU价格涨得厉害。SemiAnalysis的数据,H100一年期租赁合同价从2025年10月的1.70美元/小时飙到2026年3月的2.35美元/小时,涨了近40%。国内也一样,春节后主流算力卡整体涨了30%左右。
我把近两个月在多个GPU租用平台上实测的价格整理出来,给准备租GPU的朋友做个参考。所有价格都是2026年7月的国内市场主流平台综合价。
一、RTX 4090(24GB):推理性价比天花板
RTX 4090是目前GPU租用平台上最热门的型号。24GB显存,330 TFLOPS(FP16)算力,跑中小模型微调、推理、图像生成都很合适。
GPU租用平台时租价格:1.5-3元/小时。jygpu.com上4090标价2.45元/时,活动期间1.96元/时。月租1500-2500元/卡,jygpu月付享95折,约1341元/月。
4090裸金属8卡方案:月租7920-12000元不等。jygpu活动价7920元/月(24GB×8),带NVlink、IB网卡,物理独享。裸金属租用
注意:4090有两个版本,24GB和48GB。48GB版价格贵一些,jygpu上8卡月租9600元。如果你的模型刚好卡在24GB显存边界,上48GB更稳妥。
二、NVIDIA A100(80GB):大模型训练首选
A100 80GB是目前GPU租用平台上最成熟的高端训练卡。80GB HBM2e显存,312 TFLOPS(FP16),在大模型训练场景下表现稳定。
GPU租用平台时租价格:8-12元/小时。月租6000-9000元/卡。注意区分SXM和PCIe版本——SXM版的显存带宽是2TB/s,PCIe版只有600GB/s,训练大模型差距明显。
现在A100的供货比H100稳定,价格也更友好。很多团队的做法是训练用A100集群,推理用4090集群,两边成本都控制住了。

三、NVIDIA H100(80GB):贵但值
H100是目前GPU租用平台上最强的训练卡。80GB HBM3显存,1979 TFLOPS(FP16),训练效率是A100的2-3倍。
GPU租用平台时租价格:16-18元/小时。月租1.2万-1.5万元/卡。jygpu的H100裸金属8卡方案,活动价84480元/月。
半年前H100月租还在一万出头,现在普遍涨到1.5万了。如果你在训70B以上的大模型,H100是刚需,早点租比晚租划算。如果只是微调7B-13B的模型,A100够用,没必要多花这个钱。
四、NVIDIA A800(80GB):合规替代方案
A800是A100的国内特供版,80GB显存,性能接近A100。GPU租用平台时租7-10元/小时,月租5000-8000元/卡。
如果你对合规性要求高,A800是稳妥的选择。性能损失很小,大概5%以内,价格反而比A100便宜一截。
五、华为昇腾910B(64GB):国产算力新选择
910B是华为最新的AI训练卡,64GB HBM2e显存,320 TFLOPS(FP16)。GPU租用平台上,jygpu提供910B裸金属8卡方案,活动价15600元/月。
910B的生态还在完善中,PyTorch和MindSpore的支持已经比较成熟了。如果你的模型框架兼容性好,910B的性价比很高——算力接近A100,价格只有A100的六成左右。华为昇腾GPU
jygpu是少数同时提供NVIDIA和华为GPU租用的平台,不同框架需求的团队可以在一个平台上搞定,省去了多平台管理的麻烦。
六、隐藏费用
选GPU租用平台,光看单价不够。几个容易被忽略的费用:
1. 存储费。系统盘一般免费,但数据盘按GB计费。训练数据集动不动几百GB,一个月存储费几百块很正常。
2. 数据传输费。从平台往外拉数据的出流量,有些GPU租用平台收费,有些包了免费额度。
3. 公网IP费。容器实例如果需要公网IP,通常是额外收费的。
4. 关机不收费?不是所有GPU租用平台都支持。有些平台关机只免算力费,存储和IP照样收。
jygpu的定价比较透明,裸金属方案把存储和带宽都包进去了,容器云方案也明确了免费额度。选平台的时候建议先看计费说明,别等账单出来再傻眼。