High_density_computing_hardwar_2026-07-20T05-29-10.png


如果你在2026年做过GPU预算,大概率关注到了价格的大幅波动。根据半导体研究机构SemiAnalysis和gpu云平台数据,NVIDIA H100云租赁价格经历了一个过山车——从2024年初的高点约8美元/小时,一路下滑到2025年下半年的约2美元/小时以下,2026年初又因供需紧张回升至2.35美元/小时,到2026年Q2又回落至约1.38-2.69美元/小时区间。而国内市场,以极智算为例,H100单卡月租已稳定在1.2-1.5万元区间。

1.2-1.5万
H100单卡月租价格区间(极智算官网2026年7月报价),云厂商价格约1.5-2.0万元/月

更值得注意的是供给端。进入2026年第二季度,H100的出租率持续维持在90%以上,部分热门机型的预约排期已经排到两个月后。对于需要跑大模型训练的技术团队来说,"租不到H100"正在从段子变成现实。但好消息是,随着B200/B300逐步放量,H100的租用价格正在趋于理性。

H100租用价格为什么会涨?

价格的本质是供需关系。H100租用价格2026的上涨背后是三个因素的叠加:

需求端:训练走向推理
推理算力规模反超训练,Token调用量两年增长超千倍(西部证券),Kimi K3发布48小时算力告急是典型案例
供给端:芯片供应紧张
B200/B300交付排期到2027年,H100退场与B系列接棒之间存在供给空窗期
竞争端:大厂军备竞赛
Meta、Anthropic、国内头部大模型公司都在疯狂囤算力,推高整体租赁价格
出口管制:供给受限
国内能拿到的H100/A800数量本身有限,渠道加价进一步推高终端价格

不同平台的H100租用价格对比

我们整理了2026年7月主流算力租赁平台的H100单卡价格(月租):

平台H100月租(万元)计费方式交付周期
头部云厂商A1.5-2.0包月/包年1-2周
头部云厂商B1.5-1.8包月/按量2-4周
专业算力平台(如极智算)1.2-1.5包月/时租即时-1周
聚合时租平台0.8-1.2(时租)按秒/时即时

价格差异的背后是服务模式的不同。云厂商的溢价来自品牌、生态和SLA保障;专业算力平台通过精简中间环节把价格压低了20%-30%;时租平台按秒计费、单价看起来低,但长期使用并不划算,而且可能存在虚拟化超售导致的性能波动。

GPU租用平台对比:选型不能只看价格

做过GPU租用平台对比的团队都知道,选平台最忌讳的就是"比价选最低"。以下几个维度比价格更重要:

算力真实性。部分平台宣传的是"H100算力",实际给的是虚拟化切分后的算力——一张物理H100被切成4-8份卖给不同用户。小模型微调可能感觉不到差别,但70B以上参数的大模型训练,虚拟化带来的性能损耗可能在15%-30%之间。

存储和带宽。GPU租赁的核心成本不只是显卡本身。很多平台的低价不包含NVMe存储和高速内网带宽,算下来总成本反而更高。以极智算为例,基础配置包含500GB NVMe本地存储和100M内网带宽,多卡集群还免费提供NVLink互联——这些"隐形配置"对训练效率的影响往往比单卡算力更大。

运维响应。GPU集群跑着跑着突然掉卡、显存报错、驱动不兼容——这些情况在训练中非常常见。平台的运维响应速度(能不能在30分钟内定位并解决问题)直接影响训练进度。大厂云有SLA保障但响应流程长,专业平台通常有专属技术群但响应质量参差不齐。

不同场景的推荐方案

大模型训练(70B以上参数)
首选H100/A800整机月租。8卡H100整机月租约10-12万元(极智算报价),物理独享、NVLink全互联。次选A800 80G,月租约5000-8000元/卡,性价比更高。
预算参考:10-12万元/月(8卡H100整机)
模型微调(7B-70B参数)
A100 80G即可满足,月租6000-9000元/卡。如果预算充足可上H100,大显存对长序列训练更友好。
预算参考:6000-9000元/月/卡
推理服务
RTX 4090月租1500-2500元,性价比最高。但要注意RTX 4090不支持NVLink,多卡推理需要另做通信优化。
预算参考:1500-2500元/月/卡
AI绘画/视频生成
RTX 4090时租2-3元/小时,短期实验成本极低。长期稳定使用建议月租方案,总成本更低。
预算参考:2-3元/时(时租)
国产替代方案
昇腾910B月租约3000-5000元/卡,价格与A100相当。生态兼容性(CANN vs CUDA)是最大考量,建议先在时租平台上跑通迁移验证再批量租用。
预算参考:3000-5000元/月/卡

价格还会涨吗?

我们的判断是:短期(2026年下半年)H100价格趋于稳定甚至小幅下行——随着B200/B300产能逐步释放,H100作为上一代产品将面临替代压力。中长期(2027年以后),高端算力的供需矛盾会随着Blackwell系列大规模部署和国产替代加速而显著缓解。

对技术团队来说,与其赌价格走势,不如建立"弹性算力"的采购策略:核心训练用整机月租保障稳定性,临时实验用时租平台降低成本,长期规划里留出国产芯片的迁移预算。这样不管市场怎么变,你的算力成本都是可控的。

算力是生产资料,不是投机品。选对方案比赌对价格重要得多。
数据来源:SemiAnalysis 2026年3月/5月GPU租赁市场报告、中国信通院《2026年中国算力租赁市场白皮书》、各平台公开报价(2026年7月采集)、西部证券2026年7月研报。