算力租赁平台进入"推理为王"时代:DeepSeek秘密造芯,GPT-5.6让推理算力跑在训练前面
2026年7月,算力租赁平台产业正在经历一次不易察觉但影响深远的重心转移。过去两年所有人都在聊"训练",谁的集群大、谁烧的钱多。但现在风向变了——推理算力正在吃掉这个市场最大的增量。
说几个这个月发生的事实:7月7日,路透社独家披露DeepSeek已秘密启动自研AI推理芯片项目,时间点拉回到一年前;7月20日,AMD与微软宣布Azure将规模化部署Helios机架级AI系统,主攻推理;紧接着7月22日,AMD又砸下50亿美元入股Anthropic,锁定2吉瓦推理算力产能。不到半个月,三条重磅消息指向同一个方向。
DeepSeek为什么要自己造推理芯片
这个问题背后藏着一个算力租赁平台行业正在集体面对的矛盾:模型越好,推理越贵。
据路透社2026年7月7日报道,DeepSeek的芯片项目大约在一年前启动,目前处于早期阶段,公司已与芯片设计企业、晶圆代工厂及存储厂商展开接洽。而就在同一周,OpenAI发布了GPT-5.6,其旗舰版Sol在Code场景下推理成本堪比特斯拉Model 3的日租金——这还只是一次调用的成本。
做过模型部署的人都清楚一个数:在典型的AI SaaS产品里,推理成本通常占到了算力总成本的65%-80%,训练反而只占小头。这跟外界的想象完全相反。一个百亿参数的模型,训练可能跑两周,但上线后每天要响应数百万次请求——算的是细水长流的账。
DeepSeek的做法其实很务实。不做训练芯片、专攻推理芯片,这说明他们看得很清楚:推理场景对芯片的要求和训练完全不同。训练需要超大规模集群和高带宽互联,而推理更看重单卡能效、低延迟和低成本。走这条路,DeepSeek本质上是在为自己和整个生态降本。
GPT-5.6点燃了这根引线
7月中旬OpenAI发布的GPT-5.6是一个重要的信号弹。不是因为它的性能有多强——每一代都会更强——而是因为它的推理定价让所有人开始重新算账。
根据公开定价,GPT-5.6 Sol版本在复杂推理任务上的输入价格达到$15/百万token,输出价格$60/百万token。对比GPT-4o发布时的水平,推理成本不降反升。原因很简单:模型越大、思考链越长,单次推理消耗的算力就越大。
这对算力租赁平台意味着什么?简单说:以前企业买算力是为了"炼"模型,现在买算力是为了"用"模型。而"用"的需求是持续性的、规模化的,远比"炼"的市场空间大得多。
推理算力租赁价格走势:从时租到弹性,成本在降
如果你关注过极智算(jygpu.com)上的GPU容器实例挂牌价,会发现一个很有意思的现象:RTX 4090的时租价格已经压到了个位数区间,A100/H100的弹性计费方案也在不断丰富。
这背后是整个算力租赁平台从"卖资源"到"卖服务"的转型。以前租GPU是按卡/按月租,大客户才有议价权;现在秒级部署、弹性计费已经成为标配。对于推理场景来说,这意味着企业可以按实际调用量付费,不用为闲时算力买单。
从我们观察到的市场数据来看,2026年上半年推理算力租赁价格整体下降了约15%-20%,但需求量反而增长了接近3倍——典型的"价降量升"曲线。这说明推理算力市场还有巨大的渗透空间。
大模型推理GPU选型:4090够用了?
做推理选卡和做训练选卡,思路完全不同。
"训练本质上是'吃显存'的游戏,显存不够就OOM。推理相反,瓶颈在显存带宽和批处理效率——你不需要把整个模型塞进一张卡,量化、KV Cache优化、连续批处理(Continuous Batching)这些手段比堆显存更有效。"
根据我们平台上企业用户的实际反馈,大模型推理GPU选型基本遵循以下逻辑:
- 中小参数模型(7B-13B)推理:RTX 4090 24GB性价比极高,单卡可处理FP16推理,配合vLLM等框架能达到不错的吞吐
- 中大规模模型(70B级别)推理:A100 80GB是基本盘,显存够用、生态成熟,很多开源的推理引擎对A100的CUDA优化最完善
- 超大模型或高并发推理:H100/多卡A100集群,需要HBM显存带宽来支撑高批处理
如果你想了解不同GPU型号的具体租赁价格,可以查看我们之前发布的2026年GPU租用平台价格全对比,里面包含了RTX4090、A100、H100的时租和月租详细数据。
秒级部署 · 弹性计费 · 成本直降40%查看推理GPU价格 →
AMD+微软的组合拳:推理算力不再只有英伟达
7月20日,AMD正式发布了首款机架级AI平台Helios,同时宣布微软Azure将规模化部署这套方案。三天后,AMD又以50亿美元入股Anthropic,锁定了首批1吉瓦(2吉瓦总框架)推理算力部署权,预计2027年上半年启动。
这件事对整个算力租赁平台行业的影响,比表面看起来大得多。AMD-FLASH方案的大显存优势可能在推理场景中恰好命中英伟达的软肋。如果Anthropic的大规模部署验证了AMD路线在推理性价比上的优势,那么推理GPU市场的"一家独大"格局将被打破。
这也意味着,算力租赁平台上的GPU供应在未来18个月可能出现结构性变化——AMD Instinct系列GPU进入租赁市场的节奏会加快,推理场景的供给成本有望进一步下降。
写在最后
说回到DeepSeek。它选择自己造推理芯片这件事,本质上是想解决一个算力租赁平台行业目前还解决不好的问题:当下的GPU架构是为训练设计的,跟推理的真实需求之间有客观差距。如果DeepSeek做成了,它可能会影响整个国产算力生态的推理效率——不仅是自己的模型,而是所有要部署大模型的企业。
对于大多数企业而言,等待芯片研发周期的窗口期里,选择成熟的算力租赁平台仍是当下成本最低、风险最小的推理算力获取方式。按需租用、弹性伸缩,在推理算力价格持续走低的趋势下,租比买划算,现在比以后划算。