推理提速与降本之后，算力租赁平台的租卡量怎么重算
10 月 19 日，MiniMax 发布 M3.1 Flash，官方口径是线上推理速度提升近 3 倍、使用成本降低 70%。同一天，DeepSeek-V4.1-Flash-1017 以 1670 分登顶 Code Arena 的 WebDev 开源榜，高峰时段输入 2 元每百万 Token、输出 8 元，综合成本约为同类的十分之一。
这类消息出来后，很多团队的直觉是「租卡预算可以砍七成」。实际做一遍容量重算会发现，砍不到。原因不在模型，在租用的计量单位上。
一、先分清两个「成本」
单位 Token 成本指生成或处理一百万 Token 的花费，与模型效率、批处理策略、硬件利用率有关。集群月成本指租用若干张卡按月支付的固定金额。前者可以降 70%，后者由卡数与单价决定，只能按档位跳变。
供应商说的降本 70%，指的是前者。它成立的前提是同一批硬件上跑出更高的吞吐。落到租户账上，只有当「所需卡数」下降时，月租才会跟着降。而卡数是离散的，不能取小数。
二、卡数按比例缩，会撞上档位墙
假设某在线推理服务原来用 8 卡 H20 96G，按官网价格每卡包月 4464 元，8 卡合计 35712 元。模型提速近 3 倍后，理论上需要的算力是原来的三分之一，即 2.67 卡。
但实例规格只有 1 卡、2 卡、4 卡、8 卡这些档位，没有 2.67 卡。往上取整到 4 卡，月租 17856 元，降幅 50.0%。往下取到 2 卡虽然更省，但吞吐余量不足，高峰期会排队。这就是档位离散带来的损耗：理论降 66.7%，实际只降 50.0%，中间 16.7 个百分点卡在规格上。
| 方案 | 卡数 | 月租 | 相对 8 卡降幅 | 适用判断 |
|---|---|---|---|---|
| 原方案 | 8 卡 | 35712 | — | 改造前基线 |
| 按理论值缩 | 2.67 卡 | 11919 | 66.6% | 规格不存在，仅作参照 |
| 取 4 卡 | 4 卡 | 17856 | 50.0% | 留有余量，推荐起步 |
| 取 2 卡 | 2 卡 | 8928 | 75.0% | 高峰排队，需压测验证 |
| 取 1 卡 | 1 卡 | 4464 | 87.5% | 仅适合低峰或灰度 |
表里还有一层容易被忽略：月租降到 4 卡以后，单卡承担的并发压力上升，KV Cache 的显存占用随并发线性增长，可能先撞上 96G 显存的上限。这时候真正的瓶颈从算力转到了显存，继续减卡没有意义。
三、三种情形下的重算路径
情形一，业务量不变。这是最理想的情况，按上表取 4 卡，月租从 35712 元降到 17856 元。这时候要评估的是缩容后的性能余量能否覆盖业务波动，建议先保留 8 卡跑两周对比，再切到 4 卡。
情形二，业务量随价格下降而增长。单位成本降七成往往会带来调用量上升。如果业务量翻倍，4 卡两组就是 8 卡，月租回到 35712 元，但吞吐是原来的两倍。这种情况下月租不降，单位业务成本仍然是降的。
情形三，同时遇到上游涨价。10 月 20 日的行情数据显示，H100 新云价周涨 7.6%、B200 涨 9.2%。一方降本、一方涨价，中间差额取决于机型。用国产卡或上一代卡做推理，受涨价传导的影响小于用最新卡。
四、重算时的三个陷阱
一是拿峰值吞吐替代稳定吞吐。厂商标称的提速倍数通常在理想批大小与固定序列长度下测得，生产环境的请求长度分布复杂，实际提升幅度会打折扣。压测要用自己的真实流量，不要用公开跑分。
二是忽略启动与预热成本。缩容到小规格后，冷启动比例上升，首次请求的时延会明显变长。如果业务对首字延迟敏感，小规格未必划算。这一点在容器实例上比整机更明显。
三是按最低档位签长约。模型迭代速度很快，今天的 4 卡够用，三个月后业务翻倍就要扩。签约时把扩容条款和单价写清楚，比一次压到最低配置更稳妥。需要核对具体机型的实时价格与在架状态，可以查算力市场实时报价。
五、缩容前先算显存，再算算力
推理服务的显存分两块：模型权重与 KV Cache。以 H20 96G 为例，32B 模型按 fp16 计权重约 64GB，剩下约 32GB 留给 KV Cache 与运行时开销。KV Cache 的占用与并发数、上下文长度成正比，按每请求约 2GB 估算，可支撑 16 个并发。
这个结构决定了缩容的边界。吞吐提升后算力有余量，但如果并发不降，KV Cache 的占用不会跟着降。很多团队缩到 4 卡后发现延迟反而变差，原因不是算力不够，是显存水位逼近上限触发了请求排队。
判断方法看三个数：权重占显存的比例、峰值并发下 KV Cache 的占比、剩余显存的绝对值。权重占比超过 70% 时，缩容空间基本没有了；KV Cache 在峰值时超过 40%，说明并发已经压得很紧，再减卡会直接掉吞吐。
缩容后的压测建议按三步走。先用录制流量回放，确认功能与输出质量没有退化；再按 1.5 倍峰值压力跑两小时，观察 P99 延迟与错误率；最后跑满一个完整业务周期，覆盖日间高峰与夜间低谷。三步都过，才把旧规格释放掉。
常见问题
不能。降的是单位 Token 成本，租卡按整卡计费，卡数只能按档位跳变。以 8 卡缩到 4 卡为例，月租降 50.0%，而理论算力需求降 66.6%，中间差额来自档位取整。
看三个水位：GPU 利用率、显存占用率、请求排队时长。三项都低于 50% 可以试 2 卡；有一项超过 70% 就留在 4 卡。缩容后用真实流量跑满一个业务周期再定，不要只看一天的峰值。
短期看单位算力需求下降，但调用量通常同步上升。10 月 20 日的数据显示 DeepSeek V4.1 Flash 在 OpenRouter 的调用量已占 20.0%，公司整体份额升至 24.4%。成本下降刺激用量，两者部分抵消，最终看总 Token 量的增速。
小规模、波动大的推理用容器实例更灵活，按小时计费可以随时停。稳定跑满的长周期服务用整机更经济，且带宽与组网可控。以 H20 96G 为例，实例每卡包月 4464 元，整机八卡月付 45600 元、折合每卡 5700 元，整机单价更高但带宽与互联是独占的。
MiniMax M3.1 Flash 推理速度与成本变化：2026 年 10 月 19 日人民财讯报道，厂商口径。
DeepSeek-V4.1-Flash 榜单得分与定价：2026 年 10 月 19 日智东西报道。
OpenRouter 调用量与份额、H100 与 B200 周涨幅：2026 年 10 月 20 日中财网报道。
机型配置与包月价格：极智算（jygpu.com）官网算力市场与裸金属页面，2026 年 10 月 20 日采集。价格随市场波动，以下单页面显示为准。
本文算例按 8 卡 H20 96G 实例建立，卡数为示意，实际受模型结构、批处理策略与序列长度影响。数据用于行业分析，不构成采购建议。
提供 QPS、平均序列长度、显存占用与扩容预期，可以按统一口径给出卡数建议与月成本区间。
查看算力市场实时报价