910B和H20租哪个划算:算力租赁平台跑DeepSeek-V4-Flash的成本账
单机八卡跑DeepSeek-V4-Flash,910B与H20是两张常被放在一起比的报价单。比价不能停在卡时单价上,要把显存账、实测吞吐、每百万token成本三层都算到。这篇用11月2日极智算官网价格和10月27日的实测压测数据,把三层账一次算完,末尾给按负载类型的选型结论。
一、价格账:卡时与每GB显存卡时
11月2日官网采集:910B 64G实例标准节点¥3.58/时、包月¥2577,83折节点¥2.97/时、包月¥2139;H20 96G实例¥6.20/时、包月¥4464,当日已租完。裸机侧910B八卡整机华为专区年付折合月付¥21200,H20八卡整机¥45600。
| 口径(11-02采集) | 910B 64G | H20 96G | 差额 |
|---|---|---|---|
| 单卡按量 | ¥3.58/时 | ¥6.20/时 | H20贵73.2% |
| 单卡包月 | ¥2577 | ¥4464 | H20贵73.2% |
| 每GB显存卡时 | ¥0.056(83折节点¥0.046) | ¥0.065 | H20贵16.1% |
| 八卡实例等价月租 | ¥20616 | ¥35712 | 差¥15096 |
| 八卡整机月付 | ¥21200 | ¥45600 | 差¥24400 |
值得注意的一层是差距的来源:卡时口径H20贵七成,每GB显存口径只贵一成六。H20多出的32GB单卡显存是溢价的主体,而不是算力本身。这意味着负载对显存余量要求越高,两条路径的差距越小;显存刚好够用时,910B的价格优势就全数兑现。
83折节点还能再压一档:¥2.97/时折每GB显存¥0.046,八卡包月等价17112元,同吞吐口径下每百万token的估算值降到约39.3元。83折节点库存紧时要看准时机,包月锁定后不受库存波动影响。
二、吞吐账:实测的甜点与拐点
10月27日我们用极云LLM API压测平台对部署好的dsv4服务(8×910B4,w8a8加MTP)压了244次请求。结论先说:10并发是这套配置的甜点,2.7 RPS约10073 TPM,成功率100%,P90延迟4.12秒、首字P90 3.35秒。
并发往上走,吞吐不涨反降:20并发P90升到7.17秒,50并发首字P90冲到19.46秒、总P90 20.17秒,100并发吞吐回落到8317 TPM、P90 45.26秒。50并发是这条曲线的拐点,特征是首字延迟陡增,说明Prefill已进排队池。这套数字对容量规划的含义很直接:8卡910B跑这套服务,按10至20并发设计目标,50并发是保护性限流的触发线。
压测方法上也值得交代一句:这轮244次请求按5、10、20、50、100五档阶梯采样,每档记录成功率、RPS、TPM、TTFT与P90,长上下文用探针逐档验证真实边界。企业自测时照这套框架跑,数据才有可比性。
两组补充数据让画像更完整:单次输出实测到5241 token、持续解码48.4 tok/s,长输出场景的体验下限有数;全部五档成功率均为100%,说明稳定性不是这套配置的短板,瓶颈只出现在延迟侧。
长上下文同样有实测边界:64k、128k、256k三档探针全部命中,256k档实际输入约11.2万token、Prefill耗时22.46秒;512k被服务端拒绝,物理上限是启动参数里的133120。做容量规划时把单请求上下文压在128k以内,延迟表现最稳。
对外承诺SLA时要区分两个数:服务参数里的133120是配置上限,256k是探针验证过的实测边界,两者都不是业务可承诺值。给业务方的建议值要再留余量,128k以内的请求走默认配置,超长请求单独走队列。
三、每百万token成本怎么算
把吞吐折成月产量再除月租,就得到企业最关心的每百万token成本。口径如下:10并发甜点吞吐10073 TPM,按30天满载折算月产量约4.35亿token(10073×43200分钟)。910B八卡实例等价月租20616元,折每百万token约47.4元;H20八卡实例等价月租35712元,同口径约82.1元。
这个算法的意义不在47.4这个数本身,在于它把“卡时便宜73%”翻译成了业务语言:同样一笔推理预算,在910B上能买到的token量约为H20同口径的1.7倍。对按token核算成本的Agent、客服、文档处理类业务,这个比例直接决定预算表怎么排。
三个口径变量会改变最终数字:并发目标、时段折扣、满载率。并发从10提到20,吞吐基本持平而延迟翻近一倍,单位token成本不变但体验下降;83折与闲时价能再压两成上下;按七成满载折算,47.4元会落到68元附近。预算表建议按这三档各列一行。
四、显存与形态规划
910B 64G的稳态水位是每卡37G权重加16G KV加1G图,约54G占64G。KV池有已知的扩展空间,服务日志提示可用kv-cache-memory参数从15.8G提到20.6G,并发上探前先动这里。H20 96G单卡余量更大,KV可以给得更宽,并发弹性更高,这是它溢价里真实的部分。
形态选择上,长跑的对外服务建议八卡整机:910B整机华为专区月付¥21200,比八卡实例等价月租只多584元,换来2048GB内存、384核鲲鹏与独享20M带宽,数据盘3.84T×2直接放280G权重,重建容器不用重新下载。按量实例留给压测期和小规模验证,两种形态的当日价格可在算力市场实时价目核对,整机配置单见GPU裸金属整机报价。
采购节奏上建议验证期与生产期分开:验证期按量实例跑两到三周,把甜点并发、上下文分布、日均token量三个数摸实;生产期再按实测数字选整机年付,容量规划留两成余量应对峰值。
五、结论:按负载类型对号入座
三类典型负载给三条结论。并发20以内、上下文128k以内的推理服务,910B全链条划算,每百万token成本约为H20同口径的六成;需要更高并发弹性或超长上下文余量的业务,H20的显存余量值这个差价;训练或频繁改拓扑的研发负载,生态成熟度仍是决策权重,建议N卡与910B并行保留,按季度实测数据调整比例。910B当前多节点有现货、还有83折与深夜闲时折扣,先租节点把自己的压测数字跑出来,比任何外部分析都可靠。
把这篇文章里的算法抄成一张表:卡时、每GB显存卡时、月租、实测TPM、每百万token五行,填上自有业务的实测数,选型会从立场之争变成算术题。
常见问题
- Q:昇腾910B和H20租哪个划算?
- A:看负载。910B卡时¥3.58对H20的¥6.20,每GB显存卡时¥0.056对¥0.065,并发20以内的推理负载910B明显更省;需要更大KV池与并发弹性时H20的余量才值差价。
- Q:大模型推理每百万token成本怎么算?
- A:月租÷月产量。月产量=实测吞吐TPM×43200分钟÷100万。本文实测10073 TPM、8卡月租20616元,折约47.4元/百万token,满载口径,实际按业务并发折算。
- Q:并发上不去是不是卡不行?
- A:不一定。50并发时首字延迟陡增是Prefill排队特征,属于显存与调度的容量边界,不是硬件故障。可先扩KV池、调max-num-seqs,或按10至20并发多副本拆分。
- Q:整机比实例贵在哪里?
- A:910B整机华为专区月付¥21200对八卡实例等价¥20616,只差584元,换来2048GB内存、384核鲲鹏与独享20M带宽。长跑服务选整机,短期验证选实例。
- Q:w8a8量化会不会影响业务质量?
- A:w8a8是官方发布链路的一部分,推理场景的精度损失一般可接受。对质量敏感的业务,用自有评测集对比量化与fp16输出的差异后再定。
910B与H20当日价格、库存实时可查,先租节点跑自己的压测。
算力市场价格查询相关阅读:
2. 八卡整机配置单与月付价
3. 极智算算力租赁平台首页