单机八卡跑DeepSeek-V4-Flash,910B与H20是两张常被放在一起比的报价单。比价不能停在卡时单价上,要把显存账、实测吞吐、每百万token成本三层都算到。这篇用11月2日极智算官网价格和10月27日的实测压测数据,把三层账一次算完,末尾给按负载类型的选型结论。742.png

一、价格账:卡时与每GB显存卡时

11月2日官网采集:910B 64G实例标准节点¥3.58/时、包月¥2577,83折节点¥2.97/时、包月¥2139;H20 96G实例¥6.20/时、包月¥4464,当日已租完。裸机侧910B八卡整机华为专区年付折合月付¥21200,H20八卡整机¥45600。

口径(11-02采集)910B 64GH20 96G差额
单卡按量¥3.58/时¥6.20/时H20贵73.2%
单卡包月¥2577¥4464H20贵73.2%
每GB显存卡时¥0.056(83折节点¥0.046)¥0.065H20贵16.1%
八卡实例等价月租¥20616¥35712差¥15096
八卡整机月付¥21200¥45600差¥24400
每GB显存卡时 = 单卡时租 ÷ 显存GB数。大模型推理对显存的敏感度常高于算力,这个口径比卡时单价更贴近真实性价比。910B以83折价算每GB只有¥0.046,是全页面显存单位成本靠前的档位。

值得注意的一层是差距的来源:卡时口径H20贵七成,每GB显存口径只贵一成六。H20多出的32GB单卡显存是溢价的主体,而不是算力本身。这意味着负载对显存余量要求越高,两条路径的差距越小;显存刚好够用时,910B的价格优势就全数兑现。

83折节点还能再压一档:¥2.97/时折每GB显存¥0.046,八卡包月等价17112元,同吞吐口径下每百万token的估算值降到约39.3元。83折节点库存紧时要看准时机,包月锁定后不受库存波动影响。

二、吞吐账:实测的甜点与拐点

10月27日我们用极云LLM API压测平台对部署好的dsv4服务(8×910B4,w8a8加MTP)压了244次请求。结论先说:10并发是这套配置的甜点,2.7 RPS约10073 TPM,成功率100%,P90延迟4.12秒、首字P90 3.35秒。741.png

并发往上走,吞吐不涨反降:20并发P90升到7.17秒,50并发首字P90冲到19.46秒、总P90 20.17秒,100并发吞吐回落到8317 TPM、P90 45.26秒。50并发是这条曲线的拐点,特征是首字延迟陡增,说明Prefill已进排队池。这套数字对容量规划的含义很直接:8卡910B跑这套服务,按10至20并发设计目标,50并发是保护性限流的触发线。

压测方法上也值得交代一句:这轮244次请求按5、10、20、50、100五档阶梯采样,每档记录成功率、RPS、TPM、TTFT与P90,长上下文用探针逐档验证真实边界。企业自测时照这套框架跑,数据才有可比性。

两组补充数据让画像更完整:单次输出实测到5241 token、持续解码48.4 tok/s,长输出场景的体验下限有数;全部五档成功率均为100%,说明稳定性不是这套配置的短板,瓶颈只出现在延迟侧。

长上下文同样有实测边界:64k、128k、256k三档探针全部命中,256k档实际输入约11.2万token、Prefill耗时22.46秒;512k被服务端拒绝,物理上限是启动参数里的133120。做容量规划时把单请求上下文压在128k以内,延迟表现最稳。

对外承诺SLA时要区分两个数:服务参数里的133120是配置上限,256k是探针验证过的实测边界,两者都不是业务可承诺值。给业务方的建议值要再留余量,128k以内的请求走默认配置,超长请求单独走队列。

三、每百万token成本怎么算

把吞吐折成月产量再除月租,就得到企业最关心的每百万token成本。口径如下:10并发甜点吞吐10073 TPM,按30天满载折算月产量约4.35亿token(10073×43200分钟)。910B八卡实例等价月租20616元,折每百万token约47.4元;H20八卡实例等价月租35712元,同口径约82.1元。

估算口径声明:这组数字假设两条路径跑同一模型吞吐相当,实际H20在显存余量与生态调优上可能跑出更高吞吐,须以自有业务压测为准。满载假设是理论上沿,实际按业务并发与时段折扣折算。

这个算法的意义不在47.4这个数本身,在于它把“卡时便宜73%”翻译成了业务语言:同样一笔推理预算,在910B上能买到的token量约为H20同口径的1.7倍。对按token核算成本的Agent、客服、文档处理类业务,这个比例直接决定预算表怎么排。

三个口径变量会改变最终数字:并发目标、时段折扣、满载率。并发从10提到20,吞吐基本持平而延迟翻近一倍,单位token成本不变但体验下降;83折与闲时价能再压两成上下;按七成满载折算,47.4元会落到68元附近。预算表建议按这三档各列一行。

四、显存与形态规划

910B 64G的稳态水位是每卡37G权重加16G KV加1G图,约54G占64G。KV池有已知的扩展空间,服务日志提示可用kv-cache-memory参数从15.8G提到20.6G,并发上探前先动这里。H20 96G单卡余量更大,KV可以给得更宽,并发弹性更高,这是它溢价里真实的部分。

形态选择上,长跑的对外服务建议八卡整机:910B整机华为专区月付¥21200,比八卡实例等价月租只多584元,换来2048GB内存、384核鲲鹏与独享20M带宽,数据盘3.84T×2直接放280G权重,重建容器不用重新下载。按量实例留给压测期和小规模验证,两种形态的当日价格可在算力市场实时价目核对,整机配置单见GPU裸金属整机报价。

采购节奏上建议验证期与生产期分开:验证期按量实例跑两到三周,把甜点并发、上下文分布、日均token量三个数摸实;生产期再按实测数字选整机年付,容量规划留两成余量应对峰值。

五、结论:按负载类型对号入座

三类典型负载给三条结论。并发20以内、上下文128k以内的推理服务,910B全链条划算,每百万token成本约为H20同口径的六成;需要更高并发弹性或超长上下文余量的业务,H20的显存余量值这个差价;训练或频繁改拓扑的研发负载,生态成熟度仍是决策权重,建议N卡与910B并行保留,按季度实测数据调整比例。910B当前多节点有现货、还有83折与深夜闲时折扣,先租节点把自己的压测数字跑出来,比任何外部分析都可靠。

把这篇文章里的算法抄成一张表:卡时、每GB显存卡时、月租、实测TPM、每百万token五行,填上自有业务的实测数,选型会从立场之争变成算术题。

常见问题

Q:昇腾910B和H20租哪个划算?
A:看负载。910B卡时¥3.58对H20的¥6.20,每GB显存卡时¥0.056对¥0.065,并发20以内的推理负载910B明显更省;需要更大KV池与并发弹性时H20的余量才值差价。
Q:大模型推理每百万token成本怎么算?
A:月租÷月产量。月产量=实测吞吐TPM×43200分钟÷100万。本文实测10073 TPM、8卡月租20616元,折约47.4元/百万token,满载口径,实际按业务并发折算。
Q:并发上不去是不是卡不行?
A:不一定。50并发时首字延迟陡增是Prefill排队特征,属于显存与调度的容量边界,不是硬件故障。可先扩KV池、调max-num-seqs,或按10至20并发多副本拆分。
Q:整机比实例贵在哪里?
A:910B整机华为专区月付¥21200对八卡实例等价¥20616,只差584元,换来2048GB内存、384核鲲鹏与独享20M带宽。长跑服务选整机,短期验证选实例。
Q:w8a8量化会不会影响业务质量?
A:w8a8是官方发布链路的一部分,推理场景的精度损失一般可接受。对质量敏感的业务,用自有评测集对比量化与fp16输出的差异后再定。
数据来源与时效:压测数据来自极云LLM API压测平台(2026-10-27,测试模型dsv4,244次请求,环境为8×910B4、w8a8加MTP、vllm-ascend v0.23.0);每百万token成本为估算口径,假设两路径吞吐相当且满载;官网价格采集于2026-11-02,随市场波动,以实际下单页面为准。

910B与H20当日价格、库存实时可查,先租节点跑自己的压测。

算力市场价格查询

相关阅读:

1. 910B与H20节点实时报价

2. 八卡整机配置单与月付价

3. 极智算算力租赁平台首页

算力租赁平台昇腾910BH20推理成本