H20包月7020:被说算力低的那张卡,先降了18.5%
11月18日采集官网算力市场,H20 141G的挂牌价动了:按量从13元每时降到10.40元,页标注8折;包月从8611元降到7020元,页标75折;包天243元,78折。三层折扣同日齐调,是这张卡上架以来幅度大的一次。
有意思的地方在于,论坛和自媒体里对这张卡的吐槽一直没停过,出现频率高的评语是「显存大、算力低」。恰恰是这张被反复质疑算力的卡,率先让了利。这两件事放在一起看,比单独看任何一个都有信息量。
一、价格动了什么
先摆数字。对比11月17日与11月18日两次采集,H20 141G三个计费档全部下调,幅度在18.5%到20%之间。
| 计费档 | 11月17日 | 11月18日 | 变动 |
|---|---|---|---|
| 按量 | 13.00元/时 | 10.40元/时(8折) | 降20.0% |
| 包天 | 302元/天 | 243元/天(78折) | 降19.5% |
| 包月 | 8611元/月 | 7020元/月(75折) | 降18.5% |
配置没变:四川一区node-n0167,141GB显存、21核CPU、125G内存、60G系统盘加300G数据盘、1000Mb共享带宽,页面余量8卡,标注「全网独家」,按钮文案仍是「立即试用」。价格动了、余量回满了,供给节奏和定价策略在同一天出现两个信号。
同期另一条线:燧原S60 48G包月从2052元降到1404元,按量从3元降到2.07元。两处让利都落在「新近上架、有货可开」的档位上,而不是已租完的档位。让利跟着供给走,这个特征值得记住。
二、算力低的说法从哪来
「算力低」不是空穴来风。官网标注H20 96G算力148 TFLOPS,141G版接口未标注、数值以官方口径为准;同代H100 80G标1979 TFLOPS。两个数字差距悬殊,但要留意口径:前者是稠密口径,后者是稀疏口径,直接相除会放大差距。拉平口径之后,H20的算力仍然明显低于H100,这来自产品设计取舍,不是配置缩水。
产业媒体对这代特供芯片的概括比较直白:把资源从算力挪到显存容量与带宽上。H20显存96G或141G、带宽约4TB每秒,二级缓存60MB还高于H100的50MB,机内NVLink互联保留完整。减法做在矩阵运算上,加法做在数据搬运上。
三、为什么推理场景对它有耐心
争议的关键在于:算力标签衡量的是矩阵运算峰值,而对话式推理的大头是解码阶段。解码每生成一个token都要读一遍全部权重,瓶颈在读显存的速度,不在算数值的速度。一个常用的估算式是解码上限约等于显存带宽除以权重体积:70B模型FP8权重约70G,H20带宽约4TB每秒,理论上限约57 tokens每秒;H100带宽约3.35TB每秒,上限约48。长文本输出场景里,H20并不吃亏。
公开实测给了更具体的参照。有团队用8张H20跑GLM-5.3的INT4量化版,32K上下文、64路并发,系统总吞吐约300到400 tokens每秒,单请求首token延迟约800毫秒到1.2秒。同一模型换8张H100理论能到700到900,差距存在,但H20这一侧的数字足以支撑几十个业务方同时调用。作者的结论也很克制:显存充裕、装得下、跑得稳,速度不是顶尖。
四、边界在哪里
把不适合的情况说清楚,比罗列优点更有用。实测作者的判断是:推理为主、预算有限,8卡H20加量化加vLLM或SGLang可行;微调是刚需就别硬扛,按需租A100或H100更划算。预填充重的任务,比如一次性喂十万token做长文档抽取、批量embedding,算力是瓶颈,这张卡会慢一截。
纯高并发的小模型推理也不必上141G。显存用不满,等于为用不上的容量付费,96G档或者4090这类消费级档位更贴合。选卡先看任务卡在哪:卡在算力的任务看H100,卡在显存容量的任务看H20,卡在预算的任务看S60和910B。
五、按量试、包月接
价格回落后,试错成本也降了。按量10.40元每时,跑一天基准约243元;跑通了再切包月7020元,单卡年付口径按裸金属年付规律另算。8卡包月合计56160元,对要长期驻留一个70B级推理服务的团队,这是目前显存容量档里比较低的一档包月价。
建议的节奏是先用按量把镜像、权重、启动脚本全部调通,记录吞吐与首token延迟两组数,再切包月把环境固化下来。切换前把数据盘内容做快照,避免重复搬权重。当前余量与实时价可以在算力市场实时报价页核对,同型号整机形态可看裸金属整机配置与报价页。价格随市场波动,以实际下单页面为准。
单位显存成本再补一笔账。按包月7020元除以141GB,每GB显存月成本约49.8元;对照页面挂牌H100 80G包月9345元,每GB约116.8元;H200 141G包月10036元,每GB约71.2元。H20 141G这档让利后,单位显存成本处在三档里偏低的位置,这正是显存敏感型任务选它的账面依据。
行情侧还有一条可对照的外部口径:上海有色网11月中旬的算力日评里,H20 141G的成渝基准价报7.90元每卡时,H20 96G京津冀报7.38元。基准价反映批发与长约市场,平台挂牌10.40元是零售散租,两者口径不同不能直接比,但两个市场都在给大显存档定价,说明这个档位的需求是实打实的,不是平台单方面的一厢情愿。
价格之外的供给信号也值得记录:这张卡上架初期余量多次被消耗到6卡,随后又回补到8卡满配。让利与回补出现在同一个档位上,说明平台在用价格调节这张卡的需求节奏。对租户来说,判断依据始终是自己的任务账,行情只是入场时机的参考。
常见问题Q:H20算力低的真相是什么?
A:它把晶体管预算从矩阵运算挪到了显存容量与带宽上。148 TFLOPS是稠密口径,与H100的1979稀疏口径不可直接相除;拉平后H20算力仍低一截,但显存容量反超、带宽约4TB每秒更高。低的是算数值的峰值,不低的是搬数据的速度。
Q:首token延迟怎么降?
A:首token延迟主要由预填充阶段决定,受输入长度影响大。公开实测里8卡H20跑32K上下文约800毫秒到1.2秒。可用的手段包括开启chunked-prefill把长请求切块、缩短max-model-len、对重复系统提示词开前缀缓存。输入越长、越吃算力的任务,改善空间越小。
Q:包月7020元对比H100和H200是什么水平?
A:页面挂牌H100 80G包月9345元、H200 141G包月10036元,两者当前均显示已租完。H20 141G包月7020元显存同档更大、价格更低,且余量8卡可开。三档的算力与生态各有差异,比价时要连同算力口径一起看。
Q:为什么平台选择给这张卡让利?
A:本文不给动机预判。可观察的事实是:让利落在「有货可开」的档位,已租完的档位价格未动;同期S60同步下调。折扣是平台调节供需的工具,这个规律在此前多个批次的价格观察里反复出现。
查看H20 141G当前实时价
进入算力市场相关阅读:
标签:算力租赁平台|H20|141G显存|推理显卡|GPU租赁价格