新卡上架之后,平台容器侧能选的国产与非数据中心卡变成了四个档位:燧原S60 48G、华为910B 64G(含83折节点)、4090 24G、4090 48G。四个档位的卡时价从1.57元到3.58元,显存从24G到64G,跨度不算大,但单位成本与适用负载差得不小。

这篇只做一件事:把四个档位放到同一套口径上比。价格全部取自2026年11月17日接口,衍生指标用四则运算,模型显存占用按业界通用估算口径,非实测。646.png

四个档位、四个价位:先比单位显存,再比实测吞吐

一、四个档位的基础参数

先看原始数字,不看结论。四张卡片的价格、配置与显存如下,包月价均为接口复算值。

档位显存按量包月CPU/内存数据盘
燧原 S6048G3元/时2052元12核/30G500G
910B 标准64G3.58元/时2577元21核/200G200G
910B 83折64G2.97元/时2139元20至21核/200G200至300G
4090 24G24G1.57元/时1074元15核/60G100G

配置差异最大的是内存。910B给到200G,S60只有30G,4090 24G是60G。内存影响的是数据预处理、多路并发与KV Cache的CPU侧缓存,纯推理服务用不满200G,但跑批量数据处理时30G会先成为瓶颈。

数据盘反过来,S60给500G,910B只有200G。数据集就地训练或微调的场景,S60的盘位更宽裕;把数据放共享存储的场景,这个差异不重要。

二、单位显存成本:42.75元排在中间

算法是包月价除以显存GB数,得到每GB显存每月的成本。这个口径回答的是「同样显存容量,哪个便宜」,不回答「哪个跑得快」。

档位包月价显存元/GB·月相对910B标准
910B 83折2139元64G33.4便宜17%
910B 标准2577元64G40.3基准
4090 48G1956元48G40.8基本持平
燧原 S602052元48G42.8贵6%
4090 24G1074元24G44.8贵11%
H20 141G(参照)8611元141G61.1贵52%

结论有三条。一是83折910B是全场显存成本偏低的一档,33.4元的水平没有其他档位可比,这也是折扣池先被吃空的原因。二是S60的42.8元落在中间,比910B标准贵6%、比4090 24G便宜4%,显存效率上没有明显优势。三是H20 141G的61.1元是另一个层级,贵在进口生态与大显存,不参与这组比价。

要注意这个口径的局限:显存多不等于能跑,显存便宜的卡可能算力弱、跑得慢。单位显存成本只用于初筛,最终判断要靠吞吐。

还有一个常被忽略的成本项是内存与数据盘。910B配200G内存、S60只有30G,跑批量推理时差别明显:30G大约能缓存两三百个中等长度上下文,超出后要落盘,延迟上升。数据盘反过来,S60的500G能放三个13B的fp16权重,910B的200G只够一个。核价时把这两项折进去,排序可能变化。

三、48G显存能跑什么

按业界通用的估算口径,fp16精度下每个参数占2字节,权重体积等于参数量乘以2;int8约1字节,4bit约0.5字节。这个算法不含激活值与KV Cache,实际占用要在此基础上加一到三成。645.png

48G 是分水岭:13B 舒适、32B 要量化

对照S60的48G:7B模型fp16权重约14GB,余量充裕,可跑长上下文与高并发;13B模型fp16约26GB,剩22GB给KV Cache,128K上下文单请求约需十几GB,能跑但并发要控制;32B模型fp16约64GB,装不下,必须用int8(约32GB)或4bit(约16GB)量化版本;70B模型4bit约35GB,可以放,吞吐与精度都要实测。

所以48G的定位很清楚:13B级别的fp16推理,或者32B级别的量化推理。这与910B 64G的边界只差一步,64G能裸跑32B的int8并留出更大的KV Cache余量;再往上的70B fp16(约140GB)两个档位都装不下,只能靠多卡切分或H20 141G。

四、卡时价怎么换算成真实成本

卡时价是挂牌单位,真实成本要用「每百万token多少钱」衡量。算法:单卡时价除以该卡每小时产出的token数。同一个模型、同一套输入长度,四张卡各跑一遍,拿到吞吐,再套公式。

给一个中性算例。假设某13B模型在S60上的实测吞吐是每小时90万token,卡时价3元,则每百万token约3.33元;若910B跑到每小时120万token、卡时价3.58元,则每百万token约2.98元。这时910B更划算,尽管它的卡时价更高。反过来,若S60能跑到130万token,单位成本就降到2.31元,反超910B。

这个算例里的吞吐数字是假设值,只用来演示公式,不是实测结论。实际数字取决于模型结构、batch大小、输入输出长度比例,必须自己跑。这也是新卡入场时值得优先投入的验证工作。

还要注意显存碎片的实际影响。48G卡跑13B fp16时余22G看着够用,但KV Cache随并发线性增长,八并发之后开始吃紧;64G卡同场景余38G,能撑到十六并发以上。需要高并发的服务,64G的实际可用并发不是48G的1.33倍,可能接近两倍。

五、什么负载选哪个档

选910B 83折的场景:负载稳定、模型已适配昇腾生态(CANN)、追求显存成本。33.4元的显存成本是全场偏低水平,代价是余量只有5张、随时可能清零。

选S60的场景:已有CUDA代码但愿意做一轮迁移、需要大一点的数据盘、对国产化有要求。42.8元的显存成本不算便宜,但3元的卡时价在短租场景压力小,适合先验证再决定是否长租。30G内存是硬约束,多路解码与数据预处理重的负载要谨慎。

选4090的场景:小模型微调、轻量推理、图像生成等消费级卡就能胜任的任务,24G档1074元是低成本试错的选择;48G档1956元适合单卡放13B fp16模型的中等负载。四张卡里4090的生态兼容性突出,CUDA原生,零迁移成本。

四档的实时余量与价格可以在算力市场实时报价页核对。要一次锁多台、避免余量波动的,可对照裸金属整机配置与报价页。

常见问题

Q:S60和910B怎么选?

A:看三件事。一是模型是否已在昇腾生态适配好,已适配选910B,没适配选S60的迁移成本更低(PaddleNLP只需改device参数);二是内存需求,多路解码选910B的200G;三是显存成本,910B 83折的33.4元明显低。两者算力都要实测。

Q:S60 48G能跑什么模型?

A:13B及以下模型fp16可以直接跑,13B约26GB权重、剩22GB给KV Cache;32B需要int8或4bit量化;70B只能用4bit版本(约35GB),吞吐与精度需实测。按估算口径,不含激活值。

Q:为什么显存便宜的卡不一定划算?

A:显存只决定「能不能装下」,吞吐决定「跑得多快」。单位显存成本低的卡如果算力弱、吞吐只有对手的一半,每百万token的实际成本反而更高。核价要走到吞吐这一步,不能停在显存单价。

Q:4090和这些国产卡能混用吗?

A:可以在同一个项目里分工,不建议同一集群混跑。4090跑CUDA原生的小模型微调,S60或910B跑推理服务,各自独立部署、通过接口调用。跨架构做张量并行不可行,通信与算子都不兼容。

数据来源与时效:价格、折扣、配置与余量取自极智算官网行情接口 2026-11-17 抓取;模型显存占用按参数×字节数的业界通用估算口径(fp16 为 2 字节、int8 为 1 字节、4bit 为 0.5 字节),不含激活值与 KV Cache,非实测;文中吞吐数字为演示公式的假设值,不构成性能结论。价格随市场波动,以实际下单页面为准。

对比四档当前报价与余量

进入算力市场

相关阅读:

标签:算力租赁平台|S60 48G|910B 64G|显存成本|GPU租赁