企业级GPU算力租赁选型指南：从4090到H100的实战决策路径
去年帮一个做AI的团队选算力方案，他们上来就问"H100多少钱一个月"。我问了一句：你们模型多大？答：7B。又问：是训练还是推理？答：主要是推理。
结论很简单：4090就够用了，H100纯属浪费钱。省下来的预算够租5张4090跑半年。
这不是个例。在算力租赁平台上选卡，最常见的错误就是——不做需求分析，直接奔着最贵的去。这篇文章用四个维度帮你建立选型的决策框架，最后给出六个典型场景的推荐方案。
选型决策四步法
确定工作负载类型：训练还是推理？
训练需要高算力+大显存+多卡互联；推理对单卡算力要求低，但需要低延迟和高并发。这是最基础也是最容易被跳过的判断。
确认模型参数规模和显存需求
7B模型约需14GB显存（FP16），70B约需140GB。单卡装不下就得考虑多卡方案或更大显存的卡。
判断交付形式：容器还是裸金属？
推理和开发用容器（弹性伸缩、成本低）；大模型训练用裸金属（物理独享、NVlink高速互联）。
核算总成本：GPU租金 + 存储 + 流量 + 其他
GPU租金只是明面上的成本。数据盘、出站流量、公网IP、关机策略——这些加起来可能占总成本的20%以上。
GPU容器 vs 裸金属：什么时候该选哪个
一条简单的判断规则：如果你的训练任务单卡跑不完、或者需要多卡并行训练，选裸金属。其他情况优先考虑容器。
极智算（jygpu.com）同时提供两种交付方式，同一平台内切换，不用在两个平台之间倒数据。
六大典型场景的GPU选型方案
SD出图对显存有要求（一般需要8-12GB），但对算力要求不高。4090的24GB显存绰绰有余。
7B模型+LoRA微调，单卡24GB显存够用。如果数据量大，建议上4090 48G版本。
13B全参训练单卡需要约26GB显存，70B需要约140GB。必须多卡+NVlink互联。A100 80G是性价比最优解。
训练效率是关键。H100的FP16算力（1979T）是A100（312T）的6倍多，训练效率是A100的2-3倍。70B以上模型用H100是刚需。
推理对单卡算力要求低，但对并发和延迟敏感。用容器实例做弹性伸缩，流量高的时候自动扩容。
政府和国企项目对国产化有硬性要求。昇腾910B的FP16算力（320T）接近A100，PyTorch和MindSpore生态已比较成熟。价格约为A100的六成。
选型中容易被忽视的三个技术细节
1. 显存带宽比显存容量更关键
A100的SXM版本显存带宽2TB/s，PCIe版本只有600GB/s。训练大模型时，这个差距比很多人想象的大——数据在显存和计算单元之间搬运的速度直接影响训练效率。SXM版训练大模型比PCIe版快30%以上。在算力租赁平台上选A100时，一定要确认是SXM还是PCIe版本。
2. 多卡训练的网络拓扑
多卡训练的性能瓶颈往往不在GPU本身，而在卡与卡之间的通信速度。NVlink的带宽（900GB/s）远超PCIe（64GB/s）。如果平台不提供NVlink，8卡训练的实际效率可能只有理论值的60%。极智算的裸金属方案标配NVlink和IB网卡，这是训练场景的基础配置。
3. 数据盘IO性能
训练大模型时，数据加载是一个常被忽略的瓶颈。如果数据盘用的是普通HDD，IO延迟会拖慢整个训练流程。确认平台提供的是NVMe SSD——极智算裸金属方案标配3.84TB或7.68TB NVMe SSD。
💡 总结：先确定工作负载（训练/推理）→ 再确认模型规模（显存需求）→ 选择交付形式（容器/裸金属）→ 核算总成本。不要跳过任何一步。