很多人做过这样一轮比价：把各平台的 GPU 型号、显存、单价拉成表格，选定了性价比最高的那一档，下单、开实例，然后卡在第一步。

卡在哪？镜像。屏幕上给出三个选项，平台镜像、私有镜像、社区镜像，下面还有一行小字“容器实例不支持再次安装 docker”。这时候如果选错，轻则环境重装、训练脚本要改一堆依赖，重则发现框架版本和卡不匹配，整个实例白开一天。

这篇文章把镜像选择这件事拆开讲。它不涉及卡价，但它决定了你为卡付的钱有没有变成有效算力。

什么是 GPU 容器镜像

GPU 容器镜像指预装了操作系统、CUDA 运行时、深度学习框架及常用工具链的容器模板。用算力租赁平台创建实例时，选择镜像相当于选定了一套已经对齐好的软件环境，省去从裸系统开始安装驱动的过程。镜像中的 CUDA 版本、框架版本与驱动版本必须相互兼容，否则会出现无法调用 GPU 或算子报错的问题。

22.png

一、三种镜像，对应三种工作方式

平台给出的三个选项不是“三选一随便挑”，它们服务的场景完全不同。

三类镜像的定位
  • 平台镜像：平台预置并测试过的环境，通常已对齐驱动、CUDA 与主流框架版本，开箱可用。适合首次使用、验证性能、跑标准训练或推理任务。
  • 私有镜像：企业自己构建并上传的镜像，包含内部代码、私有依赖与固定版本组合。适合已进入生产阶段的团队，能保证多实例环境完全一致。
  • 社区镜像：社区贡献的环境模板，覆盖面广、更新快，可能包含特定版本组合或行业工具。适合需要尝鲜新框架版本、或平台上没有预置对应环境的场景。

页面里还有两项容易被忽略的功能。一是镜像预热，把镜像提前拉取到目标节点，创建实例时不用再等下载，对几十 GB 的大镜像来说能省掉可观的等待时间。二是端口配置，需要在实例上跑对外服务、暴露 WebUI 或 API 端口时，这一步必须在下单时就配好。

二、选镜像的本质是四个版本对齐

环境跑不起来，九成以上的原因是四个版本之间有一处不匹配。

版本对齐关系（自下而上必须逐层兼容）
层级内容常见问题
显卡驱动由平台宿主机提供驱动版本过低，无法满足新框架的最低要求
CUDA 运行时镜像内置框架编译时依赖的 CUDA 版本与镜像内不一致，出现算子找不到
深度学习框架镜像内置PyTorch 与 torchvision、torchaudio 版本错配；与 CUDA 版本错配
Python 与依赖库镜像内置或自行安装依赖冲突、缺少编译工具链、无法安装预编译包

实际操作中，最稳妥的做法是先选平台镜像把任务跑通，再基于可用的环境构建私有镜像。顺序颠倒过来，通常会花更多时间在排查环境上。

注意一处限制：官网在容器实例页面明确标注“容器实例不支持再次安装 docker”。这意味着你想在实例内部跑容器化的工作流（例如用 Docker 启动推理服务或编排多进程）是行不通的。需要在实例里直接部署服务，或改用裸金属整机。规划架构时把这一点考虑进去，比后期改造省事得多。

三、部署推理服务：vLLM 的显存怎么算

面向推理服务的技术选型里，vLLM 是绕不开的选项。它跑不跑得起来，取决于显存能不能装下三部分内容：模型权重、KV 缓存和框架开销。

模型权重是固定的，按参数量和精度估算即可。KV 缓存是变量，它随并发数和上下文长度线性增长，这也是长上下文场景最容易触顶的地方。框架开销相对固定，但会被 gpu_memory_utilization 这类参数影响。

实用判断方法是看三档显存的适配边界。

不同显存档位在单卡容器上的通行做法（价格引自极智算官网 /markets，2026-09-29 采集）
显存档位在售型号与单价典型用途
24G3090 24G ¥1.45/时，¥1,044/月；4090 24G ¥1.57/时，¥1,073/月7B 级模型推理、微调验证、开发调试
32G 至 48G4090 48G ¥2.86/时，¥1,956/月13B 至 14B 级模型推理，或 7B 级长上下文服务
64G 至 96G910B 64G ¥3.58/时（83 折 ¥2.97/时），¥2,577/月；H20 96G ¥6.20/时，¥4,464/月32B 级模型推理，多并发服务
80G 至 141GA800 80G ¥7.15/时；H100 80G ¥12.98/时，¥9,345/月；H200 141G ¥13.94/时，¥10,036/月70B 级模型推理，长上下文与高并发场景

这张表只能给方向，不能替代实测。原因是 KV 缓存的占用取决于业务参数：并发数从 8 提到 32，占用可能翻数倍；上下文长度从 4K 提到 32K，同样是成倍增长。所以选型的正确顺序是先在小规格实例上跑基准测试，测出单个请求的显存占用曲线，再反推需要的档位。

顺便说一个成本细节。910B 64G 在华为二区和三区的部分节点有包月 83 折，折算下来按量 ¥2.97/时、按天 ¥71、包月 ¥2,139。如果你的基准测试要跑几天，选这类节点能直接省一笔。页面同时标注“关机不收费”，测试期间的空转时段不会计费。

容器实例支持 1 至 8 卡自由组合，系统盘与数据盘可自定义挂载路径
查看在售型号、配置与实时单价

四、数据盘：被低估的一步

创建实例时，存储部分有两个设置：系统盘和数据盘，都可以指定挂载路径。官网容器的常见配置是系统盘 50G 挂载在根目录，数据盘 200G 起。看上去操作简单，但这一步直接影响三个问题。

第一是持久性。模型权重动辄几十 GB，公开数据集更大。放在系统盘上，实例一旦释放，重新下载的时间成本很高。放在数据盘并做好路径规范，至少能保证环境重建时的恢复速度。

第二是 IO 类型。训练任务对随机读写敏感，NVMe 与普通 SSD 在数据加载阶段的差距会被放大。官网整机页面对数据盘类型有明确标注，容器页面则给出容量与挂载路径，选型时应当确认底层介质。

第三是路径一致性。如果团队多人共用一套训练脚本，数据盘挂载路径不统一会导致硬编码路径失效。建议在项目初期就把约定写进文档。

不同型号的默认存储配置并不相同。例如 4090 48G 的系统盘为 40G、数据盘 500G；H100 80G 和 H200 141G 的系统盘为 50G、数据盘 50G，后者需要在一开始就规划好大容量数据盘。

21.png

五、从零到跑通的启动清单

确认任务类型，再定镜像类别
验证性能或首次使用选平台镜像；已进入生产、需要环境完全一致选私有镜像；需要特定版本或工具链选社区镜像。
核对驱动与 CUDA 的兼容区间
下单前向平台确认宿主机驱动版本，对照框架官方文档的兼容表，确认目标 CUDA 版本可用。这一步能避免绝大部分“装不上”的问题。
规划存储与挂载路径
把模型权重、数据集、日志分目录存放，明确哪些放系统盘、哪些放数据盘。数据盘容量按最大模型体积乘以二预留。
提前做镜像预热
大镜像的拉取时间可能超过任务本身的调试时间。使用镜像预热功能把镜像预置到目标节点，能显著缩短首次启动的等待。
配好端口，再跑最小用例
部署推理服务需要暴露端口，这一步在下单时配置最省事。实例就绪后先跑一个最小推理用例，验证 GPU 可见性与算子可用性，再铺开正式任务。
沉淀为私有镜像
环境跑通后，把依赖锁定、代码打包成私有镜像。下次创建实例直接调用，团队环境一致性问题基本可以消除。
平台镜像和社区镜像该怎么选？
优先平台镜像。它经过平台测试，与宿主机的驱动和硬件兼容性更有保障，遇到问题也更容易获得支持。社区镜像的优势是版本覆盖广、更新快，适合需要尝鲜新框架版本而平台尚无预置环境的情况。选择社区镜像时，应重点核对 CUDA 版本与宿主机驱动的兼容性。
容器实例能不能跑 Docker？
不能。官网容器实例页面明确标注“容器实例不支持再次安装 docker”。如果你的工作流依赖容器嵌套（例如在实例内用 Docker 启动服务），需要改为在实例内直接部署，或改用裸金属整机。这是架构设计阶段就要考虑的限制。
vLLM 部署需要多大显存？
取决于模型参数量、并发数与上下文长度三个变量。粗略的经验边界是：24G 适合 7B 级，48G 适合 13B 至 14B 级，64G 至 96G 适合 32B 级，141G 适合 70B 级及长上下文场景。但 KV 缓存随并发数和上下文长度线性增长，实际占用可能远超预期。建议先在小规格实例上做基准测试，测出显存占用曲线再决定档位。
系统盘和数据盘有什么区别，为什么数据盘要单独配？
系统盘承载操作系统与运行时环境，数据盘用于存放模型权重、数据集与输出结果。分开配置的主要价值是持久性和 IO 性能。官网容器实例的系统盘通常为 40G 至 60G，数据盘为 50G 至 500G 不等，可指定挂载路径。大模型项目应在下单时就规划足够的数据盘容量，避免运行中扩容导致中断。
数据说明：本文涉及的镜像类型、功能说明与实例配置均引自极智算官网容器实例页面，价格与配置采集于 2026-09-29，页面标注“价格随市场波动，以实际为准”。vLLM 相关的显存估算为通用工程经验，实际占用需以业务实测为准。技术建议供选型参考，具体实现请以框架官方文档为准。
相关阅读： 容器实例型号、配置与单价 裸金属整机（支持容器嵌套场景） 算力优惠入口 GPU容器镜像选择vLLM部署显卡要求算力租赁平台CUDA版本对齐GPU实例配置