GPU租用平台新手入门指南:从注册到跑通第一个模型
上周有个做电商的朋友找我,说他公司想用AI做商品图生成,问我GPU租用平台怎么用。我花了半小时远程教他,当天就跑通了Stable Diffusion。
写这篇文章,是给第一次接触GPU租用平台的人看的。不讲复杂的理论,只说怎么操作。

第一步:搞清楚你为什么要用GPU
先想清楚你要干什么,再选卡。
跑Stable Diffusion出图、做LoRA微调——RTX 4090就够了。24GB显存,大部分扩散模型都能跑。jygpu上4090时租1.96元起,一小时能出几百张图。
做7B-13B大模型的微调——A100 80GB比较合适。显存够大,训练稳定。
训练70B以上大模型——上H100。这个级别的模型,A100也能跑但太慢了,H100能省一半以上时间。
只是学习、跑demo、测试代码——T4或3090就够了,时租一两块钱,学习成本很低。
第二步:注册GPU租用平台
推荐直接在jygpu.com注册。个人认证送10元算力金,能免费体验4090五个小时,够你熟悉整个流程了。企业认证送50元。注册教程
注册完做实名认证,一般几分钟就通过。然后充值——建议先充个100块试试水,别一上来就充几千。jygpu首充100还送10元现金余额。
第三步:创建GPU实例
以jygpu为例,登录后点"创建实例",会看到GPU云服务器和裸金属服务器两个选项。
新手建议选GPU云服务器(容器化方案)。操作简单,系统预装了CUDA、PyTorch等环境,开箱即用。选4090,地区选离你近的,系统镜像选Ubuntu 22.04 + PyTorch 2.x。
点击创建,等1-2分钟实例就起来了。你会拿到一个IP地址和SSH端口号。
第四步:连接并跑第一个模型
打开终端,SSH连接:
ssh -p 端口号 root@IP地址
进去之后先检查GPU:
nvidia-smi
能看到4090的信息就说明OK了。然后验证PyTorch能不能用:
python3 -c "import torch; print(torch.cuda.is_available())"
输出True,环境没问题。
想跑Stable Diffusion的话,装个diffusers库:
pip install diffusers transformers accelerate
然后几行代码就能出图了。具体的模型代码网上很多,这里不展开。
第五步:用完记得关机或释放
这是新手最容易忽略的。GPU实例按小时计费,不用的时候一定要关机。关机后只收存储费(很少),不算GPU费用。
如果项目做完了,直接释放实例,存储费也省了。记得提前把数据和模型下载到本地。
jygpu支持"关机不收费"策略,这点对偶尔用GPU平台,关机了照样收算力费。
几个新手常见问题
Q:数据怎么传上去?A:用scp或rsync。jygpu的实例默认有100GB数据盘,够放不少东西了。
Q:跑着跑着断了怎么办?A:用tmux或screen开个会话,断了也不会丢任务。或者用nohup。
Q:显存不够怎么办?A:换更大显存的卡。或者用梯度累积、混合精度训练这些技巧降低显存占用。
Q:多个GPU怎么用?A:PyTorch的DataParallel或DistributedDataParallel。jygpu的裸金属8卡方案支持NVlink,多卡通信效率很高。
