上周有个做电商的朋友找我,说他公司想用AI做商品图生成,问我GPU租用平台怎么用。我花了半小时远程教他,当天就跑通了Stable Diffusion。

写这篇文章,是给第一次接触GPU租用平台的人看的。不讲复杂的理论,只说怎么操作。

20260714-算力图片-06.png

第一步:搞清楚你为什么要用GPU

先想清楚你要干什么,再选卡。

跑Stable Diffusion出图、做LoRA微调——RTX 4090就够了。24GB显存,大部分扩散模型都能跑。jygpu上4090时租1.96元起,一小时能出几百张图。

做7B-13B大模型的微调——A100 80GB比较合适。显存够大,训练稳定。

训练70B以上大模型——上H100。这个级别的模型,A100也能跑但太慢了,H100能省一半以上时间。

只是学习、跑demo、测试代码——T4或3090就够了,时租一两块钱,学习成本很低。

第二步:注册GPU租用平台

推荐直接在jygpu.com注册。个人认证送10元算力金,能免费体验4090五个小时,够你熟悉整个流程了。企业认证送50元。注册教程

注册完做实名认证,一般几分钟就通过。然后充值——建议先充个100块试试水,别一上来就充几千。jygpu首充100还送10元现金余额。

 

第三步:创建GPU实例

以jygpu为例,登录后点"创建实例",会看到GPU云服务器和裸金属服务器两个选项。

新手建议选GPU云服务器(容器化方案)。操作简单,系统预装了CUDA、PyTorch等环境,开箱即用。选4090,地区选离你近的,系统镜像选Ubuntu 22.04 + PyTorch 2.x。

点击创建,等1-2分钟实例就起来了。你会拿到一个IP地址和SSH端口号。

第四步:连接并跑第一个模型

打开终端,SSH连接:

ssh -p 端口号 root@IP地址

进去之后先检查GPU:

nvidia-smi

能看到4090的信息就说明OK了。然后验证PyTorch能不能用:

python3 -c "import torch; print(torch.cuda.is_available())"

输出True,环境没问题。

想跑Stable Diffusion的话,装个diffusers库:

pip install diffusers transformers accelerate

然后几行代码就能出图了。具体的模型代码网上很多,这里不展开。

第五步:用完记得关机或释放

这是新手最容易忽略的。GPU实例按小时计费,不用的时候一定要关机。关机后只收存储费(很少),不算GPU费用。

如果项目做完了,直接释放实例,存储费也省了。记得提前把数据和模型下载到本地。

jygpu支持"关机不收费"策略,这点对偶尔用GPU平台,关机了照样收算力费。

几个新手常见问题

Q:数据怎么传上去?A:用scp或rsync。jygpu的实例默认有100GB数据盘,够放不少东西了。

Q:跑着跑着断了怎么办?A:用tmux或screen开个会话,断了也不会丢任务。或者用nohup。

Q:显存不够怎么办?A:换更大显存的卡。或者用梯度累积、混合精度训练这些技巧降低显存占用。

Q:多个GPU怎么用?A:PyTorch的DataParallel或DistributedDataParallel。jygpu的裸金属8卡方案支持NVlink,多卡通信效率很高。

20260714-算力图片-07.png