H20也会OOM:显存大户的挤爆现场与调参次序
选卡的人常有一种直觉:显存大就不会爆显存。公开部署实录给了相反的证据,有团队用8张H20部署GLM-5.3,第一轮启动就把显存利用率设到0.95,并发一上来直接CUDA out of memory。9
2026年11月18日 15:00选卡的人常有一种直觉:显存大就不会爆显存。公开部署实录给了相反的证据,有团队用8张H20部署GLM-5.3,第一轮启动就把显存利用率设到0.95,并发一上来直接CUDA out of memory。9
2026年11月18日 15:00