70B模型到底需要多少显存?估算公式和实操配置
70B 模型要多少显存,网上说法从 140GB 到 280GB 都有,把人看晕。本文把权重、KV Cache、优化器状态逐项拆开算,给你一套自己能套的公式,再按推理和训练两种场景给出对应的显卡配置。
2026年08月19日 15:5170B 模型要多少显存,网上说法从 140GB 到 280GB 都有,把人看晕。本文把权重、KV Cache、优化器状态逐项拆开算,给你一套自己能套的公式,再按推理和训练两种场景给出对应的显卡配置。
2026年08月19日 15:51