A100还是4090？大模型训练推理显卡怎么选

A100和4090的区别在定位：A100是数据中心卡，有NVLink、适合多卡训练；4090是消费级卡，24G显存性价比高，适合推理、生图和量化方案。训练选A100，推理选4090。