推理服务上线前怎么压测：算力租赁平台的QPS验收与量化取舍

推理服务上线前的QPS压测流程、显存规划账与量化精度取舍。本文给出H20、H200实例的并发容量估算方法与量化后精度掉点的补救路径。