智能体推理在吃算力：算力租赁平台的负载形状正在变
过去一周，围绕智能体（Agent）有几条消息值得放在一起看。
9 月 28 日，英伟达发布开放智能体安全平台，包含开源的运行时 OpenShell 和跑在 BlueField-4 DPU 上的带外监控器 Sentry，后者能在毫秒级隔离越界的智能体。9 月 29 日，Anthropic 发布 Claude Sonnet 5.5，列表价维持在每百万输入/输出 token 2 美元和 10 美元不变，但官方称单个任务成本最多降低 30%。同一天，新加坡的 Manus 发布 2.0 版本，新的 Cascade 调度框架在测试配置下让 token 用量减少 23.2%、任务完成快 28.2%、运行成本降 32%。
三条消息都在讲同一件事：智能体正在变成真实的生产负载，而它的算力消耗方式和大模型对话完全不同。
智能体算力需求指 AI 智能体在完成任务时产生的计算消耗，特征是多轮循环调用、长上下文累积、工具调用穿插推理。与单次问答不同，一个智能体任务可能触发几十次模型调用，每次都要携带此前全部上下文，因此对显存容量与 KV 缓存管理的压力远高于普通推理，也更依赖稳定的长时运行环境。
一、负载为什么变了：从一次问答到几十次循环
传统的大模型推理是一条直线：用户提问，模型回答，结束。算力消耗基本等于输入长度加输出长度。
智能体不是这样。它要拆解目标、调用工具、读返回结果、判断是否继续、再决定下一步。每一次判断都是一次完整的模型前向计算，而且要把前面所有步骤的上下文重新塞进去。一个看起来简单的“帮我查一下上周的销售数据并生成图表”的任务，背后可能是十几次到几十次模型调用。
这带来两个直接后果。
其一，显存压力远大于算力压力。上下文不断累积，KV 缓存持续增长，24G 显存的卡在长任务里很容易触顶。这也是为什么 141G、288G 这类大显存机型在今年格外受关注。
其二，任务时长不固定，但总量持续。智能体任务是长尾的，一个任务跑几分钟到几十分钟都正常。这种负载既不适合纯按量的短时实例（跑一半被释放就白费），也不适合一开始就包月大机器（平均利用率可能很低）。
二、模型厂商在降价，算力需求却没少
这里有个容易被误读的地方。Anthropic 把 Sonnet 5.5 的每任务成本降了 30%，Manus 把运行成本降了 32%，听起来都是“省算力”。但如果把这三条线拉到一起看，结论恰好相反。
Sonnet 5.5 在 Terminal-Bench 4.0 上的得分从 Sonnet 5 的 10.3% 提升到 70.6%。这意味着原本需要人盯着做的终端操作类任务，现在可以交给模型自动完成。能力门槛一降，用的人就多了。单位成本下降的同一时间，任务总量在上涨，这是过去两年反复出现的模式。
Manus 的 Cascade 也是同样逻辑。它优化的是调度层，让同样的任务用更少的 token。但调度层效率提升之后，智能体能做的事变多，单次任务的复杂度也会跟着上去。省下来的预算会被更复杂的任务吃掉。
行业数据可以佐证总量方向。信通院此前披露，国内一周的 Token 调用量达到 61.17 万亿量级，而大模型服务备案数量还在增加。真正决定算力供需的从来不是单价，而是被激活的任务数量。
三、这种负载该配什么样的算力
回到采购决策。智能体负载的特征决定了它不是“买最贵的卡”能解决的问题，需要按承载方式分开看。
| 环节 | 负载特征 | 建议配置 | 参考价格 |
|---|---|---|---|
| 智能体开发与调试 | 短时、反复重启、利用率低 | 中端容器，按量计费，利用关机不计费 | 4090 24G ¥1.57/时；910B 64G ¥3.58/时，83 折 ¥2.97/时 |
| 长上下文推理服务 | 7×24 常驻、显存吃紧 | 大显存容器，优先看显存而不是卡数 | H200 141G ¥13.94/时、¥10,036/月；H20 96G ¥6.20/时 |
| 多智能体并行编排 | 卡间通信密集、需稳定组网 | 物理独占整机，具备 NVLink 或 IB 组网 | H20 96G 8 卡整机 ¥45,600/月（IB 400G×4） |
| 微调与后训练 | 周期明确、算力峰值高 | 整机包月，或大规格容器按时长精确控制 | 910B 8 卡整机 ¥18,800 起/月；H100 8 卡整机 ¥88,480/月 |
这张表里最容易被忽略的是第一行和第二行的差别。很多团队在开发阶段用按量容器跑得很好，一上生产就出问题。原因不在性能，而在计费模型不匹配：智能体服务白天负载高、夜里负载低，但服务不能停。这时要么选包月固定成本，要么选支持“关机不收费”且能快速冷启动的按量实例，把夜间空转的钱省下来。
官网容器实例目前支持 1 到 8 卡的规格选择，系统盘 50G 起、数据盘 200G 起，可挂载自定义路径。对需要把模型权重和向量库持久化的智能体项目，数据盘的容量和 IO 类型要在下单前就确认好，避免运行中扩容带来的中断。
查看在售型号与实时单价
四、给技术负责人的两条判断
第一，先算任务量，再选卡型。智能体项目的算力预算不该按“我要几张卡”来定，而该按“每天要完成多少个任务、每个任务平均触发多少次模型调用、平均上下文长度是多少”来倒推。这三个数字确定之后，显存需求和各环节的实例类型就基本锁定了。
第二，把安全与合规算进架构。英伟达这次把安全平台做成了软硬两层，说明智能体越界访问已经从理论风险变成了工程问题。企业在选算力租赁平台时，可以顺带确认两件事：平台是否提供网络隔离与访问控制，长期运行的任务是否有稳定的公网出口与带宽。这些不是算力的性能指标，但会决定项目能不能通过内部评审。