推理系统 · 研究

面向智能体推理的生命周期感知KV缓存系统

智能体推理把一次模型调用扩展为规划、工具执行、观察回填、验证与重试组成的长生命周期工作流，使KV缓存由请求内临时张量转变为跨轮次执行状态。