UCM：从KV Cache加速走向智能体规模推理的全生命周期管理

活动简介

本工作坊分析智能体负载如何改变 KV Cache 的复用、留存与容量需求，并介绍具备生命周期感知能力的统一缓存管理器 UCM。系统覆盖 GPU 内存、DRAM、SSD 与分布式存储，通过自适应策略、持久化缓存、分层放置和高性能数据传输降低大规模推理成本。