KVCDN 工作坊

UCM:从 KV Cache 加速走向智能体规模推理的全生命周期管理

具体日期、时间与会场确认后将在此补充。

活动简介

本工作坊分析智能体负载如何改变 KV Cache 的复用、留存与容量需求,并介绍具备生命周期感知能力的统一缓存管理器 UCM。系统覆盖 GPU 内存、DRAM、SSD 与分布式存储,通过自适应策略、持久化缓存、分层放置和高性能数据传输降低大规模推理成本。