具体日期、时间与会场确认后将在此补充。
本工作坊分析智能体负载如何改变 KV Cache 的复用、留存与容量需求,并介绍具备生命周期感知能力的统一缓存管理器 UCM。系统覆盖 GPU 内存、DRAM、SSD 与分布式存储,通过自适应策略、持久化缓存、分层放置和高性能数据传输降低大规模推理成本。
讲师