KVCDN 工作坊

Mooncake Store:解耦架构中面向智能体强化学习的KV存储

日期 2026-10-17 时间 17:00-17:30 地点 2楼-凯旋2厅

活动简介

Mooncake 为强化学习提供高性能数据平面,通过结构化对象、DataProto/typed-ragged、BufferPool 与 RDMA 优化 rollout 数据传输,并与 Miles 集成以替代 Ray Object Store,同时支持同步和全异步模式。在权重更新方面,它支持 NCCL 广播、Mooncake TransferEngine P2P RDMA 与磁盘增量方案,并在 Kimi-K2 上通过 P2P 实现约 7 倍加速。此外,它还支持 TP/PP/EP/DP 异构重分片、Store 权重快照与 MoE 稀疏增量,相关生产能力已应用于 Miles、SGLang 和 vLLM 等生态。