vLLM 工作坊

AFD Plugin:vLLM 中的 Attention–FFN 分离

具体日期、时间与会场确认后将在此补充。

活动简介

本工作坊介绍 AFD Plugin:一个无需修改 vLLM 或 vLLM-Ascend 源码,即可将 Attention 与 FFN/MoE 执行拆分为独立角色的外部插件。内容涵盖激活值交换、同步 Decode、异步 Prefill、微批处理、通信计算重叠,以及在昇腾 910C 上运行 DeepSeek-V3.2 的性能与取舍。