议程安排
讲师
赞助商
同期活动
志愿者
大会地点
中文
English
CFP 议题征集
购票
购票
议程安排
讲师
赞助商
同期活动
志愿者
大会地点
中文
English
CFP 议题征集
购票
上一个
llm-d:打造跨负载、跨模态、跨硬件、跨平台的分布式推理平面
议程安排
下一个
AFD Plugin:vLLM 中的 Attention–FFN 分离
vLLM 工作坊
基于 vLLM 的 Kimi K3 智能体生产级推理服务
具体日期、时间与会场确认后将在此补充。
活动简介
本工作坊分享 Inferact 团队如何基于开源 vLLM 引擎,为 Kimi K3 构建大规模、生产级的智能体推理服务。
讲师
黄梓铭
Member of technical staff, Inferact