vLLM 工作坊

从单点加速到系统最优:大模型推理的全栈优化实践

日期 2026-10-17 时间 15:40-16:10 地点 3楼-明华厅

13:10–13:40 签到,工作坊于 13:40 正式开始。

活动简介

本工作坊结合混元大模型推理与 GPU 研发实践,介绍以服务目标为导向的全栈优化方法。从目标与瓶颈分析、算子级优化延伸到计算、访存、通信和调度协同,重点讨论如何权衡并行策略、显存开销、吞吐、延迟与模型质量,将局部加速转化为可验证的端到端收益。

选择下载方式