KTransformers：消费级硬件上全精度 1T 级 MoE 模型的微调-推理闭环

活动简介

KTransformers 利用 CPU–GPU 异构计算，在消费级硬件上支持万亿参数级 MoE 模型的高效本地推理。本次演讲介绍从模型服务、反馈收集、微调到重新部署的完整闭环，帮助小型团队和研究者以较低硬件成本迭代大型模型。