构建混合 AI 系统：边缘推理与云端推理的融合

活动简介

本次演讲以仓库安全监控为案例，介绍一种混合架构：在边缘 GPU 上运行延迟敏感的视觉语言模型推理，并将摘要与对话检索交给云端智能体。内容涵盖工作负载划分、模型选择、性能优化、共享记忆和跨环境可观测性。