为深入推进学术交流，拓宽师生科研视野，10月30日下午，计算机学院（人工智能学院）在9号教学楼211会议室举办学术讲座。本次讲座邀西北工业大学周欢教授（国家优青、陕西省领军人才、湖北省杰出青年基金获得者）担任主讲，学院百余名师生到场聆听。

周欢教授以“并行推理加速：从DNN到LLM”为题作报告。报告围绕深度神经网络到大语言模型的推理加速现实痛点展开，系统讲解并行推理加速完整技术路线。针对传统DNN推理场景，剖析现有推理框架存在的计算开销大、调度效率不足等现实问题，讲解融合层技术如何通过算子优化，削减冗余计算，提升DNN推理吞吐性能。面向当下大语言模型LLM部署困境，周欢教授重点解读投机解码核心机理，结合课件案例剖析不同候选模型的适配方案，详解模型并行划分、路径卸载等关键优化策略，在不降低模型生成精度的约束下，减少解码过程中的无效计算，缩短生成时延，实现推理速度的大幅提升，同时探讨了该套技术方案在边缘设备、分布式部署场景下的应用潜力。

周欢教授讲座。 计算机学院（人工智能学院）供图

此次学术讲座帮助师生了解DNN及大语言模型推理加速的前沿技术路径，启发同学们思考大模型高效部署的现实问题，对推动学院人工智能相关学科建设、促进师生科研创新具有积极作用。