系统与设计系统的优化(面向大模型推理的模型与系统协同优化)
导读 本文基于中科院计算所处理器芯片全国重点实验室编译与编程实验室赵家程老师的技术分享,从性能工程视角深度解析大模型推理的系统优化问题。作为一位深耕 AI 系统底层优化的专家,赵家程老师详细阐述了如何通过模型与系统的...

导读 本文基于中科院计算所处理器芯片全国重点实验室编译与编程实验室赵家程老师的技术分享,从性能工程视角深度解析大模型推理的系统优化问题。作为一位深耕 AI 系统底层优化的专家,赵家程老师详细阐述了如何通过模型与系统的...