4. 模型转换&优化

《模型转换&优化》在这一节当中分为模型转换和模型优化,在整体架构图中属于离线模型转换模块。一方面,推理引擎需要把不同 AI 框架训练得到的模型进行转换;另外一方面需要对转换后的模型进行图优化等技术。

希望这个系列能够给大家、朋友们带来一些些帮助,也希望自己能够继续坚持完成所有内容哈!

内容大纲

PPT字幕需要到 Github 下载,网页课程版链接会失效哦~

建议优先下载 PDF 版本,PPT 版本会因为字体缺失等原因导致版本很丑哦~

大纲

小节

链接

模型转换&优化

01 基本介绍

PPT, 视频

模型转换模块

02 架构与文件格式

PPT, 视频

模型转换模块

03 自定义计算图IR

PPT, 视频

模型转换模块

04 流程细节

PPT, 视频

图优化模块

05 计算图优化策略

PPT, 视频

图优化模块

06 常量折叠&冗余节点消除

`PPT

<./06.basic.pdf>`__,

视频

图优化模块

07 算子融合/替换/前移

`PPT

<./06.basic.pdf>`__,

视频

图优化模块

08 数据布局转换&内存优化

PPT, 视频