2. 自动微分(DONE)

《自动微分》AI框架会默认提供自动微分功能，避免用户手动地去对神经网络模型求导，这些复杂的工作交给AI框架就好了，于是自动微自然成为分作为AI框架的核心功能。

本节自动微分系列将会大概初步谈了谈从手动微分到自动微分的过程，03 自动微分正反模式中深入了自动微分的正反向模式具体公式和推导。实际上 02 了解到正反向模式只是自动微分的原理模式，在实际代码实现的过程，04 会通过三种实现方式（基于库、操作符重载、源码转换）来实现。05和06则是具体跟大家一起手把手实现一个类似于PyTorch的自动微分框架。07最后做个小小的总结，一起review自动微分面临易用性、性能的挑战，最后在可微分编程方面畅享了下未来。

希望这个系列能够给大家、朋友们带来一些些帮助，也希望自己能够继续坚持完成所有内容哈！

内容大纲

PPT和字幕需要到 Github 下载，网页课程版链接会失效哦~

建议优先下载 PDF 版本，PPT 版本会因为字体缺失等原因导致版本很丑哦~

小节	链接
01 基本介绍	文章, PPT, 视频, 字幕
02 什么是微分	文章, PPT, 视频, 字幕
03 正反向计算模式	文章, PPT, 视频, 字幕
04 三种实现方法	文章, PPT, 视频, 字幕
05 手把手实现正向微分框架	文章, 视频, 字幕
06 亲自实现一个PyTorch	文章, 视频, 字幕
07 自动微分的挑战&未来	文章, PPT, 视频, 字幕

• 2.1. 自动微分
  • 2.1.1. 本章内容
  • 2.1.2. 本节回顾
  • 2.1.3. 本节视频
• 2.2. 什么是微分
  • 2.2.1. 计算机求导方法
  • 2.2.2. 手动微分
  • 2.2.3. 数值微分
  • 2.2.4. 符号微分
  • 2.2.5. 自动微分
  • 2.2.6. 本节视频
• 2.3. 微分计算模式
  • 2.3.1. 雅克比矩阵
  • 2.3.2. 微分计算模式
  • 2.3.3. 前向模式 Foward Mode
  • 2.3.4. 反向模式 Reverse Mode
  • 2.3.5. 正反向模式的比较
  • 2.3.6. 本节视频
• 2.4. 微分实现方式
  • 2.4.1. 微分实现关键步骤
  • 2.4.2. 基本表达式
  • 2.4.3. 操作符重载
  • 2.4.4. 源代码转换
  • 2.4.5. 本节视频
• 2.5. 动手实现自动微分
  • 2.5.1. 前向自动微分原理
  • 2.5.2. 具体实现
  • 2.5.3. 本节视频
• 2.6. 动手实现PyTorch微分
  • 2.6.1. 基础知识
  • 2.6.2. 反向操作符重载实现
  • 2.6.3. 本节视频
• 2.7. 自动微分的挑战&未来
  • 2.7.1. 易用性
  • 2.7.2. 高效性能
  • 2.7.3. 自动微分未来
  • 2.7.4. 自动微分总结
  • 2.7.5. 本节视频