Python - Automatic Differentiation 自动微分

Posted 2022-07-12 SpikeKing

区分函数的Automatic Differentiation(自动微分)、Manual Differentiation(手动微分)、Numerical Differentiation(数值微分)，自动微分属于链式求导。自动微分属于，前向传播(forward)过程，计算函数值时，同时计算微分值。

参考：Automatic Differentiation in Machine Learning a Survey

不同的微分方法，对应关系如下：

具体源码如下，可作为题目：

class Solution:
    def func(self, x):
        """
  

高性能云服务器 精品线路独享带宽，毫秒延迟，年中盛惠 1 折起