自动梯度计算方法对比 原图定位 3)自动微分:是一种可以对程序或函数进行导数计算的方法,其基本原理是,所有的数值计算可以分解为一些基本操作,然后利用链式法则来自动计算一个复合函数的梯度。按照计算导数的顺序,自动微分可以分为两种模式:前向模式和反向模式。自动微分可以直接在原始程序代码进行微分,因此成为目前大多数深度学习框架的首选。