求导公式在机器学习的梯度下降中经常使用,因为梯度就意味着要求导,所以将使用频率最高的几个公式罗列在下面,方便查阅。

ai模拟数学运算(最常用的求导公式)(1)

其中第三个是第二个的特列

求导比较重要的一条性质便是链式求导法则,它其实并不难理解,因为求导数意味着由外及内的,一层一层地将变化传递到最里头。

例如,要求解

ai模拟数学运算(最常用的求导公式)(2)

这个由一个实例和一个特征项组成的特殊的最小二乘项的导数,要令

ai模拟数学运算(最常用的求导公式)(3)

,即先对

ai模拟数学运算(最常用的求导公式)(4)

求导数,然后再对

ai模拟数学运算(最常用的求导公式)(5)

求导数,结果应该为

ai模拟数学运算(最常用的求导公式)(6)

,