求导公式在机器学习的梯度下降中经常使用,因为梯度就意味着要求导,所以将使用频率最高的几个公式罗列在下面,方便查阅。
其中第三个是第二个的特列
求导比较重要的一条性质便是链式求导法则,它其实并不难理解,因为求导数意味着由外及内的,一层一层地将变化传递到最里头。
例如,要求解
这个由一个实例和一个特征项组成的特殊的最小二乘项的导数,要令
,即先对
求导数,然后再对
求导数,结果应该为
,
求导公式在机器学习的梯度下降中经常使用,因为梯度就意味着要求导,所以将使用频率最高的几个公式罗列在下面,方便查阅。
其中第三个是第二个的特列
求导比较重要的一条性质便是链式求导法则,它其实并不难理解,因为求导数意味着由外及内的,一层一层地将变化传递到最里头。
例如,要求解
这个由一个实例和一个特征项组成的特殊的最小二乘项的导数,要令
,即先对
求导数,然后再对
求导数,结果应该为
,