深度学习的数学 (5)偏导数

1. 多变量函数

有两个以上的自变量的函数
深度学习的数学 (5)偏导数
深度学习的数学 (5)偏导数

2. 偏导数( partial derivative):指明对哪一个变量进行求导,关于某个特定变量的导数。

关于 x 的偏导数:深度学习的数学 (5)偏导数
y 的偏导数:深度学习的数学 (5)偏导数
深度学习的数学 (5)偏导数
=>
深度学习的数学 (5)偏导数

单变量函数 y = f (x) 在点 x 处取得最小值的必要条件是导函数在该点取值 0。
深度学习的数学 (5)偏导数
深度学习的数学 (5)偏导数

3. 拉格朗日乘数法
深度学习的数学 (5)偏导数

这个方法首先引入参数 λ,创建下面的函数 L
深度学习的数学 (5)偏导数
深度学习的数学 (5)偏导数
再加上深度学习的数学 (5)偏导数

可得 深度学习的数学 (5)偏导数

上一篇:梯度下降法——极值,线性回归,近似根问题


下一篇:Pytorch实现线性回归demo