概述
我们一般对函数求导，是对单变量求导，但是在机器学习中，会遇到多元函数对向量求导的情况，比如：
f
(
w
⃗
)
=
1
2
∣
∣
w
⃗
∣
∣
2
f(vec{w})=frac{1}{2}||vec{w}||^2
f(w)=21∣∣w∣∣2其中，
w
⃗
=
(
w
1
,
w
2
,
⋯
,
w
n
)
vec{w}=(w_1,w_2,cdots,w_n)
w=(w1,w2,⋯,wn)
我们会看到在数学公式推导中会遇到函数对向量的求导：
∂ f ( w ⃗ ) ∂ w ⃗ = 1 2 ( w 1 2 + w 2 2 + ⋯ + w n 2 ) ∂ w ⃗ frac{partial f(vec{w})}{partial vec{w}} = frac{frac{1}{2}(w^2_1+w^2_2+cdots+w^2_n)}{partial vec{w}} ∂w∂f(w)=∂w21(w12+w22+⋯+wn2) = 1 2 ( w 1 2 + w 2 2 + ⋯ + w n 2 ) ∂ ( w 1 , w 2 , ⋯ , w n ) = frac{frac{1}{2}(w^2_1+w^2_2+cdots+w^2_n)}{partial (w_1,w_2,cdots,w_n)} =∂(w1,w2,⋯,wn)21(w12+w22+⋯+wn2) = ( ∂ f ( w ⃗ ) ∂ w 1 , ∂ f ( w ⃗ ) ∂ w 2 , ⋯ , ∂ f ( w ⃗ ) ∂ w n ) =(frac{partial{f(vec{w})}}{partial{w_1}},frac{partial{f(vec{w})}}{partial{w_2}},cdots,frac{partial{f(vec{w})}}{partial{w_n}}) =(∂w1∂f(w),∂w2∂f(w),⋯,∂wn∂f(w)) = ( w 1 , w 2 , ⋯ , w n ) = w ⃗ =(w_1,w_2,cdots,w_n)=vec{w} =(w1,w2,⋯,wn)=w
所以我们可以看出，一个函数对于一个向量求导，得到一个向量，这个向量的每一维，相当于是这个函数对原始向量的每一维上的变量进行求导，本质上就是求了 f ( w ⃗ ) f(vec{w}) f(w)关于 w ⃗ vec{w} w的梯度 ∇ f ( w ⃗ ) nabla{f(vec{w})} ∇f(w)。
最后
以上就是美满长颈鹿为你收集整理的函数对向量的求导的全部内容，希望文章能够帮你解决函数对向量的求导所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错，欢迎将靠谱客网站推荐给程序员好友。
发表评论 取消回复