
梯度
梯度的定义为:
根据梯度的定义式,函数
从上式可以看出,函数在
问题?
但是梯度这种方法并不总是奏效的,请看下题:
❝ 设,其中
,求在
处函数增长最快的方向.
❞
看到题目的第一眼,我们自然而然的想到要求梯度,但是
哦豁,梯度法失效了,于是就需要我们另辟蹊径.
回归本质
我们考虑沿某单位方向
令
由于
再多考虑一步
根据多元函数的
其中
「定理」 设二次连续可微函数
为了证明这个定理,实际上我们只需要证明,二次型在其矩阵的最大特征值对应的特征向量处取得最大值即可,即
「引理」 设
「证明」 因为
于是,对于