题目
用最速下降法求解(x)=({x)_(1)}^2+2(x)_(1)(x)_(2)+2({x)_(2)}^2-4(x)_(1)-3(x)_(2),取(x)=({x)_(1)}^2+2(x)_(1)(x)_(2)+2({x)_(2)}^2-4(x)_(1)-3(x)_(2),迭代两次.
用最速下降法求解
,取
,迭代两次.


题目解答
答案
解
,

将
写成
的形式,则
.



第一次迭代:

第二次迭代:

解析
步骤 1:计算梯度
首先,我们需要计算函数$f(x)={{x}_{1}}^{2}+2{x}_{1}{x}_{2}+2{{x}_{2}}^{2}-4{x}_{1}-3{x}_{2}$的梯度。梯度是函数在某一点处的导数,表示函数在该点处变化最快的方向。对于$f(x)$,梯度为:
$$\nabla f(x) = \begin{pmatrix} \frac{\partial f}{\partial x_1} \\ \frac{\partial f}{\partial x_2} \end{pmatrix} = \begin{pmatrix} 2x_1 + 2x_2 - 4 \\ 2x_1 + 4x_2 - 3 \end{pmatrix}$$
步骤 2:计算初始梯度
将初始点${x}^{(0)}={(1,1)}^{T}$代入梯度公式,得到初始梯度:
$$\nabla f(x^{(0)}) = \begin{pmatrix} 2(1) + 2(1) - 4 \\ 2(1) + 4(1) - 3 \end{pmatrix} = \begin{pmatrix} 0 \\ 3 \end{pmatrix}$$
步骤 3:第一次迭代
最速下降法的迭代公式为:
$$x^{(k+1)} = x^{(k)} - \alpha^{(k)} \nabla f(x^{(k)})$$
其中,$\alpha^{(k)}$是步长,可以通过一维搜索来确定。这里我们假设步长$\alpha^{(k)}$已经确定,为$\frac{1}{4}$。则第一次迭代后的点为:
$$x^{(1)} = x^{(0)} - \frac{1}{4} \nabla f(x^{(0)}) = \begin{pmatrix} 1 \\ 1 \end{pmatrix} - \frac{1}{4} \begin{pmatrix} 0 \\ 3 \end{pmatrix} = \begin{pmatrix} 1 \\ \frac{1}{4} \end{pmatrix}$$
步骤 4:第二次迭代
将$x^{(1)}$代入梯度公式,得到第二次迭代的梯度:
$$\nabla f(x^{(1)}) = \begin{pmatrix} 2(1) + 2(\frac{1}{4}) - 4 \\ 2(1) + 4(\frac{1}{4}) - 3 \end{pmatrix} = \begin{pmatrix} -\frac{3}{2} \\ 0 \end{pmatrix}$$
假设步长$\alpha^{(1)}$为$\frac{1}{4}$,则第二次迭代后的点为:
$$x^{(2)} = x^{(1)} - \frac{1}{4} \nabla f(x^{(1)}) = \begin{pmatrix} 1 \\ \frac{1}{4} \end{pmatrix} - \frac{1}{4} \begin{pmatrix} -\frac{3}{2} \\ 0 \end{pmatrix} = \begin{pmatrix} \frac{11}{8} \\ \frac{1}{4} \end{pmatrix}$$
首先,我们需要计算函数$f(x)={{x}_{1}}^{2}+2{x}_{1}{x}_{2}+2{{x}_{2}}^{2}-4{x}_{1}-3{x}_{2}$的梯度。梯度是函数在某一点处的导数,表示函数在该点处变化最快的方向。对于$f(x)$,梯度为:
$$\nabla f(x) = \begin{pmatrix} \frac{\partial f}{\partial x_1} \\ \frac{\partial f}{\partial x_2} \end{pmatrix} = \begin{pmatrix} 2x_1 + 2x_2 - 4 \\ 2x_1 + 4x_2 - 3 \end{pmatrix}$$
步骤 2:计算初始梯度
将初始点${x}^{(0)}={(1,1)}^{T}$代入梯度公式,得到初始梯度:
$$\nabla f(x^{(0)}) = \begin{pmatrix} 2(1) + 2(1) - 4 \\ 2(1) + 4(1) - 3 \end{pmatrix} = \begin{pmatrix} 0 \\ 3 \end{pmatrix}$$
步骤 3:第一次迭代
最速下降法的迭代公式为:
$$x^{(k+1)} = x^{(k)} - \alpha^{(k)} \nabla f(x^{(k)})$$
其中,$\alpha^{(k)}$是步长,可以通过一维搜索来确定。这里我们假设步长$\alpha^{(k)}$已经确定,为$\frac{1}{4}$。则第一次迭代后的点为:
$$x^{(1)} = x^{(0)} - \frac{1}{4} \nabla f(x^{(0)}) = \begin{pmatrix} 1 \\ 1 \end{pmatrix} - \frac{1}{4} \begin{pmatrix} 0 \\ 3 \end{pmatrix} = \begin{pmatrix} 1 \\ \frac{1}{4} \end{pmatrix}$$
步骤 4:第二次迭代
将$x^{(1)}$代入梯度公式,得到第二次迭代的梯度:
$$\nabla f(x^{(1)}) = \begin{pmatrix} 2(1) + 2(\frac{1}{4}) - 4 \\ 2(1) + 4(\frac{1}{4}) - 3 \end{pmatrix} = \begin{pmatrix} -\frac{3}{2} \\ 0 \end{pmatrix}$$
假设步长$\alpha^{(1)}$为$\frac{1}{4}$,则第二次迭代后的点为:
$$x^{(2)} = x^{(1)} - \frac{1}{4} \nabla f(x^{(1)}) = \begin{pmatrix} 1 \\ \frac{1}{4} \end{pmatrix} - \frac{1}{4} \begin{pmatrix} -\frac{3}{2} \\ 0 \end{pmatrix} = \begin{pmatrix} \frac{11}{8} \\ \frac{1}{4} \end{pmatrix}$$