17.求f(x,y)=ax³+2bxy+x²+y²(a≠0,b∈R)的极值.

为了找到函数 $f(x, y) = ax^3 + 2bxy + x^2 + y^2$ 的极值，我们需要遵循以下步骤：

1. 找到偏导数并设为零以找到临界点。
2. 使用二阶导数测试确定临界点的性质。

第1步：找到偏导数

函数 $f(x, y)$ 关于 $x$ 的偏导数为：
$f_x = 3ax^2 + 2by + 2x$

函数 $f(x, y)$ 关于 $y$ 的偏导数为：
$f_y = 2bx + 2y$

将两个偏导数设为零以找到临界点：
$3ax^2 + 2by + 2x = 0$
$2bx + 2y = 0$

从第二个方程中解出 $y$：
$y = -bx$

将 $y = -bx$ 代入第一个方程：
$3ax^2 + 2b(-bx) + 2x = 0$
$3ax^2 - 2b^2x + 2x = 0$
$x(3ax - 2b^2 + 2) = 0$

这给出了 $x$ 的两个解：
$x = 0 \quad \text{或} \quad 3ax - 2b^2 + 2 = 0 \implies x = \frac{2b^2 - 2}{3a}$

对于 $x = 0$，我们有 $y = -bx = 0$。因此，一个临界点是 $(0, 0)$。

对于 $x = \frac{2b^2 - 2}{3a}$，我们有 $y = -bx = -b \left( \frac{2b^2 - 2}{3a} \right) = \frac{-2b^3 + 2b}{3a}$。因此，另一个临界点是 $\left( \frac{2b^2 - 2}{3a}, \frac{-2b^3 + 2b}{3a} \right)$。

第2步：使用二阶导数测试

二阶偏导数为：
$f_{xx} = 6ax + 2$
$f_{yy} = 2$
$f_{xy} = 2b$

二阶导数测试的判别式 $D$ 由下式给出：
$D = f_{xx} f_{yy} - (f_{xy})^2$

在 $(0, 0)$ 处

$f_{xx}(0, 0) = 2$
$f_{yy}(0, 0) = 2$
$f_{xy}(0, 0) = 2b$
$D(0, 0) = 2 \cdot 2 - (2b)^2 = 4 - 4b^2 = 4(1 - b^2)$

• 如果 $|b| < 1$，则 $D(0, 0) > 0$ 且 $f_{xx}(0, 0) = 2 > 0$，因此 $(0, 0)$ 是局部最小值。
• 如果 $|b| > 1$，则 $D(0, 0) < 0$，因此 $(0, 0)$ 是鞍点。
• 如果 $|b| = 1$，则 $D(0, 0) = 0$，因此二阶导数测试不确定。

在 $\left( \frac{2b^2 - 2}{3a}, \frac{-2b^3 + 2b}{3a} \right)$ 处

$f_{xx} \left( \frac{2b^2 - 2}{3a}, \frac{-2b^3 + 2b}{3a} \right) = 6a \left( \frac{2b^2 - 2}{3a} \right) + 2 = 4b^2 - 4 + 2 = 4b^2 - 2$
$f_{yy} \left( \frac{2b^2 - 2}{3a}, \frac{-2b^3 + 2b}{3a} \right) = 2$
$f_{xy} \left( \frac{2b^2 - 2}{3a}, \frac{-2b^3 + 2b}{3a} \right) = 2b$
$D \left( \frac{2b^2 - 2}{3a}, \frac{-2b^3 + 2b}{3a} \right) = (4b^2 - 2) \cdot 2 - (2b)^2 = 8b^2 - 4 - 4b^2 = 4b^2 - 4 = 4(b^2 - 1)$

• 如果 $|b| < 1$，则 $D \left( \frac{2b^2 - 2}{3a}, \frac{-2b^3 + 2b}{3a} \right) < 0$，因此 $\left( \frac{2b^2 - 2}{3a}, \frac{-2b^3 + 2b}{3a} \right)$ 是鞍点。
• 如果 $|b| > 1$，则 $D \left( \frac{2b^2 - 2}{3a}, \frac{-2b^3 + 2b}{3a} \right) > 0$ 且 $f_{xx} \left( \frac{2b^2 - 2}{3a}, \frac{-2b^3 + 2b}{3a} \right) = 4b^2 - 2 > 0$，因此 $\left( \frac{2b^2 - 2}{3a}, \frac{-2b^3 + 2b}{3a} \right)$ 是局部最小值。
• 如果 $|b| = 1$，则 $D \left( \frac{2b^2 - 2}{3a}, \frac{-2b^3 + 2b}{3a} \right) = 0$，因此二阶导数测试不确定。

总结

• 如果 $|b| < 1$，唯一极值点是 $(0, 0)$，这是一个局部最小值。
• 如果 $|b| > 1$，有两个极值点：$(0, 0)$ 是鞍点，而 $\left( \frac{2b^2 - 2}{3a}, \frac{-2b^3 + 2b}{3a} \right)$ 是局部最小值。
• 如果 $|b| = 1$，二阶导数测试不确定。

函数 $f(x, y)$ 的极值为：
$\boxed{\begin{cases} \text{在 } (0,0) \text{ 处的局部最小值 } f(0,0) = 0 & \text{如果 } |b| < 1, \\\text{在 } (0,0) \text{ 处的鞍点和在 } \left( \frac{2b^2 - 2}{3a}, \frac{-2b^3 + 2b}{3a} \right) \text{ 处的局部最小值 } f \left( \frac{2b^2 - 2}{3a}, \frac{-2b^3 + 2b}{3a} \right) & \text{如果 } |b| > 1, \\\text{二阶导数测试不确定} & \text{如果 } |b| = 1. \end{cases}}$