已知二次型 f(x_1,x_2,x_3)=(x_1+x_3)^2+(x_1+2x_2+ax_3)^2+(x_1-ax_2-2x_3)^2.(1) 求方程 f(x_1,x_2,x_3)=0 的解.(2) 求 f(x_1,x_2,x_3) 的规范形.(3) 当 f(x_1,x_2,x_3)=0 有非零解时, 确定常数 a, 使矩阵 A=} 3 & 1 & 2 1 & a & -2 2 & -2 & 9 为正定矩阵, 并求二次型 g(x)=x^T Ax 在 x^T x=2 下的最大值.

(1) 方程 $ f(x_1, x_2, x_3) = 0 $ 的解为： - $ a = 3 $ 时，解为 $ (k, k, -k) $； - $ a = -2 $ 时，解为 $ (k, -\frac{3k}{2}, -k) $； - $ a \neq 3 $ 且 $ a \neq -2 $ 时，解为 $ (0, 0, 0) $。 (2) 规范形： - $ a \neq 3 $ 且 $ a \neq -2 $ 时，规范形为 $ y_1^2 + y_2^2 + y_3^2 $； - $ a = 3 $ 或 $ a = -2 $ 时，规范形为 $ y_1^2 + y_2^2 $。 (3) $ a = 3 $ 时，矩阵 $ A $ 正定，最大值为 $ \boxed{20} $。