A=(1)/(3)(-1 & 2 & a a & 2 & -1 2 & b & 2)为正交阵。,则a,b取值为__________。A. a=2, b=1;B. a=-2, b=1;C. a=2, b=-1;D. a=-2, b=-1.

步骤 1：计算 $A^T A$
首先，根据正交矩阵的性质，$A^T A = I$，其中 $I$ 是单位矩阵。计算 $A^T A$，其中 $A^T$ 是 $A$ 的转置矩阵。
\[ A^T = \frac{1}{3}\left(\begin{array}{cccccc}-1 & a & 2 \\ 2 & 2 & b \\ a & -1 & 2\end{array}\right) \]
\[ A^T A = \frac{1}{9}\left(\begin{array}{cccccc}-1 & a & 2 \\ 2 & 2 & b \\ a & -1 & 2\end{array}\right) \left(\begin{array}{cccccc}-1 & 2 & a \\ a & 2 & -1 \\ 2 & b & 2\end{array}\right) \]
步骤 2：计算矩阵乘法
计算矩阵乘法，得到：
\[ A^T A = \frac{1}{9} \begin{pmatrix} a^2 + 5 & -2 + 2a + 2b & -2a + 4 \\ -2 + 2a + 2b & b^2 + 8 & 2a - 2 + 2b \\ -2a + 4 & 2a - 2 + 2b & a^2 + 5 \end{pmatrix} \]
步骤 3：设置方程组
根据 $A^T A = I$，设置方程组：
1. $a^2 + 5 = 9$
2. $-2 + 2a + 2b = 0$
3. $-2a + 4 = 0$
步骤 4：解方程组
解方程组：
1. $a^2 + 5 = 9 \Rightarrow a^2 = 4 \Rightarrow a = \pm 2$
2. $-2 + 2a + 2b = 0 \Rightarrow a + b = 1$
3. $-2a + 4 = 0 \Rightarrow a = 2$
由方程3得 $a = 2$，代入方程2得 $b = -1$。