2.设A= =(} 1& 1& 1 0& 1& 1 0& 0& 1-AB=E, 其中E是三阶单位矩阵,求矩阵B·

本题主要考查矩阵方程的求解，关键是利用矩阵运算性质和逆矩阵的知识。

步骤1：整理矩阵方程

已知$A^2 - AB = E$，提取公因式$A$得：
$A(A - B) = E$

步骤2：判断矩阵$A$的可逆性

矩阵$A$是三阶上三角矩阵，主对角线元素均为1，行列式$\det(A) = 1 \times 1 \times 1 = 1 \neq 0$，故$A$可逆。

步骤3：求解$A - B$

在等式$A(A - B) = E$两边左乘$A^{-1}$，得：
$A - B = A^{-1}E = A^{-1}$

步骤4：计算$A^{-1}$

上三角矩阵的逆矩阵仍为上三角矩阵，且主对角线元素为原矩阵主对角线元素的倒数（此处均为1）。设$A^{-1} = \begin{pmatrix}1 & a & b \\ 0 & 1 & c \\ 0 & 0 & 1\end{pmatrix}$，通过$AA^{-1} = E$验证：

• 二阶12: $1 \cdot a + 1 \cdot 1 = 0 \Rightarrow a = -1$
• u13: $1 \cdot b + 1 \cdot c + 1 \cdot 1 = 0$，u23: $1 \cdot c + 1 \cdot 1 = 0 \Rightarrow c = -1$，代入得$b = 0$

故$A^{-1} = \begin{pmatrix}1 & -1 & 0 \\ 0 & 1 & -1 \\ 0 & 0 & 1\end{pmatrix}$。

步骤5：求$B$

由$A - B = A^{-1}$得$B = A - A^{-1}$：
$B = \begin{pmatrix}1 & 1 & 1 \\ 0 & 1 & 1 \\ 0 & 0 & 1\end{pmatrix} - \begin{pmatrix}1 & -1 & 0 \\ 0 & 1 & -1 \\ 0 & 0 & 1\end{pmatrix} = \begin{pmatrix}0 & 2 & 1 \\ 0 & 0 & 2 \\ 0 & 0 & 0\end{pmatrix}$