11.设方程组}x_{1)+x_(2)+λx_(3)=0x_(1)+λx_(2)+x_(3)=0λx_(1)+x_(2)+λ^2x_(3)=0.的系数矩阵A，且存在三阶非零矩阵B≠O使得AB=O，则（）。A. λ=1,|B|=0B. λ=-1,|B|=0C. λ=1,|B|≠0D. λ=-1,|B|≠0

考查要点：本题主要考查齐次方程组解的结构、矩阵的秩与行列式的关系，以及非零矩阵乘积为零矩阵的条件。

解题核心思路：

1. 行列式为零：当齐次方程组存在非零解时，系数矩阵$A$的行列式必为零，即$|A|=0$，由此可求出$\lambda$的值。
2. 解空间的维数：根据矩阵$A$的秩，确定解空间的维数，进而分析矩阵$B$的秩和行列式的关系。
3. 矩阵乘积为零：若存在非零矩阵$B$使得$AB=O$，则$B$的列向量均为$A$的解空间中的向量，此时$B$的秩受限于解空间的维数，导致$|B|=0$。

破题关键点：

• 计算行列式：通过展开行列式$|A|$，解方程$|A|=0$得到$\lambda=1$。
• 分析解空间：当$\lambda=1$时，矩阵$A$的秩为1，解空间维数为2，因此$B$的列向量最多有两个线性无关，导致$|B|=0$。

步骤1：计算系数矩阵$A$的行列式

系数矩阵$A$为：
$A = \begin{pmatrix}1 & 1 & \lambda \\1 & \lambda & 1 \\\lambda & 1 & \lambda^2\end{pmatrix}$
计算行列式：
$\begin{aligned}|A| &= 1 \cdot (\lambda \cdot \lambda^2 - 1 \cdot 1) - 1 \cdot (1 \cdot \lambda^2 - 1 \cdot \lambda) + \lambda \cdot (1 \cdot 1 - \lambda \cdot \lambda) \\&= (\lambda^3 - 1) - (\lambda^2 - \lambda) + (\lambda - \lambda^3) \\&= -\lambda^2 + 2\lambda - 1 \\&= -(\lambda - 1)^2.\end{aligned}$

步骤2：求$\lambda$的值

令$|A|=0$，得：
$-(\lambda - 1)^2 = 0 \implies \lambda = 1.$

步骤3：分析解空间的维数

当$\lambda=1$时，矩阵$A$变为：
$A = \begin{pmatrix}1 & 1 & 1 \\1 & 1 & 1 \\1 & 1 & 1\end{pmatrix},$
其秩为1，因此解空间的维数为$3 - 1 = 2$。

步骤4：判断矩阵$B$的性质

矩阵$B$的每一列均为$A$的解空间中的向量，而解空间维数为2，故$B$的列向量最多有两个线性无关。因此，$B$的秩$\leq 2$，其行列式必为零，即$|B|=0$。