[2002年] 设A是m×n矩阵,B是n×m的矩阵,则线性方程组(AB)X=0( ).A. 当n>m时,仅有零解B. 当n>m时,必有非零解C. 当m>n时,仅有零解D. 当m>n时,必有非零解

考查要点：本题主要考查矩阵乘积的秩与齐次线性方程组解的关系，以及矩阵可逆性的判断。

解题核心思路：

1. 矩阵乘积的秩：$AB$ 是 $m \times m$ 矩阵，其秩满足 $\text{rank}(AB) \leq \min\{\text{rank}(A), \text{rank}(B)\}$。
2. 方程组解的判定：若 $AB$ 不可逆（即 $\text{rank}(AB) < m$），则齐次方程组 $(AB)X=0$ 必有非零解。
3. 关键条件：当 $m > n$ 时，$\text{rank}(A) \leq n$ 且 $\text{rank}(B) \leq n$，因此 $\text{rank}(AB) \leq n < m$，$AB$ 必不可逆。

选项分析

选项D（正确）

当 $m > n$ 时：

• $A$ 是 $m \times n$ 矩阵，$\text{rank}(A) \leq n$；
• $B$ 是 $n \times m$ 矩阵，$\text{rank}(B) \leq n$；
• 因此 $\text{rank}(AB) \leq \min\{\text{rank}(A), \text{rank}(B)\} \leq n < m$，即 $AB$ 的秩小于 $m$，不可逆；
• 齐次方程组 $(AB)X=0$ 的解空间维数为 $m - \text{rank}(AB) \geq 1$，必有非零解。

选项C（错误）

当 $m > n$ 时，若 $AB$ 不可逆，则方程组必有非零解，与选项C“仅有零解”矛盾。

选项B（错误）

当 $n > m$ 时：

• $A$ 的秩可能为 $m$（若 $A$ 的行向量线性无关），$B$ 的秩可能为 $m$（若 $B$ 的列向量线性无关）；
• 此时 $\text{rank}(AB) = m$，$AB$ 可逆，方程组仅有零解。
  因此选项B“必有非零解”不成立。

选项A（错误）

同理，当 $n > m$ 时，若 $AB$ 可逆，则方程组仅有零解，与选项A“仅有零解”看似一致，但题目未限定条件，无法保证 $AB$ 必然可逆，因此选项A不严谨。