练习 (2025,2) 设三阶矩阵A,B满足r(AB)=r(BA)+1,则 (A)方程组(A+B)x=0只有零解. (B)方程组A.x=0与方程组B.x=0均只有零解. (C.)方程组Ax=0与方程组Bx=0没有公共非零解. (D.)方程组ABAx=0与方程组BABx=0有公共非零解.

考查要点：本题主要考查矩阵秩的性质、齐次方程组解的结构，以及矩阵乘积秩的关系。

解题核心思路：

1. 秩的性质：利用矩阵乘积秩的关系 $r(AB) = r(BA) + 1$，推导出 $r(AB) = k$，$r(BA) = k-1$。
2. 零空间维数：通过秩与零空间维数的关系，分析 $Ax=0$ 和 $Bx=0$ 的公共解是否存在。
3. 选项排除法：结合矩阵可逆性、公共解的存在性等条件，逐一排除错误选项，锁定正确答案。

破题关键点：

• 选项C的关键在于：若存在公共非零解，则该解同时属于 $\ker(AB)$ 和 $\ker(BA)$，但根据秩的条件，两者的零空间交集维数为0，故无公共非零解。

条件分析：
由 $r(AB) = r(BA) + 1$，设 $r(AB) = k$，则 $r(BA) = k-1$。
根据秩与零空间维数的关系：

• $\dim \ker(AB) = 3 - k$
• $\dim \ker(BA) = 3 - (k-1) = 4 - k$

选项分析：

1. 选项A：无法直接推导 $A+B$ 的可逆性，因题目未提供 $A+B$ 的信息。
2. 选项B：若 $A$ 和 $B$ 均可逆，则 $r(AB) = r(BA) = 3$，与题设矛盾。
3. 选项C：
   • 若存在公共非零解 $x_0$，则 $x_0 \in \ker(AB) \cap \ker(BA)$。
   • 由 $\dim \ker(AB) = 3 - k$ 和 $\dim \ker(BA) = 4 - k$，两者的交集维数为：
     $\dim(\ker(AB) \cap \ker(BA)) = \dim \ker(AB) + \dim \ker(BA) - \dim(\ker(AB) + \ker(BA))$
     由于 $\dim(\ker(AB) + \ker(BA)) \geq \dim \ker(AB) = 3 - k$，可得交集维数 $\leq 0$，即无公共非零解。
4. 选项D：无法确定 $ABA$ 和 $BAB$ 的零空间是否有公共非零解。

结论：选项C正确。