设三阶矩阵A,B满足r(AB)=r(BA)+1,则 A. 方程组(A+B)x=0只有零解.B. 方程组Ax=0与方程组Bx=0均只有零解.C. 方程组Ax=0与方程组Bx=0没有公共非零解.D. 方程组ABAx=0与方程组BABx=0有公共非零解.

为了解决这个问题，我们需要分析给定条件 $ r(AB) = r(BA) + 1 $ 并确定它对矩阵 $ A $ 和 $ B $ 的 implications. 首先，让我们回顾一些关于矩阵秩的性质： 1. 对于任何矩阵 $ A $ 和 $ B $， $ r(AB) \leq \min(r(A), r(B)) $。 2. 同样， $ r(BA) \leq \min(r(B), r(A)) $。 给定 $ r(AB) = r(BA) + 1 $，我们可以推断 $ r(AB) $ 和 $ r(BA) $ 必须是不同的，且 $ r(AB) $ 比 $ r(BA) $ 大 1。这意味着 $ r(AB) $ 必须等于 $ \min(r(A), r(B)) $ 而 $ r(BA) $ 必须等于 $ \min(r(B), r(A)) - 1 $。 由于 $ A $ 和 $ B $ 是三阶矩阵， $ r(A) $ 和 $ r(B) $ 的可能值为 0, 1, 2, 或 3。然而，如果 $ r(A) $ 或 $ r(B) $ 为 0，那么 $ r(AB) = 0 $ 和 $ r(BA) = 0 $，这与给定条件矛盾。因此， $ r(A) $ 和 $ r(B) $ 必须至少为 1。 让我们考虑 $ r(A) $ 和 $ r(B) $ 的可能值： - 如果 $ r(A) = 3 $ 和 $ r(B) = 2 $，那么 $ r(AB) \leq 2 $ 和 $ r(BA) \leq 2 $。为了满足 $ r(AB) = r(BA) + 1 $，我们一定有 $ r(AB) = 2 $ 和 $ r(BA) = 1 $。 - 如果 $ r(A) = 2 $ 和 $ r(B) = 3 $，那么 $ r(AB) \leq 2 $ 和 $ r(BA) \leq 2 $。为了满足 $ r(AB) = r(BA) + 1 $，我们一定有 $ r(AB) = 2 $ 和 $ r(BA) = 1 $。 - 如果 $ r(A) = 2 $ 和 $ r(B) = 2 $，那么 $ r(AB) \leq 2 $ 和 $ r(BA) \leq 2 $。为了满足 $ r(AB) = r(BA) + 1 $，我们一定有 $ r(AB) = 2 $ 和 $ r(BA) = 1 $。 在所有这些情况下，我们看到 $ r(AB) = 2 $ 和 $ r(BA) = 1 $。这意味着 $ \dim(\ker(AB)) = 1 $ 和 $ \dim(\ker(BA)) = 2 $。 现在，让我们分析选项： (A) 方程组 $ (A+B)x = 0 $ 只有零解。这不一定正确，因为 $ A $ 和 $ B $ 的秩不一定意味着 $ A+B $ 的秩为 3。 (B) 方程组 $ Ax = 0 $ 与方程组 $ Bx = 0 $ 均只有零解。这不一定正确，因为 $ A $ 或 $ B $ 的秩可能为 2，这意味着它们的核不平凡。 (C) 方程组 $ Ax = 0 $ 与方程组 $ Bx = 0 $ 没有公共非零解。这是正确的，因为如果它们有公共非零解，那么 $ \ker(A) \cap \ker(B) \neq \{0\} $，这将意味着 $ \ker(BA) $ 和 $ \ker(AB) $ 的维数大于它们实际的维数。 (D) 方程组 $ ABA x = 0 $ 与方程组 $ BAB x = 0 $ 有公共非零解。这不一定正确，因为 $ ABA $ 和 $ BAB $ 的秩不一定意味着它们有公共非零解。 因此，正确答案是 $\boxed{C}$。