5.[单选题]设A，B均为n阶方阵，则等式（）成立.A. AB=BAB. |AB|=|BA|C. (AB)′=A′B′D. |A+B|=|A|+|B|

本题考查矩阵运算的基本性质，包括矩阵乘法的交换律、行列式的性质以及转置的性质。解题的关键在于：

1. 矩阵乘法不满足交换律，即一般情况下$AB \neq BA$；
2. 行列式的乘积性质：$|AB| = |A||B|$，而$|BA| = |B||A|$，因此$|AB| = |BA|$；
3. 转置的运算规则：$(AB)' = B'A'$，而非$A'B'$；
4. 行列式的非线性性质：$|A+B|$一般不等于$|A| + |B|$。

选项分析

选项A：$AB = BA$

矩阵乘法不满足交换律。例如，取$A = \begin{pmatrix}1 & 0 \\ 0 & 2\end{pmatrix}$，$B = \begin{pmatrix}0 & 1 \\ 1 & 0\end{pmatrix}$，可计算得$AB = \begin{pmatrix}0 & 1 \\ 2 & 0\end{pmatrix}$，而$BA = \begin{pmatrix}2 & 0 \\ 0 & 1\end{pmatrix}$，显然$AB \neq BA$。因此选项A错误。

选项B：$|AB| = |BA|$

根据行列式的性质，$|AB| = |A||B|$，同理$|BA| = |B||A|$。由于乘法交换律在标量中成立，故$|A||B| = |B||A|$，因此$|AB| = |BA|$。选项B正确。

选项C：$(AB)' = A'B'$

转置的运算规则为$(AB)' = B'A'$，而选项中写成$A'B'$，除非$A$和$B$满足特殊条件（如对称矩阵），否则一般不成立。例如，取$A = \begin{pmatrix}1 & 2 \\ 3 & 4\end{pmatrix}$，$B = \begin{pmatrix}5 & 6 \\ 7 & 8\end{pmatrix}$，计算可得$(AB)' \neq A'B'$。因此选项C错误。

选项D：$|A+B| = |A| + |B|$

行列式对加法没有线性性质。例如，取$A = I$（单位矩阵），$B = I$，则$|A+B| = |2I| = 2^n$（$n$为阶数），而$|A| + |B| = 1 + 1 = 2$，显然不等。因此选项D错误。