设A是三阶实对称矩阵,若对任意的三维列向量X,有XTAX=0,则().A. |A|=0B. |A|>0C. |A|D. 以上都不对

考查要点：本题主要考查实对称矩阵的性质、二次型恒为零的条件以及矩阵行列式的性质。

解题核心思路：

1. 二次型恒为零的条件：若对任意向量$X$，二次型$X^TAX=0$，则矩阵$A$必须满足特定条件。
2. 实对称矩阵的特征值性质：实对称矩阵的特征值均为实数，且可正交对角化。
3. 行列式与特征值的关系：矩阵的行列式等于其所有特征值的乘积。

破题关键点：

• 通过二次型恒为零的条件，推导出矩阵$A$的特征值全为零，从而得出$A$为零矩阵，最终确定行列式$|A|=0$。

关键推导步骤：

1. 二次型恒为零的条件：
   若对任意三维列向量$X$，有$X^TAX=0$，则二次型对应的矩阵$A$必须满足所有特征值均为零。

   • 假设存在非零特征值$\lambda$，则存在非零向量$X$使得$AX=\lambda X$，此时$X^TAX = X^T(\lambda X) = \lambda \|X\|^2 \neq 0$，与题设矛盾。
   • 因此，$A$的所有特征值均为零。

2. 实对称矩阵的性质：
   实对称矩阵可正交对角化，即存在正交矩阵$P$，使得$P^TAP = D$（对角矩阵）。

   • 由于$A$的所有特征值均为零，故$D$为零矩阵，从而$A = PDP^T = 0$（零矩阵）。

3. 行列式的计算：
   零矩阵的行列式为$0$，即$|A|=0$。

结论：选项A正确。