设A为3阶实对称矩阵，α1=(1，一1，一1)T，α2=(一2，1，0)T是齐次线性方程组Ax=0的基础解系，且矩阵A一6E不可逆，则1、求齐次线性方程组(A一6E)x=0的通解；2、求正交变换X=Qy将二次型xTAx化为标准形；3、求(A一3E)100。

1、因为矩阵A一6E不可逆，所以λ=6是矩阵A的一个特征值；另一方面，因为α₁，α₂是齐次线性方程组Ax=O的基础解系，所以λ=0是矩阵A的二重特征值，所以A的特征值为0，0，6。齐次线性方程组(A一6E)x=0的通解是矩阵A的属于特征值λ=6的特征向量。因为A为3阶实对称矩阵，从而属于不同特征值的特征向量正交。设α₃=(x₁，x₂，x₃)^T是矩阵A的属于特征值λ=6的一个特征向量，则(α₁，α₃)=0，(α₂，α₃)=0，解得α₃=(一1，一2，1)^T，所以齐次线性方程组(A一6E)x=0的通解为kα³，k为任意常数。

2、下将向量组α₁，α₂，α₃正交化。令β₁=α₁，β₂=α₂一β₁=(一1，0，一1)^T，β₃=α₃，下将向量组β₁，β₂，β₃单位化。令ξ₁=。令则二次型x^TAx在正交变换x=Qy下的标准形为6y₃²。