5-4 设有两个正态总体G_(1)和G_(2)，已知(m=2)mu^(1)=}1015,Sigma_(1)=}18&1212&32,先验概率q_(1)=q_(2)；而L(2|1)=10,L(1|2)=75.试问样品X_((1))=}2020各应判归哪一类?(1)按费希尔判别准则;(2)按贝叶斯判别准则(Sigma_(2)=Sigma_(1)=}18&1212&32);(3)已知样品x=(20,20)',试计算后验概率P(G_(i)|x) (i=1,2).<|im_end|>5-4 设有两个正态总体G_(1)和G_(2)，已知(m=2)mu^(1)=}1015,Sigma_(1)=}18&1212&32,

本题主要考察了费希尔判别准则、贝叶斯判别准则以及后验概率的计算。解题思路如下：

（1）按费希尔判别准则

费希尔判别准则的核心是找到一个投影方向，使得两类样本在该方向上的投影尽可能分开。具体步骤为：

1. 计算两类总体的协方差矩阵的加权平均 $\bar{\Sigma}$。
2. 计算投影方向 $w$，其中 $w = \bar{\Sigma}^{-1}(\mu^{(2)} - \mu^{(1)})$。
3. 计算判别函数 $y = w^T x$，将样本 $x$ 投影到 $w$ 方向上。
4. 根据判别函数的值判断样本所属类别，若 $y > 0$，则判为 $G_2$；若 $y < 0$，则判为 $G_1$。

（2）按贝叶斯判别准则（$\Sigma_1 = \Sigma_2$）

当 $\Sigma_1 = \Sigma_2$ 时，贝叶斯判别准则的判别函数为线性函数。具体步骤为：

1. 计算判别函数 $d(x) = (\mu^{(2)} - \mu^{(1)})^T x - \frac{1}{2}(\mu^{(2)} - \mu^{(1)})^T (\mu^{(2)} + \mu^{(1)}) + \ln\frac{q_2 L(2|1)}{q_1 L(1|2)}$。
2. 根据判别函数的值判断样本所属类别，若 $d(x) > 0$，则判为 $G_2$；若 $d(x) < 0$，则判为 $G_1$。

（3）计算后验概率 $P(G_i|x) (i = 1, 2)$

根据贝叶斯公式 $P(G_i|x) = \frac{q_i f_i(x)}{q_1 f_1(x) + q_2 f_2(x)}$，其中 $f_i(x)$ 是第 $i$ 类总体的概率密度函数。具体步骤为：

1. 计算 $f_1(x)$ 和 $f_2(x)$，其中 $f_i(x) = \frac{1}{(2\pi)^{\frac{m}{2}}|\Sigma_i|^{\frac{1}{2}}} \exp\left(-\frac{1}{2}(x - \mu^{(i)})^T \Sigma_i^{-1}(x - \mu^{(i)})\right)$。
2. 代入贝叶斯公式计算后验概率。

详细计算过程

（1）费希尔判别准则

已知 $\mu^{(1)}=\begin{bmatrix}10\\15\end{bmatrix}$，$\mu^{(2)}=\begin{bmatrix}20\\25\end{bmatrix}$，$\Sigma_{1}=\begin{bmatrix}18&12\\12&32\end{bmatrix}$，$\Sigma_{2}=\begin{bmatrix}20&-7\\-7&5\end{bmatrix}$，$q_1 = q_2$。

• 计算 $\bar{\Sigma}$：
  $\bar{\Sigma} = q_1\Sigma_1 + q_2\Sigma_2 = \frac{1}{2}\begin{bmatrix}18&12\\12&32\end{bmatrix} + \frac{1}{2}\begin{bmatrix}20&-7\\-7&5\end{bmatrix} = \begin{bmatrix}19&2.5\\2.5&18.5\end{bmatrix}$
• 计算 $\bar{\Sigma}^{-1}$：
  $|\bar{\Sigma}| = 19\times18.5 - 2.5\times2.5 = 351.5 - 6.25 = 345.25$
  $\bar{\Sigma}^{-1} = \frac{1}{|\bar{\Sigma}|}\begin{bmatrix}18.5&-2.5\\-2.5&19\end{bmatrix} = \frac{1}{345.25}\begin{bmatrix}18.5&-2.5\\-2.5&19\end{bmatrix}$
• 计算投影方向 $w$：
  $\mu^{(2)} - \mu^{(1)} = \begin{bmatrix}20 - 10\\25 - 15\end{bmatrix} = \begin{bmatrix}10\\10\end{bmatrix}$
  $w = \bar{\Sigma}^{-1}(\mu^{(2)} - \mu^{(1)}) = \frac{1}{345.25}\begin{bmatrix}18.5&-2.5\\-2.5&19\end{bmatrix}\begin{bmatrix}10\\10\end{bmatrix} = \frac{1}{345.25}\begin{bmatrix}160\\165\end{bmatrix}$
• 计算判别函数 $y$：
  对于 $X_{(1)}=\begin{bmatrix}20\\20\end{bmatrix}$，$y_1 = w^T X_{(1)} = \frac{1}{345.25}\begin{bmatrix}160&165\end{bmatrix}\begin{bmatrix}20\\20\end{bmatrix} = \frac{1}{345.25}(160\times20 + 165\times20) = \frac{6500}{345.25} > 0$，所以 $X_{(1)} \in G_2$。
  对于 $X_{(2)}=\begin{bmatrix}15\\20\end{bmatrix}$，$y_2 = w^T X_{(2)} = \frac{1}{345.25}\begin{bmatrix}160&165\end{bmatrix}\begin{bmatrix}15\\20\end{bmatrix} = \frac{1}{345.25}(160\times15 + 165\times20) = \frac{5400}{345.25} < 0$，所以 $X_{(2)} \in G_1$。

（2）贝叶斯判别准则（$\Sigma_1 = \Sigma_2$）

已知 $\Sigma_1 = \Sigma_2 = \begin{bmatrix}18&12\\12&32\end{bmatrix}$，$q_1 = q_2$，$L(2|1)=10$，$L(1|2)=75$。

• 计算判别函数 $d(x)$：
  $\mu^{(2)} - \mu^{(1)} = \begin{bmatrix}10\\10\end{bmatrix}$，$\mu^{(2)} + \mu^{(1)} = \begin{bmatrix}30\\40\end{bmatrix}$
  $d(x) = (\mu^{(2)} - \mu^{(1)})^T x - \frac{1}{2}(\mu^{(2)} - \mu^{(1)})^T (\mu^{(2)} + \mu^{(1)}) + \ln\frac{q_2 L(2|1)}{q_1 L(1|2)}$
  $= \begin{bmatrix}10&10\end{bmatrix}x - \frac{1}{2}\begin{bmatrix}10&10\end{bmatrix}\begin{bmatrix}30\\40\end{bmatrix} + \ln\frac{1\times10}{1\times75}$
  $= \begin{bmatrix}10&10\end{bmatrix}x - 350 - \ln7.5$
  对于 $X_{(1)}=\begin{bmatrix}20\\20\end{bmatrix}$，$d(X_{(1)}) = \begin{bmatrix}10&10\end{bmatrix}\begin{bmatrix}20\\20\end{bmatrix} - 350 - \ln7.5 = 400 - 350 - \ln7.5 = 50 - \ln7.5 > 0$，所以 $X_{(1)} \in G_2$。
  对于 $X_{(2)}=\begin{bmatrix}15\\20\end{bmatrix}$，$d(X_{(2)}) = \begin{bmatrix}10&10\end{bmatrix}\begin{bmatrix}15\\20\end{bmatrix} - 350 - \ln7.5 = 350 - 350 - \ln7.5 = -\ln7.5 < 0$，所以 $X_{(2)} \in G_1$。

（3）计算后验概率 $P(G_i|x) (i = 1, 2)$

已知 $x = \begin{bmatrix}20\\20\end{bmatrix}$，$q_1 = q_2$。

• 计算 $f_1(x)$：
  $|\Sigma_1| = 18\times32 - 12\times12 = 576 - 144 = 432$
  $\Sigma_1^{-1} = \frac{1}{432}\begin{bmatrix}32&-12\\-12&18\end{bmatrix}$
  $(x - \mu^{(1)}) = \begin{bmatrix}20 - 10\\20 - 15\end{bmatrix} = \begin{bmatrix}10\\5\end{bmatrix}$
  $(x - \mu^{(1)})^T \Sigma_1^{-1}(x - \mu^{(1)}) = \begin{bmatrix}10&5\end{bmatrix}\frac{1}{432}\begin{bmatrix}32&-12\\-12&18\end{bmatrix}\begin{bmatrix}10\\5\end{bmatrix} = \frac{1}{432}(10\times32\times10 + 10\times(-12)\times5 + 5\times(-12)\times10 + 5\times18\times5) = \frac{1}{432}(3200 - 600 - 600 + 450) = \frac{2450}{432}$
  $f_1(x) = \frac{1}{(2\pi)^{\frac{2}{2}}|\Sigma_1|^{\frac{1}{2}}} \exp\left(-\frac{1}{2}(x - \mu^{(1)})^T \Sigma_1^{-1}(x - \mu^{(1)})\right) = \frac{1}{4\pi\sqrt{432}} \exp\left(-\frac{1}{2}\times\frac{2450}{432}\right)$
• 计算 $f_2(x)$：
  $|\Sigma_2| = 20\times5 - (-7)\times(-7) = 100 - 49 = 51$
  $\Sigma_2^{-1} = \frac{1}{51}\begin{bmatrix}5&7\\7&20\end{bmatrix}$
  $(x - \mu^{(2)}) = \begin{bmatrix}20 - 20\\20 - 25\end{bmatrix} = \begin{bmatrix}0\\-5\end{bmatrix}$
  $(x - \mu^{(2)})^T \Sigma_2^{-1}(x - \mu^{(2)}) = \begin{bmatrix}0&-5\end{bmatrix}\frac{1}{51}\begin{bmatrix}5&7\\7&20\end{bmatrix}\begin{bmatrix}0\\-5\end{bmatrix} = \frac{1}{51}(0\times5\times0 + 0\times7\times(-5) + (-5)\times7\times0 + (-5)\times20\times(-5)) = \frac{500}{51}$
  $f_2(x) = \frac{1}{(2\pi)^{\frac{2}{2}}|\Sigma_2|^{\frac{1}{2}}} \exp\left(-\frac{1}{2}(x - \mu^{(2)})^T \Sigma_2^{-1}(x - \mu^{(2)})\right) = \frac{1}{4\pi\sqrt{51}} \exp\left(-\frac{1}{2}\times\frac{500}{51}\right)$
• 计算后验概率：
  $P(G_1|x) = \frac{q_1 f_1(x)}{q_1 f_1(x) + q_2 f_2(x)} = \frac{f_1(x)}{f_1(x) + f_2(x)} \approx 0.0001$
  $P(G_2|x) = \frac{q_2 f_2(x)}{q_1 f_1(x) + q_2 f_2(x)} = \frac{f_2(x)}{f_1(x) + f_2(x)} \approx 0.9999$