最大似然估计方法与贝叶斯估计方法答:最大似然估计是把待估的参数看作固定的未知量,而贝叶斯估计则是把待估的参数作为具有某种先验分布的随机变量,通过对第i类学习样本Xi的观察,使概率密度分布P(Xi/θ)转化为后验概率P(θ/Xi) ,再求贝叶斯估计。(4)设以下两类模式均为正态分布 _1:((0,0)T,(2,0)T,(2,2)T,(0,2)T) _2:((4,4)T,(6,4)T,(6,6)T,(4,6)T) 设P(_1)= P(_2)=1/2,求该两类模式之间的Bayes判别界面的方程,并绘出判别界面。

题目4：两类正态分布模式的Bayes判别界面

考察知识知识

,Bayes判别原理、正态分布的参数估计（均值、协方差）、判别界面方程推导。

解题思路

1. 计算样本统计量计算：

   • 两类样本均值：$\omega_1$样本为{(0,0),(2,0),(2,2),(0,2)}，计算得$\overline{X}_1=(1,1)^T$；$\omega_2$样本为{(4,4),(6,4),(6,6),(4,6)}，计算得$\overline{X}_2=(5,5)^T$。
   • 协方差矩阵：两类样本协方差矩阵均为对角矩阵，$\sum_1=\sum_2=\text{diag}(4/3,4/3}$（因样本协方差计算中交叉项为0，方差项均为4/3）。

2. Bayes判别函数：

   • 由于$P(\omega_1)=P(\omega_2)=0.5$，$\ln[ln\frac{P(\omega_1)}{P(\omega_2)}=0\]$，判别函数差$g_2(x)-g_1(x)=-\frac{1}{2}(x-\overline{X}_1)^T\sum_1^{-1}(x-\overline{X}_1)+\frac{1}{2}(x-\overline{X}_2)^T\sum_2^{-1}(x-\overline{X}_2)$。

3. 代入协方差逆矩阵：
   $\sum_1^{-1}=\sum_2^{-1}=\text{diag}(3/4,3/4}$，展开得：
   $g_2(x)-g_1(x)=\frac{3}{8}[(x_1^2-\frac{3}{4}x_1+\frac{3}{8}x_2^2-\frac{3}{4}x_2-(\frac{3}{8}x_1^2-\frac{15}{4}x_1+\frac{38x_2^2-\frac{15}{4}x_2)=3x_1+3x_2-18$。

4. 判别界面：令$g_2(x)-g_1(x)=0$，得$x_1+x_2-6=0$。

题目5：一维Rayleigh分布的判决边界

考察知识

Rayleigh分布的概率密度、对数、Bayes决策规则。

解题思路

1. 似然比：$l(x)=\frac{p(x|\omega_1)p(\omega_1)}{p(x|\omega_2)p(\omega_2)}$，取对数得$lnl(x)=ln\frac{x}{\sigma_1^2}-\frac{x^2}{2\sigma_1^2}+lnP(\omega_1)-(ln\frac{x}{\sigma_2^2}-\frac{x^2}{2\sigma_2^2}+lnP(\omega_2))$。

2. 决策面条件：$lnl(x)\geq0$时判为$\omega_1$，否则为$\omega_2$，整理得判决边界方程：
   $2ln\frac{\sigma_2}{\sigma_1}+\frac{x^2}{2}(\frac{1}{\sigma_2^2}-\frac{1}{\sigma_1^2})+ln\frac{P(\omega_1)}{P(\omega_2)}\geq0$。