设总体 X 的概率分布为:[ P(X=1)=theta, P(X=2)=2theta, P(X=3)=1-3theta ]其中 theta in (0, (1)/(3))。现测得样本观测值为 1,2,1,3,2,求:(1) theta 的矩估计值;(2) theta 的最大似然估计值。
设总体 $X$ 的概率分布为:
$P(X=1)=\theta, \quad P(X=2)=2\theta, \quad P(X=3)=1-3\theta$
其中 $\theta \in (0, \frac{1}{3})$。现测得样本观测值为 $1,2,1,3,2$,求:
(1) $\theta$ 的矩估计值;
(2) $\theta$ 的最大似然估计值。
题目解答
答案
(1) 矩估计值
总体期望 $E(X) = 1 \cdot \theta + 2 \cdot 2\theta + 3 \cdot (1 - 3\theta) = 3 - 4\theta$。
样本均值 $\bar{X} = \frac{1 + 2 + 1 + 3 + 2}{5} = \frac{9}{5}$。
令 $E(X) = \bar{X}$,解得 $\theta = \frac{3}{10}$。
答案: $\boxed{\frac{3}{10}}$
(2) 最大似然估计值
似然函数 $L(\theta) = \theta \cdot (2\theta) \cdot \theta \cdot (1 - 3\theta) \cdot (2\theta) = 4\theta^4(1 - 3\theta)$。
对数似然函数 $\ell(\theta) = \ln 4 + 4\ln\theta + \ln(1 - 3\theta)$。
求导得 $\frac{d\ell(\theta)}{d\theta} = \frac{4}{\theta} - \frac{3}{1 - 3\theta}$,令其为0解得 $\theta = \frac{4}{15}$。
答案: $\boxed{\frac{4}{15}}$
解析
本题主要考查参数估计中的矩估计和最大似然估计的方法。
(1)求 $\theta$ 的矩估计值
- 计算总体期望 $E(X)$:
根据期望的定义,对于离散型随机变量 $X$,其期望 $E(X)=\sum_{i}x_{i}P(X = x_{i})$。
已知总体 $X$ 的概率分布为 $P(X = 1)=\theta$,$P(X = 2)=2\theta$,$P(X = 3)=1 - 3\theta$,则:
$\begin{align*}E(X)&=1\times\theta + 2\times2\theta+3\times(1 - 3\theta)\\&=\theta + 4\theta+3 - 9\theta\\&=3 - 4\theta\end{align*}$ - 计算样本均值 $\bar{X}$:
样本观测值为 $1,2,1,3,2$,样本容量 $n = 5$,根据样本均值公式 $\bar{X}=\frac{1}{n}\sum_{i = 1}^{n}x_{i}$,可得:
$\bar{X}=\frac{1 + 2 + 1 + 3 + 2}{5}=\frac{9}{5}$ - 求解 $\theta$ 的矩估计值:
矩估计的思想是用样本均值 $\bar{X}$ 来估计总体期望 $E(X)$,即令 $E(X)=\bar{X}$,则有:
$3 - 4\theta=\frac{9}{5}$
移项可得:
$4\theta=3-\frac{9}{5}$
$4\theta=\frac{15 - 9}{5}=\frac{6}{5}$
解得:
$\theta=\frac{3}{10}$
(2)求 $\theta$ 的最大似然估计值
- 构造似然函数 $L(\theta)$:
似然函数是样本取值的联合概率分布,对于离散型总体,似然函数 $L(\theta)=\prod_{i = 1}^{n}P(X = x_{i})$。
已知样本观测值为 $1,2,1,3,2$,则:
$L(\theta)=P(X = 1)P(X = 2)P(X = 1)P(X = 3)P(X = 2)=\theta\times(2\theta)\times\theta\times(1 - 3\theta)\times(2\theta)=4\theta^{4}(1 - 3\theta)$ - 构造对数似然函数 $\ell(\theta)$:
为了方便求导,对似然函数取对数,得到对数似然函数 $\ell(\theta)=\ln L(\theta)$,则:
$\ell(\theta)=\ln(4\theta^{4}(1 - 3\theta))=\ln 4 + 4\ln\theta+\ln(1 - 3\theta)$ - 求对数似然函数的导数并令其为 0:
对 $\ell(\theta)$ 求关于 $\theta$ 的导数:
$\frac{d\ell(\theta)}{d\theta}=\frac{4}{\theta}-\frac{3}{1 - 3\theta}$
令 $\frac{d\ell(\theta)}{d\theta}=0$,即:
$\frac{4}{\theta}-\frac{3}{1 - 3\theta}=0$
通分可得:
$\frac{4(1 - 3\theta)-3\theta}{\theta(1 - 3\theta)}=0$
则分子 $4(1 - 3\theta)-3\theta = 0$,展开得:
$4-12\theta-3\theta = 0$
$4-15\theta = 0$
解得:
$\theta=\frac{4}{15}$