设总体X服从参数为p的0-1分布,其分布律为P(X=x)=p^x(1-p)^1-x,x=0,1。X_1,X_2,ldots,X_n是来自总体X的样本,且样本观测值为x_1,x_2,ldots,x_n,求参数p的极大似然估计量。
设总体$X$服从参数为$p$的$0-1$分布,其分布律为$P(X=x)=p^x(1-p)^{1-x}$,$x=0,1$。$X_1,X_2,\ldots,X_n$是来自总体$X$的样本,且样本观测值为$x_1,x_2,\ldots,x_n$,求参数$p$的极大似然估计量。
题目解答
答案
设总体 $X$ 服从参数为 $p$ 的 0-1 分布,其分布律为:
$P(X = x) = p^x (1-p)^{1-x}, \quad x = 0,1$
给定独立同分布样本 $X_1, X_2, \cdots, X_n$,观测值为 $x_1, x_2, \cdots, x_n$,求参数 $p$ 的极大似然估计量。
核心步骤如下:
-
构造似然函数
由于样本独立,联合概率即似然函数:
$L(p) = \prod_{i=1}^n p^{x_i}(1-p)^{1-x_i} = p^{\sum_{i=1}^n x_i} (1-p)^{n - \sum_{i=1}^n x_i}$ -
取对数简化计算
对数似然函数为:
$\ln L(p) = \sum_{i=1}^n x_i \ln p + (n - \sum_{i=1}^n x_i) \ln(1-p)$ -
求导并令导数为零
对 $p$ 求导:
$\frac{d}{dp} \ln L(p) = \frac{\sum_{i=1}^n x_i}{p} - \frac{n - \sum_{i=1}^n x_i}{1-p}$
令导数等于零,解得:
$\hat{p} = \frac{1}{n} \sum_{i=1}^n X_i = \overline{X}$
最终结果:
参数 $p$ 的极大似然估计量为样本均值 $\overline{X}$。
解析
本题考查极大似然估计法的应用,解题思路是先根据总体的分布律构造似然函数,再对似然函数取对数以简化计算,然后对对数似然函数求导并令导数为零,最后解出参数的极大似然估计量。
- 构造似然函数:
已知总体$X$服从参数为$p$的$0 - 1$分布,其分布律为$P(X = x) = p^x (1 - p)^{1 - x}$,$x = 0, 1$。因为$X_1,X_2,\ldots,X_n$是来自总体$X$的样本,且样本相互独立,所以似然函数$L(p)$为各样本点概率的乘积,即:
$L(p)=\prod_{i = 1}^{n}P(X_i = x_i)=\prod_{i = 1}^{n}p^{x_i}(1 - p)^{1 - x_i}$
根据指数运算法则$\prod_{i = 1}^{n}a_i^b_i=a_1^{b_1}a_2^{b_2}\cdots a_n^{b_n}$和$\prod_{i = 1}^{n}a^b=a^{nb}$,可得:
$L(p)=p^{\sum_{i = 1}^{n}x_i}(1 - p)^{n-\sum_{i = 1}^{n}x_i}$ - 取对数简化计算:
为了方便求导,对似然函数$L(p)$取自然对数,得到对数似然函数$\ln L(p)$:
$\ln L(p)=\ln\left(p^{\sum_{i = 1}^{n}x_i}(1 - p)^{n-\sum_{i = 1}^{n}x_i}\right)$
根据对数运算法则$\ln(ab)=\ln a+\ln b$和$\ln a^b = b\ln a$,可得:
$\ln L(p)=\sum_{i = 1}^{n}x_i\ln p+(n - \sum_{i = 1}^{n}x_i)\ln(1 - p)$ - 求导并令导数为零:
对对数似然函数$\ln L(p)$关于$p$求导,根据求导公式$(\ln x)^\prime=\frac{1}{x}$和$(\ln(1 - x))^\prime=-\frac{1}{1 - x}$,可得:
$\frac{d}{dp}\ln L(p)=\frac{\sum_{i = 1}^{n}x_i}{p}-\frac{n - \sum_{i = 1}^{n}x_i}{1 - p}$
令$\frac{d}{dp}\ln L(p)=0$,即:
$\frac{\sum_{i = 1}^{n}x_i}{p}-\frac{n - \sum_{i = 1}^{n}x_i}{1 - p}=0$
移项可得:
$\frac{\sum_{i = 1}^{n}x_i}{p}=\frac{n - \sum_{i = 1}^{n}x_i}{1 - p}$
交叉相乘得:
$(1 - p)\sum_{i = 1}^{n}x_i=p\left(n - \sum_{i = 1}^{n}x_i\right)$
展开得:
$\sum_{i = 1}^{n}x_i-p\sum_{i = 1}^{n}x_i=pn - p\sum_{i = 1}^{n}x_i$
消去$-p\sum_{i = 1}^{n}x_i$,得到:
$\sum_{i = 1}^{n}x_i=pn$
解得:
$p=\frac{1}{n}\sum_{i = 1}^{n}x_i=\overline{x}$
将$x_i$换为$X_i$,得到参数$p$的极大似然估计量为$\hat{p}=\frac{1}{n}\sum_{i = 1}^{n}X_i=\overline{X}$。