设 X_1, X_2, ldots, X_n 是取自总体 X 的一个样本,X 的密度函数为 } f(x) = (theta + 1)x^theta & 0 < x < 1 0 & (其他) ,其中 theta > 0 未知,求 theta 的矩估计和最大似然估计。
设 $X_1, X_2, \ldots, X_n$ 是取自总体 $X$ 的一个样本,$X$ 的密度函数为 $\begin{cases} f(x) = (\theta + 1)x^{\theta} & 0 < x < 1 \\ 0 & \text{其他} \end{cases}$,其中 $\theta > 0$ 未知,求 $\theta$ 的矩估计和最大似然估计。
题目解答
答案
矩估计
总体均值 $E(X) = \frac{\theta + 1}{\theta + 2}$,令其等于样本均值 $\bar{X}$,解得
$\theta = \frac{2\bar{X} - 1}{1 - \bar{X}}.$
最大似然估计
似然函数 $L(\theta) = (\theta + 1)^n \left( \prod_{i=1}^n X_i \right)^\theta$,取对数后求导得
$\frac{d}{d\theta} \ln L(\theta) = \frac{n}{\theta + 1} + \sum_{i=1}^n \ln X_i = 0,$
解得
$\theta = -1 - \frac{n}{\sum_{i=1}^n \ln X_i} = \frac{n}{-\sum_{i=1}^n \ln X_i} - 1.$
答案
矩估计:$\boxed{\frac{2\bar{X} - 1}{1 - \bar{X}}}$
最大似然估计:$\boxed{\frac{n}{-\sum_{i=1}^n \ln X_i} - 1}$(或$\boxed{-1 - \frac{n}{\sum_{i=1}^n \ln X_i}}$)
解析
本题主要考查参数估计中的矩估计和最大似然估计方法。解题思路如下:
矩估计
矩估计的基本思想是用样本矩来估计总体矩。对于本题,我们需要先求出总体的一阶矩(即总体均值 $E(X)$),然后令其等于样本一阶矩(样本均值 $\bar{X}$),最后解出参数 $\theta$ 的估计值。
- 计算总体均值 $E(X)$:
根据期望的定义,对于连续型随机变量 $X$,其期望 $E(X)=\int_{-\infty}^{+\infty}xf(x)dx$。已知总体 $X$ 的密度函数为 $f(x)=\begin{cases}(\theta + 1)x^{\theta} & 0 < x < 1 \\ 0 & \text{其他} \end{cases}$,则:
$\begin{align*}E(X)&=\int_{0}^{1}x\cdot(\theta + 1)x^{\theta}dx\\&=(\theta + 1)\int_{0}^{1}x^{\theta + 1}dx\\&=(\theta + 1)\cdot\frac{x^{\theta + 2}}{\theta + 2}\big|_{0}^{1}\\&=(\theta + 1)\cdot(\frac{1^{\theta + 2}}{\theta + 2}-\frac{0^{\theta + 2}}{\theta + 2})\\&=\frac{\theta + 1}{\theta + 2}\end{align*}$ - 令总体均值等于样本均值并求解 $\theta$:
样本均值 $\bar{X}=\frac{1}{n}\sum_{i = 1}^{n}X_i$,令 $E(X)=\bar{X}$,即 $\frac{\theta + 1}{\theta + 2}=\bar{X}$。
交叉相乘可得:$\theta + 1 = \bar{X}(\theta + 2)$。
展开得:$\theta + 1 = \bar{X}\theta + 2\bar{X}$。
移项可得:$\theta - \bar{X}\theta = 2\bar{X} - 1$。
提取公因式 $\theta$ 得:$\theta(1 - \bar{X}) = 2\bar{X} - 1$。
解得:$\theta = \frac{2\bar{X} - 1}{1 - \bar{X}}$。
最大似然估计
最大似然估计的基本思想是在已知样本观测值的情况下,通过选择参数的值,使得样本出现的概率(似然函数)最大。具体步骤为:先写出似然函数,然后对似然函数取对数,再求对数似然函数关于参数的导数,并令导数为 0,最后解出参数的估计值。
- 写出似然函数 $L(\theta)$:
设 $x_1,x_2,\cdots,x_n$ 是样本 $X_1,X_2,\cdots,X_n$ 的一组观测值,似然函数 $L(\theta)=\prod_{i = 1}^{n}f(x_i)$。
因为 $f(x_i)=\begin{cases}(\theta + 1)x_i^{\theta} & 0 < x_i < 1 \\ 0 & \text{其他} \end{cases}$,所以当 $0 < x_i < 1$($i = 1,2,\cdots,n$)时,$L(\theta)=\prod_{i = 1}^{n}(\theta + 1)x_i^{\theta}=(\theta + 1)^n(\prod_{i = 1}^{n}x_i)^{\theta}$。 - 对似然函数取对数:
$\ln L(\theta)=\ln\left[(\theta + 1)^n(\prod_{i = 1}^{n}x_i)^{\theta}\right]$。
根据对数的运算法则 $\ln(ab)=\ln a + \ln b$ 和 $\ln a^b = b\ln a$,可得:
$\ln L(\theta)=n\ln(\theta + 1) + \theta\sum_{i = 1}^{n}\ln x_i$。 - 求对数似然函数关于 $\theta$ 的导数并令其为 0:
对 $\ln L(\theta)$ 求导:$\frac{d}{d\theta}\ln L(\theta)=\frac{n}{\theta + 1} + \sum_{i = 1}^{n}\ln x_i$。
令 $\frac{d}{d\theta}\ln L(\theta)=0$,即 $\frac{n}{\theta + 1} + \sum_{i = 1}^{n}\ln x_i = 0$。
移项可得:$\frac{n}{\theta + 1}=-\sum_{i = 1}^{n}\ln x_i$。
交叉相乘可得:$n = -(\theta + 1)\sum_{i = 1}^{n}\ln x_i$。
展开得:$n = -\theta\sum_{i = 1}^{n}\ln x_i - \sum_{i = 1}^{n}\ln x_i$。
移项可得:$\theta\sum_{i = 1}^{n}\ln x_i = -n - \sum_{i = 1}^{n}\ln x_i$。
解得:$\theta = -1 - \frac{n}{\sum_{i = 1}^{n}\ln x_i}=\frac{n}{-\sum_{i = 1}^{n}\ln x_i} - 1$。