题目
其中θ未知,θ>0,试求θ的矩估计.2.3 给定一个容量为n的样本(X_(1),...,X_(n)),试用极大似然估计法估计总体的未知参数θ.设总体的密度函数为:(1)f(x,theta)=}theta x^theta-1,&0leqslant xleqslant1,0,&(其他).(2)f(x,theta)=}(theta a)x^a-1e^-theta x,&x>0,a已知,0,&(其他).(3)f(x,theta)=}(1)/(theta)e^-(x)/(theta),&x>0,0,&x<0.
其中θ未知,θ>0,试求θ的矩估计.
2.3 给定一个容量为n的样本$(X_{1},\cdots,X_{n})$,试用极大似然估计法估计总体的未知参数θ.设总体的密度函数为:
(1)$f(x,\theta)=\begin{cases}\theta x^{\theta-1},&0\leqslant x\leqslant1,\\0,&\text{其他}.\end{cases}$
(2)$f(x,\theta)=\begin{cases}(\theta a)x^{a-1}e^{-\theta x},&x>0,a已知,\\0,&\text{其他}.\end{cases}$
(3)$f(x,\theta)=\begin{cases}\frac{1}{\theta}e^{-\frac{x}{\theta}},&x>0,\\0,&x<0.\end{cases}$
题目解答
答案
1. **密度函数**:$f(x, \theta) = \theta x^{\theta-1}$,$0 \le x \le 1$
**似然函数**:$L(\theta) = \theta^n \prod_{i=1}^n X_i^{\theta-1}$
**对数似然**:$\ell(\theta) = n \ln \theta + (\theta-1) \sum_{i=1}^n \ln X_i$
**求导**:$\frac{d \ell}{d \theta} = \frac{n}{\theta} + \sum_{i=1}^n \ln X_i = 0$
**解**:$\hat{\theta} = -\frac{n}{\sum_{i=1}^n \ln X_i}$
2. **密度函数**:$f(x, \theta) = (\theta a)x^{a-1}e^{-\theta x}$,$x > 0$,$a$已知
**似然函数**:$L(\theta) = (\theta a)^n \left( \prod_{i=1}^n X_i^{a-1} \right) e^{-\theta \sum_{i=1}^n X_i}$
**对数似然**:$\ell(\theta) = n \ln (\theta a) + (a-1) \sum_{i=1}^n \ln X_i - \theta \sum_{i=1}^n X_i$
**求导**:$\frac{d \ell}{d \theta} = \frac{n}{\theta} - \sum_{i=1}^n X_i = 0$
**解**:$\hat{\theta} = \frac{n}{\sum_{i=1}^n X_i}$
3. **密度函数**:$f(x, \theta) = \frac{1}{\theta}e^{-\frac{x}{\theta}}$,$x > 0$
**似然函数**:$L(\theta) = \frac{1}{\theta^n} e^{-\frac{1}{\theta} \sum_{i=1}^n X_i}$
**对数似然**:$\ell(\theta) = -n \ln \theta - \frac{1}{\theta} \sum_{i=1}^n X_i$
**求导**:$\frac{d \ell}{d \theta} = -\frac{n}{\theta} + \frac{1}{\theta^2} \sum_{i=1}^n X_i = 0$
**解**:$\hat{\theta} = \overline{X}$
\[
\boxed{
\begin{array}{ll}
1. & \hat{\theta} = -\frac{n}{\sum_{i=1}^n \ln X_i}, \\
2. & \hat{\theta} = \frac{n}{\sum_{i=1}^n X_i}, \\
3. & \hat{\theta} = \overline{X}.
\end{array}
\]
解析
本题主要考查极大似然估计法求总体未知参数 $\theta$ 的估计值。极大似然估计法的基本思路是:先根据总体的概率密度函数写出似然函数,似然函数是样本的联合概率密度函数;然后对似然函数取对数,得到对数似然函数,这样做是为了方便求导;接着对对数似然函数关于未知参数 $\theta$ 求导,并令导数为 0,得到一个关于 $\theta$ 的方程;最后解这个方程,得到的解就是 $\theta$ 的极大似然估计值。
(1)对于密度函数 $f(x,\theta)=\begin{cases}\theta x^{\theta - 1},&0\leqslant x\leqslant1\\0,&\text{其他}\end{cases}$
- 似然函数:
已知样本为 $(X_1,\cdots,X_n)$,由于样本相互独立且与总体同分布,所以似然函数 $L(\theta)$ 为各样本概率密度函数的乘积,即
$L(\theta)=\prod_{i = 1}^{n}f(X_i,\theta)$
因为当 $0\leqslant X_i\leqslant1$ 时,$f(X_i,\theta)=\theta X_i^{\theta - 1}$,所以
$L(\theta)=\prod_{i = 1}^{n}\theta X_i^{\theta - 1}=\theta^n\prod_{i = 1}^{n}X_i^{\theta - 1}$ - 对数似然函数:
对似然函数 $L(\theta)$ 取自然对数,可得对数似然函数 $\ell(\theta)$
$\ell(\theta)=\ln L(\theta)=\ln(\theta^n\prod_{i = 1}^{n}X_i^{\theta - 1})$
根据对数运算法则 $\ln(ab)=\ln a+\ln b$ 和 $\ln a^b = b\ln a$,则
$\ell(\theta)=n\ln\theta+(\theta - 1)\sum_{i = 1}^{n}\ln X_i$ - 求导并令其为 0:
对 $\ell(\theta)$ 关于 $\theta$ 求导
$\frac{d\ell}{d\theta}=\frac{n}{\theta}+\sum_{i = 1}^{n}\ln X_i$
令 $\frac{d\ell}{d\theta}=0$,即
$\frac{n}{\theta}+\sum_{i = 1}^{n}\ln X_i = 0$ - 求解 $\theta$:
移项可得
$\frac{n}{\theta}=-\sum_{i = 1}^{n}\ln X_i$
解得
$\hat{\theta}=-\frac{n}{\sum_{i = 1}^{n}\ln X_i}$
(2)对于密度函数 $f(x,\theta)=\begin{cases}(\theta a)x^{a - 1}e^{-\theta x},&x > 0,a\text{ 已知}\\0,&\text{其他}\end{cases}$
- 似然函数:
同样,似然函数 $L(\theta)=\prod_{i = 1}^{n}f(X_i,\theta)$,因为当 $X_i>0$ 时,$f(X_i,\theta)=(\theta a)X_i^{a - 1}e^{-\theta X_i}$,所以
$L(\theta)=\prod_{i = 1}^{n}(\theta a)X_i^{a - 1}e^{-\theta X_i}=(\theta a)^n\left(\prod_{i = 1}^{n}X_i^{a - 1}\right)e^{-\theta\sum_{i = 1}^{n}X_i}$ - 对数似然函数:
对 $L(\theta)$ 取自然对数
$\ell(\theta)=\ln L(\theta)=\ln\left[(\theta a)^n\left(\prod_{i = 1}^{n}X_i^{a - 1}\right)e^{-\theta\sum_{i = 1}^{n}X_i}\right]$
根据对数运算法则可得
$\ell(\theta)=n\ln(\theta a)+(a - 1)\sum_{i = 1}^{n}\ln X_i-\theta\sum_{i = 1}^{n}X_i$ - 求导并令其为 0:
对 $\ell(\theta)$ 关于 $\theta$ 求导
$\frac{d\ell}{d\theta}=\frac{n}{\theta}-\sum_{i = 1}^{n}X_i$
令 $\frac{d\ell}{d\theta}=0$,即
$\frac{n}{\theta}-\sum_{i = 1}^{n}X_i = 0$ - 求解 $\theta$:
移项可得
$\frac{n}{\theta}=\sum_{i = 1}^{n}X_i$
解得
$\hat{\theta}=\frac{n}{\sum_{i = 1}^{n}X_i}$
(3)对于密度函数 $f(x,\theta)=\begin{cases}\frac{1}{\theta}e^{-\frac{x}{\theta}},&x > 0\\0,&x < 0\end{cases}$
- 似然函数:
似然函数 $L(\theta)=\prod_{i = 1}^{n}f(X_i,\theta)$,因为当 $X_i>0$ 时,$f(X_i,\theta)=\frac{1}{\theta}e^{-\frac{X_i}{\theta}}$,所以
$L(\theta)=\prod_{i = 1}^{n}\frac{1}{\theta}e^{-\frac{X_i}{\theta}}=\frac{1}{\theta^n}e^{-\frac{1}{\theta}\sum_{i = 1}^{n}X_i}$ - 对数似然函数:
对 $L(\theta)$ 取自然对数
$\ell(\theta)=\ln L(\theta)=\ln\left(\frac{1}{\theta^n}e^{-\frac{1}{\theta}\sum_{i = 1}^{n}X_i}\right)$
根据对数运算法则可得
$\ell(\theta)=-n\ln\theta-\frac{1}{\theta}\sum_{i = 1}^{n}X_i$ - 求导并令其为 0:
对 $\ell(\theta)$ 关于 $\theta$ 求导
$\frac{d\ell}{d\theta}=-\frac{n}{\theta}+\frac{1}{\theta^2}\sum_{i = 1}^{n}X_i$
令 $\frac{d\ell}{d\theta}=0$,即
$-\frac{n}{\theta}+\frac{1}{\theta^2}\sum_{i = 1}^{n}X_i = 0$ - 求解 $\theta$:
方程两边同时乘以 $\theta^2$ 得
$-n\theta+\sum_{i = 1}^{n}X_i = 0$
移项可得
$n\theta=\sum_{i = 1}^{n}X_i$
解得
$\hat{\theta}=\frac{\sum_{i = 1}^{n}X_i}{n}=\overline{X}$