题目
5、已知总体X的密度函数为varphi(x,theta)=}theta e^-theta x&xgeqslant0 (theta>0)0&x<0,求参数theta的最大(也称极大)似然估计值().
5、已知总体X的密度函数为$\varphi(x,\theta)=\begin{cases}\theta e^{-\theta x}&x\geqslant0\quad(\theta>0)\\0&x<0\end{cases}$,求参数$\theta$的最大(也称极大)似然估计值().
题目解答
答案
似然函数为:
\[
L(\theta) = \prod_{i=1}^n \theta e^{-\theta x_i} = \theta^n e^{-\theta \sum_{i=1}^n x_i}.
\]
取对数得:
\[
\ell(\theta) = n \ln \theta - \theta \sum_{i=1}^n x_i.
\]
求导并令其为零:
\[
\frac{d\ell(\theta)}{d\theta} = \frac{n}{\theta} - \sum_{i=1}^n x_i = 0.
\]
解得:
\[
\theta = \frac{n}{\sum_{i=1}^n x_i} = \frac{1}{\overline{x}}.
\]
二阶导数为负,确保为最大值。
**答案:** $\boxed{\frac{1}{\overline{x}}}$
解析
本题考查参数的最大似然估计的知识。解题思路如下:
- 首先根据总体的密度函数写出似然函数。对于总体$X$的样本$X_1,X_2,\cdots,X_n$,似然函数$L(\theta)$是样本的联合概率密度函数,由于样本相互独立,所以$L(\theta)=\prod_{i = 1}^{n}\varphi(x_i,\theta)$。
- 然后对似然函数取对数,得到对数似然函数$\ell(\theta)$。取对数的目的是为了方便后续求导计算,因为对数函数可以将乘积运算转化为加法运算。
- 接着对对数似然函数求导,并令导数为$0$,解出$\theta$的值。这是因为对数似然函数在最大值点处的导数为$0$,通过求解这个方程可以得到可能的最大值点。
- 最后验证该点是否为最大值点,通常可以通过求二阶导数,若二阶导数小于$0$,则该点为最大值点。
下面进行详细的计算:
- 求似然函数$L(\theta)$:
已知总体$X$的密度函数为$\varphi(x,\theta)=\begin{cases}\theta e^{-\theta x}&x\geqslant0\quad(\theta>0)\\0&x<0\end{cases}$,对于样本$X_1,X_2,\cdots,X_n$,似然函数为:
$L(\theta)=\prod_{i = 1}^{n}\varphi(x_i,\theta)=\prod_{i = 1}^{n}\theta e^{-\theta x_i}=\theta^n e^{-\theta\sum_{i = 1}^{n}x_i}$
这里假设$x_i\geqslant0$($i = 1,2,\cdots,n$),若存在$x_j<0$,则$\varphi(x_j,\theta)=0$,那么$L(\theta)=0$,显然不是最大值,所以只考虑$x_i\geqslant0$的情况。 - 求对数似然函数$\ell(\theta)$:
对$L(\theta)$取自然对数,可得:
$\ell(\theta)=\ln L(\theta)=\ln(\theta^n e^{-\theta\sum_{i = 1}^{n}x_i})$
根据对数的运算法则$\ln(ab)=\ln a+\ln b$和$\ln a^b = b\ln a$,则有:
$\ell(\theta)=n\ln\theta-\theta\sum_{i = 1}^{n}x_i$ - 求$\ell(\theta)$的导数并令其为$0$:
对$\ell(\theta)$关于$\theta$求导,根据求导公式$(\ln x)^\prime=\frac{1}{x}$和$(x^n)^\prime=nx^{n - 1}$,可得:
$\frac{d\ell(\theta)}{d\theta}=\frac{n}{\theta}-\sum_{i = 1}^{n}x_i$
令$\frac{d\ell(\theta)}{d\theta}=0$,即:
$\frac{n}{\theta}-\sum_{i = 1}^{n}x_i = 0$
移项可得:
$\frac{n}{\theta}=\sum_{i = 1}^{n}x_i$
解得:
$\theta=\frac{n}{\sum_{i = 1}^{n}x_i}=\frac{1}{\overline{x}}$
其中$\overline{x}=\frac{1}{n}\sum_{i = 1}^{n}x_i$是样本均值。 - 验证$\theta=\frac{1}{\overline{x}}$是最大值点:
对$\ell(\theta)$求二阶导数,可得:
$\frac{d^2\ell(\theta)}{d\theta^2}=-\frac{n}{\theta^2}$
当$\theta=\frac{1}{\overline{x}}$时,$\frac{d^2\ell(\theta)}{d\theta^2}=-n\overline{x}^2<0$,所以$\theta=\frac{1}{\overline{x}}$是对数似然函数$\ell(\theta)$的最大值点,也是似然函数$L(\theta)$的最大值点。