设总体 X 的概率密度为:[varphi(x) = } (1)/(theta) e^-(x-1)/(theta), & x > 1 0, & x leq 1 ]其中未知参数 theta > 0. X_1, X_2, ..., X_n 是来自总体 X 的一个样本,求参数 theta 的极大似然估计量 hat(theta),并判断其是否为 theta 的无偏估计量.
设总体 $X$ 的概率密度为: $\varphi(x) = \begin{cases} \frac{1}{\theta} e^{-\frac{x-1}{\theta}}, & x > 1 \\ 0, & x \leq 1 \end{cases}$ 其中未知参数 $\theta > 0$. $X_1, X_2, \cdots, X_n$ 是来自总体 $X$ 的一个样本,求参数 $\theta$ 的极大似然估计量 $\hat{\theta}$,并判断其是否为 $\theta$ 的无偏估计量.
题目解答
答案
我们来逐步解决这个题目。
题目分析
总体 $ X $ 的概率密度函数为:
$\varphi(x) = \begin{cases} \frac{1}{\theta} e^{-\frac{x-1}{\theta}}, & x > 1 \\0, & x \leq 1 \end{cases}$
这是一个平移指数分布,可以看作是:
令 $ Y = X - 1 $,则当 $ x > 1 $ 时,$ y > 0 $,且
$f_Y(y) = \frac{1}{\theta} e^{-y/\theta}, \quad y > 0$
即 $ Y \sim \text{Exp}(\theta) $,指数分布,均值为 $ \theta $。
所以 $ X = Y + 1 $,即 $ X $ 是从 1 开始的指数分布。
第一步:写出似然函数
设样本为 $ X_1, X_2, \dots, X_n $,独立同分布。
由于密度函数在 $ x > 1 $ 时为 $ \frac{1}{\theta} e^{-(x-1)/\theta} $,
所以对于每个 $ X_i > 1 $(几乎必然成立,因为概率集中在 $ x>1 $),其密度为:
$\varphi(x_i) = \frac{1}{\theta} e^{-\frac{x_i - 1}{\theta}}, \quad x_i > 1$
于是,联合密度函数(即似然函数)为:
$L(\theta) = \prod_{i=1}^n \varphi(x_i) = \prod_{i=1}^n \left( \frac{1}{\theta} e^{-\frac{x_i - 1}{\theta}} \right)$
前提是所有 $ x_i > 1 $,否则密度为 0。我们假设样本都满足 $ x_i > 1 $,这是合理的。
化简似然函数:
$L(\theta) = \frac{1}{\theta^n} \exp\left( -\frac{1}{\theta} \sum_{i=1}^n (x_i - 1) \right) = \frac{1}{\theta^n} \exp\left( -\frac{1}{\theta} \left( \sum_{i=1}^n x_i - n \right) \right)$
第二步:取对数似然函数
取自然对数:
$\ln L(\theta) = -n \ln \theta - \frac{1}{\theta} \left( \sum_{i=1}^n x_i - n \right)$
令 $ S = \sum_{i=1}^n x_i $,则:
$\ln L(\theta) = -n \ln \theta - \frac{1}{\theta}(S - n)$
第三步:对 $ \theta $ 求导并令导数为 0
求导:
$\frac{d}{d\theta} \ln L(\theta) = -\frac{n}{\theta} + \frac{1}{\theta^2}(S - n)$
令导数为 0:
$-\frac{n}{\theta} + \frac{S - n}{\theta^2} = 0$
两边乘以 $ \theta^2 $:
$-n\theta + (S - n) = 0 \quad \Rightarrow \quad n\theta = S - n$
解得:
$\hat{\theta} = \frac{S - n}{n} = \frac{1}{n} \sum_{i=1}^n (X_i - 1)$
极大似然估计量
所以,参数 $ \theta $ 的极大似然估计量为:
$\boxed{\hat{\theta} = \frac{1}{n} \sum_{i=1}^n (X_i - 1)}$
也可以写成:
$\hat{\theta} = \bar{X} - 1, \quad \text{其中 } \bar{X} = \frac{1}{n} \sum_{i=1}^n X_i$
第四步:判断是否为无偏估计
我们要判断 $ \mathbb{E}[\hat{\theta}] = \theta $ 是否成立。
先计算 $ \mathbb{E}[\hat{\theta}] $:
$\mathbb{E}[\hat{\theta}] = \mathbb{E}\left[ \frac{1}{n} \sum_{i=1}^n (X_i - 1) \right] = \frac{1}{n} \sum_{i=1}^n \mathbb{E}[X_i - 1] = \mathbb{E}[X_i - 1]$
因为所有 $ X_i $ 同分布。
由前面分析,$ X_i = Y_i + 1 $,其中 $ Y_i \sim \text{Exp}(\theta) $,指数分布的均值为 $ \theta $。
所以:
$\mathbb{E}[X_i] = \mathbb{E}[Y_i + 1] = \theta + 1 \quad \Rightarrow \quad \mathbb{E}[X_i - 1] = \theta$
因此:
$\mathbb{E}[\hat{\theta}] = \theta$
结论
极大似然估计量 $ \hat{\theta} = \bar{X} - 1 $ 是 $ \theta $ 的无偏估计量。
最终答案
-
极大似然估计量为:
$\boxed{\hat{\theta} = \bar{X} - 1}$
其中 $ \bar{X} = \frac{1}{n} \sum_{i=1}^n X_i $。 -
该估计量是 $ \theta $ 的无偏估计量,因为 $ \mathbb{E}[\hat{\theta}] = \theta $。
解析
本题主要考察极大似然估计量的计算及无偏估计量的判断,涉及涉及指数分布的性质和期望计算。
步骤1. 极大似然估计量的计算
步骤1:写出似然函数
总体 $X$ 的概率密度为:
$\varphi(x) = \begin{cases} \frac{1}{\theta} e^{-\frac{x-1}{\theta}}, & x >1 \\ 0, & x \leq 1 \end{cases}$
样本 $X_1,X_2,\cdots,X_n$ 独立同分布,假设所有 $X_i>1$(概率集中在 $x>1$),则似然函数为:
$L(\theta) = \prod_{i=1}^n \varphi(x_i) = \left( \frac{1}{\theta} \right)^n \exp\left( -\frac{1}{\theta} \sum_{i=1}^n (x_i - 1) \right)$
步骤2:取对数似然函数
对似然函数取自然对数:
$\ln L(\theta) = -n \ln \theta - \frac{1}{\theta} \left( \sum_{i=1}^n x_i - n \right)$
令 $S = \sum_{i=1}^n x_i$,则:
$\ln L(\theta) = -n \ln \theta - \frac{1}{\theta}(S - n)$
步骤3:求导并令导数为0
对 $\theta$ 求导:
$\frac{d}{d\theta} \ln L(\theta) = -\frac{n}{\theta} + \frac{S - n}{\theta^2}$
令导数为0:
$-\frac{n}{\theta} + \frac{S - n}{\theta^2} = 0 \implies n\theta = S - n$
解得:
$\hat{\theta} = \frac{S - n}{n} = \frac{1}{n} \sum_{i=1}^n (X_i - 1) = \bar{X} - 1$
其中 $\bar{X} = \frac{1}{n} \sum_{i=1}^n X_i$。
2. 判断是否为无偏估计量
无偏估计量需满足 $\mathbb{E}[\hat{\theta}] = \theta$:
- 令 $Y_i = X_i - 1$ ),则 $Y_i \sim \text{Exp}(\theta)$(指数分布,均值为 $\theta$)。
- $\mathbb{E}[X_i] = \mathbb{E}[Y_i + 1] = \theta + 1 \implies \mathbb{E}[X_i - 1] = \theta$
- $\mathbb{E}[\hat{\theta}] = \mathbb{E}[\bar{X} - 1] = \mathbb{E}[\bar{X}] - 1 = \frac{1}{n} \sum \mathbb{E}[X_i] - 1 = \frac{1}{n} \cdot n\theta - 1 = \theta$
故 $\(\mathbb{E}[\hat{\theta}] = \theta$,$\hat{\theta}$ 是无偏估计量。
极大似然估计量为$\hat{\theta} = \bar{X} - 1$;是$\theta$的无偏估计量