设总体概率函数如下,x_1, x_2, ldots, x_n 是样本,试求未知参数的最大似然估计。(1) p(x; theta) = sqrt(theta) x^sqrt(theta)-1, 0 < x < 1, theta > 0;(2) p(x; theta) = theta c^theta x^-(theta+1), x > c, c > 0 已知, theta > 1.
设总体概率函数如下,$x_1, x_2, \ldots, x_n$ 是样本,试求未知参数的最大似然估计。 (1) $p(x; \theta) = \sqrt{\theta} x^{\sqrt{\theta}-1}$, $0 < x < 1$, $\theta > 0$; (2) $p(x; \theta) = \theta c^{\theta} x^{-(\theta+1)}$, $x > c$, $c > 0$ 已知, $\theta > 1$.
题目解答
答案
我们来逐题分析并求解最大似然估计(MLE)。
第(1)题:
题目给出的概率密度函数:
$p(x; \theta) = \sqrt{\theta} x^{\sqrt{\theta}-1}, \quad 0 < x < 1, \quad \theta > 0$
1. 构造似然函数:
设样本为 $x_1, x_2, \ldots, x_n$,独立同分布(i.i.d.),则似然函数为:
$L(\theta) = \prod_{i=1}^n p(x_i; \theta) = \prod_{i=1}^n \sqrt{\theta} x_i^{\sqrt{\theta} - 1}$
$= (\sqrt{\theta})^n \prod_{i=1}^n x_i^{\sqrt{\theta} - 1}$
2. 构造对数似然函数:
$\ell(\theta) = \log L(\theta) = n \log \sqrt{\theta} + (\sqrt{\theta} - 1) \sum_{i=1}^n \log x_i$
$= \frac{n}{2} \log \theta + (\sqrt{\theta} - 1) \sum_{i=1}^n \log x_i$
3. 对 $\theta$ 求导并令导数为0:
设 $S = \sum_{i=1}^n \log x_i$,则:
$\ell'(\theta) = \frac{n}{2\theta} + \frac{1}{2\sqrt{\theta}} S$
令导数为0:
$\frac{n}{2\theta} + \frac{S}{2\sqrt{\theta}} = 0$
两边乘以 $2\sqrt{\theta}$:
$\frac{n}{\sqrt{\theta}} + S = 0 \Rightarrow \frac{n}{\sqrt{\theta}} = -S \Rightarrow \sqrt{\theta} = -\frac{n}{S}$
由于 $x_i \in (0,1)$,所以 $\log x_i < 0$,故 $S < 0$,所以 $-S > 0$,因此 $\sqrt{\theta} > 0$,合理。
平方得:
$\theta = \left( \frac{n}{-S} \right)^2 = \left( \frac{n}{\sum_{i=1}^n (-\log x_i)} \right)^2$
4. 最大似然估计:
$\boxed{\hat{\theta} = \left( \frac{n}{\sum_{i=1}^n (-\log x_i)} \right)^2}$
第(2)题:
题目给出的概率密度函数:
$p(x; \theta) = \theta c^{\theta} x^{-(\theta+1)}, \quad x > c, \quad c > 0 \text{ 已知}, \quad \theta > 1$
1. 构造似然函数:
$L(\theta) = \prod_{i=1}^n \theta c^{\theta} x_i^{-(\theta+1)} = \theta^n c^{n\theta} \prod_{i=1}^n x_i^{-(\theta+1)}$
$= \theta^n c^{n\theta} \left( \prod_{i=1}^n x_i \right)^{-(\theta+1)}$
2. 构造对数似然函数:
$\ell(\theta) = \log L(\theta) = n \log \theta + n\theta \log c - (\theta + 1) \sum_{i=1}^n \log x_i$
3. 对 $\theta$ 求导并令导数为0:
设 $S = \sum_{i=1}^n \log x_i$,则:
$\ell'(\theta) = \frac{n}{\theta} + n \log c - S$
令导数为0:
$\frac{n}{\theta} + n \log c - S = 0 \Rightarrow \frac{n}{\theta} = S - n \log c \Rightarrow \theta = \frac{n}{S - n \log c}$
4. 最大似然估计:
$\boxed{\hat{\theta} = \frac{n}{\sum_{i=1}^n \log x_i - n \log c}}$
总结:
- 第(1)题: $\boxed{\hat{\theta} = \left( \frac{n}{\sum_{i=1}^n (-\log x_i)} \right)^2}$
- 第(2)题: $\boxed{\hat{\theta} = \frac{n}{\sum_{i=1}^n \log x_i - n \log c}}$