设总体概率函数如下，x_1, x_2, ldots, x_n 是样本，试求未知参数的最大似然估计。(1) p(x; theta) = sqrt(theta) x^sqrt(theta)-1, 0 < x < 1, theta > 0;(2) p(x; theta) = theta c^theta x^-(theta+1), x > c, c > 0 已知, theta > 1.
设总体概率函数如下，$x_1, x_2, \ldots, x_n$ 是样本，试求未知参数的最大似然估计。 (1) $p(x; \theta) = \sqrt{\theta} x^{\sqrt{\theta}-1}$, $0 < x < 1$, $\theta > 0$; (2) $p(x; \theta) = \theta c^{\theta} x^{-(\theta+1)}$, $x > c$, $c > 0$ 已知, $\theta > 1$.
题目解答
答案
我们来逐题分析并求解最大似然估计（MLE）。
第(1)题：
题目给出的概率密度函数：
$p(x; \theta) = \sqrt{\theta} x^{\sqrt{\theta}-1}, \quad 0 < x < 1, \quad \theta > 0$
1. 构造似然函数：
设样本为 $x_1, x_2, \ldots, x_n$，独立同分布（i.i.d.），则似然函数为：
$L(\theta) = \prod_{i=1}^n p(x_i; \theta) = \prod_{i=1}^n \sqrt{\theta} x_i^{\sqrt{\theta} - 1}$
$= (\sqrt{\theta})^n \prod_{i=1}^n x_i^{\sqrt{\theta} - 1}$
2. 构造对数似然函数：
$\ell(\theta) = \log L(\theta) = n \log \sqrt{\theta} + (\sqrt{\theta} - 1) \sum_{i=1}^n \log x_i$
$= \frac{n}{2} \log \theta + (\sqrt{\theta} - 1) \sum_{i=1}^n \log x_i$
3. 对 $\theta$ 求导并令导数为0：
设 $S = \sum_{i=1}^n \log x_i$，则：
$\ell'(\theta) = \frac{n}{2\theta} + \frac{1}{2\sqrt{\theta}} S$
令导数为0：
$\frac{n}{2\theta} + \frac{S}{2\sqrt{\theta}} = 0$
两边乘以 $2\sqrt{\theta}$：
$\frac{n}{\sqrt{\theta}} + S = 0 \Rightarrow \frac{n}{\sqrt{\theta}} = -S \Rightarrow \sqrt{\theta} = -\frac{n}{S}$
由于 $x_i \in (0,1)$，所以 $\log x_i < 0$，故 $S < 0$，所以 $-S > 0$，因此 $\sqrt{\theta} > 0$，合理。
平方得：
$\theta = \left( \frac{n}{-S} \right)^2 = \left( \frac{n}{\sum_{i=1}^n (-\log x_i)} \right)^2$
4. 最大似然估计：
$\boxed{\hat{\theta} = \left( \frac{n}{\sum_{i=1}^n (-\log x_i)} \right)^2}$
第(2)题：
题目给出的概率密度函数：
$p(x; \theta) = \theta c^{\theta} x^{-(\theta+1)}, \quad x > c, \quad c > 0 \text{ 已知}, \quad \theta > 1$
1. 构造似然函数：
$L(\theta) = \prod_{i=1}^n \theta c^{\theta} x_i^{-(\theta+1)} = \theta^n c^{n\theta} \prod_{i=1}^n x_i^{-(\theta+1)}$
$= \theta^n c^{n\theta} \left( \prod_{i=1}^n x_i \right)^{-(\theta+1)}$
2. 构造对数似然函数：
$\ell(\theta) = \log L(\theta) = n \log \theta + n\theta \log c - (\theta + 1) \sum_{i=1}^n \log x_i$
3. 对 $\theta$ 求导并令导数为0：
设 $S = \sum_{i=1}^n \log x_i$，则：
$\ell'(\theta) = \frac{n}{\theta} + n \log c - S$
令导数为0：
$\frac{n}{\theta} + n \log c - S = 0 \Rightarrow \frac{n}{\theta} = S - n \log c \Rightarrow \theta = \frac{n}{S - n \log c}$
4. 最大似然估计：
$\boxed{\hat{\theta} = \frac{n}{\sum_{i=1}^n \log x_i - n \log c}}$
总结：
- 第(1)题： $\boxed{\hat{\theta} = \left( \frac{n}{\sum_{i=1}^n (-\log x_i)} \right)^2}$
- 第(2)题： $\boxed{\hat{\theta} = \frac{n}{\sum_{i=1}^n \log x_i - n \log c}}$
解析
本题主要考查最大似然估计的求解方法。解题的一般思路是先根据总体概率函数构造似然函数，再对似然函数取对数得到对数似然函数，然后对对数似然函数求关于未知参数的导数，并令导数为 0，最后解出未知参数的值，即为最大似然估计。
第(1)题
- 构造似然函数：
已知总体概率函数$p(x; \theta) = \sqrt{\theta} x^{\sqrt{\theta}-1}$，$0 < x < 1$，$\theta > 0$，样本为$x_1, x_2, \ldots, x_n$且独立同分布。根据似然函数的定义，似然函数$L(\theta)$为样本概率函数的乘积，即：
$L(\theta) = \prod_{i=1}^n p(x_i; \theta) = \prod_{i=1}^n \sqrt{\theta} x_i^{\sqrt{\theta} - 1}$
根据指数运算法则$(ab)^n=a^nb^n$和$\prod_{i=1}^n a_i^b=a_1^b a_2^b\cdots a_n^b$，可得：
$L(\theta) = (\sqrt{\theta})^n \prod_{i=1}^n x_i^{\sqrt{\theta} - 1}$ - 构造对数似然函数：
对似然函数$L(\theta)$取自然对数，得到对数似然函数$\ell(\theta)$：
$\ell(\theta) = \log L(\theta) = \log\left[(\sqrt{\theta})^n \prod_{i=1}^n x_i^{\sqrt{\theta} - 1}\right]$
根据对数运算法则$\log(ab)=\log a+\log b$和$\log a^b=b\log a$，可得：
$\ell(\theta) = n \log \sqrt{\theta} + (\sqrt{\theta} - 1) \sum_{i=1}^n \log x_i$
又因为$\log \sqrt{\theta}=\frac{1}{2}\log \theta$，所以：
$\ell(\theta) = \frac{n}{2} \log \theta + (\sqrt{\theta} - 1) \sum_{i=1}^n \log x_i$ - 对$\theta$求导并令导数为 0：
设$S = \sum_{i=1}^n \log x_i$，对$\ell(\theta)$求关于$\theta$的导数：
$\ell'(\theta) = \frac{d}{d\theta}\left(\frac{n}{2} \log \theta + (\sqrt{\theta} - 1) S\right)$
根据求导公式$(\log x)^\prime=\frac{1}{x}$和$(\sqrt{x})^\prime=\frac{1}{2\sqrt{x}}$，可得：
$\ell'(\theta) = \frac{n}{2\theta} + \frac{1}{2\sqrt{\theta}} S$
令$\ell'(\theta)=0$，即：
$\frac{n}{2\theta} + \frac{S}{2\sqrt{\theta}} = 0$
两边同时乘以$2\sqrt{\theta}$，得到：
$\frac{n}{\sqrt{\theta}} + S = 0$
移项可得：
$\frac{n}{\sqrt{\theta}} = -S$
因为$x_i \in (0,1)$，所以$\log x_i < 0$，故$S < 0$，那么$-S > 0$，因此$\sqrt{\theta} > 0$，符合$\theta > 0$的条件。
两边同时平方，得到：
$\theta = \left( \frac{n}{-S} \right)^2 = \left( \frac{n}{\sum_{i=1}^n (-\log x_i)} \right)^2$ - 最大似然估计：
所以$\theta$的最大似然估计为$\hat{\theta} = \left( \frac{n}{\sum_{i=1}^n (-\log x_i)} \right)^2$。
第(2)题
- 构造似然函数：
已知总体概率函数$p(x; \theta) = \theta c^{\theta} x^{-(\theta+1)}$，$x > c$，$c > 0$已知，$\theta > 1$，样本为$x_1, x_2, \ldots, x_n$且独立同分布。根据似然函数的定义，似然函数$L(\theta)$为样本概率函数的乘积，即：
$L(\theta) = \prod_{i=1}^n p(x_i; \theta) = \prod_{i=1}^n \theta c^{\theta} x_i^{-(\theta+1)}$
根据指数运算法则$(ab)^n=a^nb^n$和$\prod_{i=1}^n a_i^b=a_1^b a_2^b\cdots a_n^b$，可得：
$L(\theta) = \theta^n c^{n\theta} \prod_{i=1}^n x_i^{-(\theta+1)}$
再根据指数运算法则$\prod_{i=1}^n a_i^b=a_1^b a_2^b\cdots a_n^b=(\prod_{i=1}^n a_i)^b$，可得：
$L(\theta) = \theta^n c^{n\theta} \left( \prod_{i=1}^n x_i \right)^{-(\theta+1)}$ - 构造对数似然函数：
对似然函数$L(\theta)$取自然对数，得到对数似然函数$\ell(\theta)$：
$\ell(\theta) = \log L(\theta) = \log\left[\theta^n c^{n\theta} \left( \prod_{i=1}^n x_i \right)^{-(\theta+1)}\right]$
根据对数运算法则$\log(ab)=\log a+\log b$和$\log a^b=b\log a$，可得：
$\ell(\theta) = n \log \theta + n\theta \log c - (\theta + 1) \sum_{i=1}^n \log x_i$ - 对$\theta$求导并令导数为 0：
设$S = \sum_{i=1}^n \log x_i$，对$\ell(\theta)$求关于$\theta$的导数：
$\ell'(\theta) = \frac{d}{d\theta}\left(n \log \theta + n\theta \log c - (\theta + 1) S\right)$
根据求导公式$(\log x)^\prime=\frac{1}{x}$和$(x^n)^\prime=nx^{n - 1}$，可得：
$\ell'(\theta) = \frac{n}{\theta} + n \log c - S$
令$\ell'(\theta)=0$，即：
$\frac{n}{\theta} + n \log c - S = 0$
移项可得：
$\frac{n}{\theta} = S - n \log c$
两边同时取倒数，得到：
$\theta = \frac{n}{S - n \log c}$ - 最大似然估计：
所以$\theta$的最大似然估计为$\hat{\theta} = \frac{n}{\sum_{i=1}^n \log x_i - n \log c}$。