题目

设总体Xsim N(a,sigma^2)求方差sigma^2的极大似然估计量，假设其中a已知。

设总体$X\sim N(a,\sigma^{2})$求方差$\sigma^{2}$的极大似然估计量，假设其中a已知。

题目解答

答案

为了找到正态分布总体 $X \sim N(a, \sigma^2)$ 的方差 $\sigma^2$ 的极大似然估计量，其中均值 $a$ 已知，我们可以按照以下步骤进行： 1. **写出似然函数：** 似然函数 $L(\sigma^2)$ 是在给定参数 $\sigma^2$ 的情况下，观察到数据的联合概率密度函数。对于正态分布，$n$ 个独立同分布的观察值 $x_1, x_2, \ldots, x_n$ 的联合概率密度函数为： \[ L(\sigma^2) = \prod_{i=1}^n \frac{1}{\sqrt{2\pi\sigma^2}} \exp\left(-\frac{(x_i - a)^2}{2\sigma^2}\right) \] 这可以简化为： \[ L(\sigma^2) = \left(\frac{1}{\sqrt{2\pi\sigma^2}}\right)^n \exp\left(-\frac{1}{2\sigma^2} \sum_{i=1}^n (x_i - a)^2\right) \] 2. **取似然函数的自然对数：** 为了简化求导过程，我们取似然函数的自然对数： \[ \ell(\sigma^2) = \ln L(\sigma^2) = n \ln \left(\frac{1}{\sqrt{2\pi\sigma^2}}\right) - \frac{1}{2\sigma^2} \sum_{i=1}^n (x_i - a)^2 \] 进一步简化，我们得到： \[ \ell(\sigma^2) = -\frac{n}{2} \ln (2\pi) - \frac{n}{2} \ln (\sigma^2) - \frac{1}{2\sigma^2} \sum_{i=1}^n (x_i - a)^2 \] 3. **对对数似然函数关于 $\sigma^2$ 求导：** 为了找到极大似然估计量，我们需要对 $\ell(\sigma^2)$ 关于 $\sigma^2$ 求导，并将其设为零： \[ \frac{d\ell(\sigma^2)}{d\sigma^2} = -\frac{n}{2\sigma^2} + \frac{1}{2(\sigma^2)^2} \sum_{i=1}^n (x_i - a)^2 \] 将导数设为零，我们得到： \[ -\frac{n}{2\sigma^2} + \frac{1}{2(\sigma^2)^2} \sum_{i=1}^n (x_i - a)^2 = 0 \] 乘以 $2(\sigma^2)^2$，我们得到： \[ -n\sigma^2 + \sum_{i=1}^n (x_i - a)^2 = 0 \] 解出 $\sigma^2$，我们得到： \[ \sigma^2 = \frac{1}{n} \sum_{i=1}^n (x_i - a)^2 \] 4. **验证这是最大值：** 为了确保这个临界点是最大值，我们可以检查对数似然函数的二阶导数： \[ \frac{d^2\ell(\sigma^2)}{d(\sigma^2)^2} = \frac{n}{2(\sigma^2)^2} - \frac{1}{(\sigma^2)^3} \sum_{i=1}^n (x_i - a)^2 \] 在 $\sigma^2 = \frac{1}{n} \sum_{i=1}^n (x_i - a)^2$ 处评估二阶导数，我们得到： \[ \frac{d^2\ell(\sigma^2)}{d(\sigma^2)^2} = \frac{n}{2\left(\frac{1}{n} \sum_{i=1}^n (x_i - a)^2\right)^2} - \frac{1}{\left(\frac{1}{n} \sum_{i=1}^n (x_i - a)^2\right)^3} \sum_{i=1}^n (x_i - a)^2 = \frac{n^3}{2\left(\sum_{i=1}^n (x_i - a)^2\right)^2} - \frac{n^3}{\left(\sum_{i=1}^n (x_i - a)^2\right)^2} = -\frac{n^3}{2\left(\sum_{i=1}^n (x_i - a)^2\right)^2} < 0 \] 由于二阶导数为负，似然函数在 $\sigma^2 = \frac{1}{n} \sum_{i=1}^n (x_i - a)^2$ 处有最大值。 因此，方差 $\sigma^2$ 的极大似然估计量是 $\boxed{\frac{1}{n} \sum_{i=1}^n (X_i - a)^2}$。

解析

本题考查极大似然估计法求正态分布总体方差的估计量。解题思路是先根据已知条件写出似然函数，然后对似然函数取自然对数以简化求导过程，接着对对数似然函数关于待估参数 $\sigma^2$ 求导并令导数为零，解出 $\sigma^2$ 的值，最后验证该值能使似然函数取得最大值。

  1. 写出似然函数：
    已知总体 $X\sim N(a,\sigma^{2})$，$n$ 个独立同分布的观察值 $x_1, x_2, \ldots, x_n$ 的联合概率密度函数（即似然函数）为：
    $L(\sigma^2) = \prod_{i=1}^n \frac{1}{\sqrt{2\pi\sigma^2}} \exp\left(-\frac{(x_i - a)^2}{2\sigma^2}\right)$
    根据指数运算法则和根式运算法则，可将上式化简为：
    $L(\sigma^2) = \left(\frac{1}{\sqrt{2\pi\sigma^2}}\right)^n \exp\left(-\frac{1}{2\sigma^2} \sum_{i=1}^n (x_i - a)^2\right)$
  2. 取似然函数的自然对数：
    对 $L(\sigma^2)$ 取自然对数，根据对数运算法则 $\ln(AB)=\ln A+\ln B$ 和 $\ln A^B = B\ln A$ 可得：
    $\ell(\sigma^2) = \ln L(\sigma^2) = n \ln \left(\frac{1}{\sqrt{2\pi\sigma^2}}\right) - \frac{1}{2\sigma^2} \sum_{i=1}^n (x_i - a)^2$
    进一步化简：
    $\ell(\sigma^2) = -\frac{n}{2} \ln (2\pi) - \frac{n}{2} \ln (\sigma^2) - \frac{1}{2\sigma^2} \sum_{i=1}^n (x_i - a)^2$
  3. 对对数似然函数关于 $\sigma^2$ 求导：
    根据求导公式 $(\ln x)^\prime=\frac{1}{x}$ 和 $(x^n)^\prime=nx^{n - 1}$ 对 $\ell(\sigma^2)$ 关于 $\sigma^2$ 求导：
    $\frac{d\ell(\sigma^2)}{d\sigma^2} = -\frac{n}{2\sigma^2} + \frac{1}{2(\sigma^2)^2} \sum_{i=1}^n (x_i - a)^2$
    令 $\frac{d\ell(\sigma^2)}{d\sigma^2}=0$，即：
    $-\frac{n}{2\sigma^2} + \frac{1}{2(\sigma^2)^2} \sum_{i=1}^n (x_i - a)^2 = 0$
    方程两边同时乘以 $2(\sigma^2)^2$ 得到：
    $-n\sigma^2 + \sum_{i=1}^n (x_i - a)^2 = 0$
    移项可得：
    $\sigma^2 = \frac{1}{n} \sum_{i=1}^n (x_i - a)^2$
  4. 验证这是最大值：
    对 $\ell(\sigma^2)$ 求二阶导数：
    $\frac{d^2\ell(\sigma^2)}{d(\sigma^2)^2} = \frac{n}{2(\sigma^2)^2} - \frac{1}{(\sigma^2)^3} \sum_{i=1}^n (x_i - a)^2$
    将 $\sigma^2 = \frac{1}{n} \sum_{i=1}^n (x_i - a)^2$ 代入二阶导数：
    $\frac{d^2\ell(\sigma^2)}{d(\sigma^2)^2} = \frac{n}{2\left(\frac{1}{n} \sum_{i=1}^n (x_i - a)^2\right)^2} - \frac{1}{\left(\frac{1}{n} \sum_{i=1}^n (x_i - a)^2\right)^3} \sum_{i=1}^n (x_i - a)^2$
    化简可得：
    $\frac{d^2\ell(\sigma^2)}{d(\sigma^2)^2} = \frac{n^3}{2\left(\sum_{i=1}^n (x_i - a)^2\right)^2} - \frac{n^3}{\left(\sum_{i=1}^n (x_i - a)^2\right)^2} = -\frac{n^3}{2\left(\sum_{i=1}^n (x_i - a)^2\right)^2} < 0$
    因为二阶导数小于零，所以似然函数在 $\sigma^2 = \frac{1}{n} \sum_{i=1}^n (x_i - a)^2$ 处取得最大值。
    将样本值 $x_i$ 换成随机变量 $X_i$，得到方差 $\sigma^2$ 的极大似然估计量为 $\frac{1}{n} \sum_{i=1}^n (X_i - a)^2$。