设 X_1, X_2, ..., X_n 为取自总体 X 的一个样本，总体 X 的密度函数为[ f(x; theta_1, theta_2) = (1)/(theta_2) e^-(x-theta_1)/(theta_2), -infty < theta_1 < x < infty, theta_2 > 0 ](1) 求 theta_1, theta_2 的矩估计量；(2) 求 theta_1, theta_2 的极大似然估计量.

本题主要考查参数估计中的矩估计法和极大似然估计法。矩估计法是用样本矩来估计总体矩，从而得到参数的估计量；极大似然估计法是通过构造似然函数并求其最大值来确定参数的估计量。

(1) 求 $\theta_1$, $\theta_2$ 的矩估计量

• 步骤一：计算总体的一阶矩和二阶矩
  • 总体的一阶矩（期望）$E(X)$：
    根据期望的定义，$E(X)=\int_{-\infty}^{\infty}x\cdot f(x;\theta_1,\theta_2)dx$，已知$f(x;\theta_1,\theta_2) = \frac{1}{\theta_2} e^{-\frac{x-\theta_1}{\theta_2}}$，则
    $\begin{align*}E(X)&=\int_{\theta_1}^{\infty}x\cdot\frac{1}{\theta_2} e^{-\frac{x-\theta_1}{\theta_2}}dx\\&=\int_{0}^{\infty}(\theta_1 + t)\cdot\frac{1}{\theta_2} e^{-\frac{t}{\theta_2}}dt\quad(\text{令}t = x - \theta_1)\\&=\theta_1\int_{0}^{\infty}\frac{1}{\theta_2} e^{-\frac{t}{\theta_2}}dt+\int_{0}^{\infty}t\cdot\frac{1}{\theta_2} e^{-\frac{t}{\theta_2}}dt\end{align*}$
    其中$\int_{0}^{\infty}\frac{1}{\theta_2} e^{-\frac{t}{\theta_2}}dt = 1$，$\int_{0}^{\infty}t\cdot\frac{1}{\theta_2} e^{-\frac{t}{\theta_2}}dt=\theta_2$（可通过分部积分法计算），所以$E(X)=\theta_1+\theta_2$。
  • 总体的二阶矩$E(X^2)$：
    $\begin{align*}E(X^2)&=\int_{\theta_1}^{\infty}x^2\cdot\frac{1}{\theta_2} e^{-\frac{x-\theta_1}{\theta_2}}dx\\&=\int_{0}^{\infty}(\theta_1 + t)^2\cdot\frac{1}{\theta_2} e^{-\frac{t}{\theta_2}}dt\quad(\text{令}t = x - \theta_1)\\&=\int_{0}^{\infty}(\theta_1^2 + 2\theta_1t + t^2)\cdot\frac{1}{\theta_2} e^{-\frac{t}{\theta_2}}dt\\&=\theta_1^2\int_{0}^{\infty}\frac{1}{\theta_2} e^{-\frac{t}{\theta_2}}dt+2\theta_1\int_{0}^{\infty}t\cdot\frac{1}{\theta_2} e^{-\frac{t}{\theta_2}}dt+\int_{0}^{\infty}t^2\cdot\frac{1}{\theta_2} e^{-\frac{t}{\theta_2}}dt\end{align*}$
    其中$\int_{0}^{\infty}\frac{1}{\theta_2} e^{-\frac{t}{\theta_2}}dt = 1$，$\int_{0}^{\infty}t\cdot\frac{1}{\theta_2} e^{-\frac{t}{\theta_2}}dt=\theta_2$，$\int_{0}^{\infty}t^2\cdot\frac{1}{\theta_2} e^{-\frac{t}{\theta_2}}dt = 2\theta_2^2$（可通过分部积分法计算），所以$E(X^2)=\theta_1^2 + 2\theta_1\theta_2+2\theta_2^2$。
• 步骤二：计算样本的一阶矩和二阶矩
  样本的一阶矩为$\bar{X}=\frac{1}{n}\sum_{i = 1}^{n}X_i$，样本的二阶矩为$\frac{1}{n}\sum_{i = 1}^{n}X_i^2$。
• 步骤三：令总体矩等于样本矩，解方程组
  令$\begin{cases}E(X)=\bar{X}\\\ E(X^2)=\frac{1}{n}\sum_{i = 1}^{n}X_i^2\end{cases}$，即$\begin{cases}\theta_1+\theta_2=\bar{X}\\\ \theta_1^2 + 2\theta_1\theta_2+2\theta_2^2=\frac{1}{n}\sum_{i = 1}^{n}X_i^2\end{cases}$。
  由$\theta_1+\theta_2=\bar{X}$可得$\theta_1=\bar{X}-\theta_2$，代入$\theta_1^2 + 2\theta_1\theta_2+2\theta_2^2=\frac{1}{n}\sum_{i = 1}^{n}X_i^2$中：
  $\begin{align*}(\bar{X}-\theta_2)^2 + 2(\bar{X}-\theta_2)\theta_2+2\theta_2^2&=\frac{1}{n}\sum_{i = 1}^{n}X_i^2\\\bar{X}^2 - 2\bar{X}\theta_2+\theta_2^2 + 2\bar{X}\theta_2-2\theta_2^2+2\theta_2^2&=\frac{1}{n}\sum_{i = 1}^{n}X_i^2\\\bar{X}^2+\theta_2^2&=\frac{1}{n}\sum_{i = 1}^{n}X_i^2\\\theta_2^2&=\frac{1}{n}\sum_{i = 1}^{n}X_i^2-\bar{X}^2=\frac{1}{n}\sum_{i = 1}^{n}(X_i - \bar{X})^2\end{align*}$
  因为$\theta_2>0$，所以$\hat{\theta}_2 = S=\sqrt{\frac{1}{n}\sum_{i = 1}^{n}(X_i - \bar{X})^2}$，则$\hat{\theta}_1=\bar{X}-\hat{\theta}_2=\bar{X}-S$。

(2) 求 $\theta_1$, $\theta_2$ 的极大似然估计量

• 步骤一：构造似然函数
  似然函数$L(\theta_1,\theta_2)=\prod_{i = 1}^{n}f(X_i;\theta_1,\theta_2)=\frac{1}{\theta_2^n}e^{-\frac{1}{\theta_2}\sum_{i = 1}^{n}(X_i - \theta_1)}$，其中$\theta_1<X_i$，$i = 1,2,\cdots,n$。
• 步骤二：分析似然函数
  • 对于$\theta_1$，因为$L(\theta_1,\theta_2)$是关于$\theta_1$的单调递增函数，且$\theta_1<X_i$，$i = 1,2,\cdots,n$，所以要使$L(\theta_1,\theta_2)$最大，$\theta_1$应取满足条件的最大值，即$\hat{\theta}_1=\min(X_1,X_2,\cdots,X_n)$。
  • 对于$\theta_2$，取对数似然函数$\ln L(\theta_1,\theta_2)=-n\ln\theta_2-\frac{1}{\theta_2}\sum_{i = 1}^{n}(X_i - \theta_1)$，对$\theta_2$求导并令其为$0$：
    $\begin{align*}\frac{\partial\ln L(\theta_1,\theta_2)}{\partial\theta_2}&=-\frac{n}{\theta_2}+\frac{1}{\theta_2^2}\sum_{i = 1}^{n}(X_i - \theta_1)=0\\\frac{1}{\theta_2^2}\sum_{i = 1}^{n}(X_i - \theta_1)&=\frac{n}{\theta_2}\\\theta_2&=\frac{1}{n}\sum_{i = 1}^{n}(X_i - \theta_1)\end{align*}$
    将$\hat{\theta}_1=\min(X_1,X_2,\cdots,X_n)$代入上式，可得$\hat{\theta}_2=\frac{1}{n}\sum_{i = 1}^{n}(X_i - \hat{\theta}_1)$。