题目
记样本多元回归模型为Y_i=beta_0+beta_1X_(i1)+...+beta_2X_(ik)+e_i或Y=Xbeta+e,试证明OLS估计具有如下数值性质:(1) 估计的Y的均值等于实测的Y的均值:bar(hat{Y)}=bar(Y)(2) 残差e和X不相关:X'e=0(3) 残差和为零,从而残差的均值为零:sum e_i=0,bar(e)=0(4) 残差e和估计的Y不相关:sum e_ihat(Y)_i=hat(Y)'e=0(5) 可决系数R^2为hat(Y)与Y的线性相关系数的平方r_(hat{Y)Y}^2
记样本多元回归模型为$Y_i=\beta_0+\beta_1X_{i1}+\cdots+\beta_2X_{ik}+e_i$或$Y=X\beta+e$,试证明OLS估计具有如下数值性质:
(1) 估计的$Y$的均值等于实测的$Y$的均值:$\bar{\hat{Y}}=\bar{Y}$
(2) 残差$e$和$X$不相关:$X'e=0$
(3) 残差和为零,从而残差的均值为零:$\sum e_i=0,\bar{e}=0$
(4) 残差$e$和估计的$Y$不相关:$\sum e_i\hat{Y}_i=\hat{Y}'e=0$
(5) 可决系数$R^2$为$\hat{Y}$与$Y$的线性相关系数的平方$r_{\hat{Y}Y}^2$
题目解答
答案
1. 根据 $ \iota'e = 0 $，可得 $ \iota'Y = \iota'\hat{Y} $，故 $ \bar{Y} = \bar{\hat{Y}} $。
2. 由 OLS 正规方程 $ X'(Y - X\hat{\beta}) = 0 $，直接得 $ X'e = 0 $。
3. 若模型含截距项，则 $ \iota'e = 0 $，即 $ \sum e_i = 0 $，故 $ \bar{e} = 0 $。
4. $ \hat{Y}'e = (X\hat{\beta})'e = \hat{\beta}'X'e = 0 $，故 $ \sum e_i \hat{Y}_i = 0 $。
5. $ r_{\hat{Y}Y} = \sqrt{\frac{\sum (\hat{Y}_i - \bar{Y})^2}{\sum (Y_i - \bar{Y})^2}} = \sqrt{R^2} $，故 $ R^2 = r_{\hat{Y}Y}^2 $。
综上，所有性质均得证。