题目
关于 GBDT 算法,下列说法正确的是( )?A. 增加用于分割的最小样本数量,有助于避免过拟合B. 增加用于分割的最小样本数量,容易造成过拟合C. 减小每个基本树的样本比例,有助于减小方差D. 减小每个基本树的样本比例,有助于减小偏差
关于 GBDT 算法,下列说法正确的是( )?
A. 增加用于分割的最小样本数量,有助于避免过拟合
B. 增加用于分割的最小样本数量,容易造成过拟合
C. 减小每个基本树的样本比例,有助于减小方差
D. 减小每个基本树的样本比例,有助于减小偏差
题目解答
答案
AC
A. 增加用于分割的最小样本数量,有助于避免过拟合
C. 减小每个基本树的样本比例,有助于减小方差
A. 增加用于分割的最小样本数量,有助于避免过拟合
C. 减小每个基本树的样本比例,有助于减小方差
解析
GBDT算法的核心在于通过集成学习(boosting框架)组合多棵决策树,逐步优化模型预测性能。本题考查关键参数对模型过拟合、偏差与方差的影响:
- 最小样本分割数(min_samples_split):增加该参数会限制树的分裂深度,减少模型复杂度,从而降低过拟合风险。
- 子样本比例(subsample):减小比例使每棵树基于不同子集训练,增加模型多样性,降低方差,但对偏差影响较小。
选项A
关键点:增加最小样本分割数会限制树的分裂,使模型更“保守”,避免过度拟合训练数据的噪声,因此有助于避免过拟合。
选项B
错误原因:与A相反,增加最小样本分割数会降低过拟合风险,而非“容易过拟合”。
选项C
关键点:减小子样本比例使每棵树训练数据更分散,减少树之间的相关性,从而降低集成模型的方差。
选项D
错误原因:偏差主要由单个树的复杂度决定,子样本比例调整对偏差影响有限,因此“减小样本比例有助于减小偏差”不成立。