题目
在逻辑回归中,同时加入L1和L2范数,会产生什么效果A. 可以做特征选择,并在一定程度上防止过拟合B. 能解决维度灾难问题C. 能加快计算速度D. 可以获得更准确的结果
在逻辑回归中,同时加入L1和L2范数,会产生什么效果
A. 可以做特征选择,并在一定程度上防止过拟合
B. 能解决维度灾难问题
C. 能加快计算速度
D. 可以获得更准确的结果
题目解答
答案
A. 可以做特征选择,并在一定程度上防止过拟合
解析
考查要点:本题主要考查逻辑回归中正则化方法的综合应用效果,特别是L1和L2范数结合时的作用。
解题核心思路:
- L1范数具有特征选择能力,能将不重要的特征系数压缩为0;
- L2范数能防止过拟合,通过限制权重大小提升模型泛化能力;
- 同时使用两者(即弹性网络正则化)可结合两者的优点,在保持特征选择的同时进一步优化模型稳定性。
破题关键点:
明确L1和L2的独立作用,理解两者的叠加效果,排除干扰选项(如“解决维度灾难”或“加快计算”并非正则化的直接作用)。
逻辑回归中加入正则化项的目的是为了平衡模型复杂度和拟合效果。
- L1范数的作用:
- 通过稀疏性压缩不重要特征的系数为0,实现自动特征选择。
- L2范数的作用:
- 防止权重过大,抑制过拟合,使模型对训练数据的微小变化不敏感。
- 同时使用L1和L2:
- 保留L1的特征选择能力,同时借助L2的平滑作用,避免模型因L1的稀疏性导致的不稳定(如特征相关性问题)。
- 最终效果是既能选择关键特征,又能提升模型泛化能力。
选项分析:
- A正确,符合两者的叠加效果;
- B错误,维度灾难需通过降维或数据处理解决;
- C错误,正则化通常增加计算复杂度;
- D错误,正则化的目标是防止过拟合而非单纯提高准确率。