题目
在深度学习中,什么是“批次归一化”(Batch Normalization)的主要作用?A. 减少训练时间B. 加速模型训练并缓解梯度消失/爆炸问题C. 提高模型的准确率D. 降低模型的复杂度
在深度学习中,什么是“批次归一化”(Batch Normalization)的主要作用?
A. 减少训练时间
B. 加速模型训练并缓解梯度消失/爆炸问题
C. 提高模型的准确率
D. 降低模型的复杂度
题目解答
答案
B. 加速模型训练并缓解梯度消失/爆炸问题
解析
批次归一化(Batch Normalization)是深度学习中常用的技术,其核心作用在于加速模型训练和缓解梯度消失/爆炸问题。通过在训练过程中对每一批数据进行归一化处理,使得网络层的输入分布更稳定,从而减少对初始权重的敏感性,加快收敛速度。同时,稳定激活值的分布能有效缓解反向传播中的梯度不稳定问题,提升训练过程的稳定性。
选项分析
选项A:减少训练时间
批次归一化可能间接加快训练(如允许使用更大学习率),但减少训练时间并非其直接目标,而是通过其他机制间接实现。
选项B:加速模型训练并缓解梯度消失/爆炸问题
- 加速训练:归一化使网络对学习率调整更不敏感,允许使用更高学习率,从而加快收敛。
- 缓解梯度问题:稳定激活值分布,减少梯度在反向传播中的不稳定性,是批次归一化的核心作用。
选项C:提高模型的准确率
批次归一化可能通过正则化效果(如输入扰动)间接提升泛化能力,但提高准确率并非其主要目的。
选项D:降低模型的复杂度
批次归一化不直接影响模型复杂度(如参数数量或网络结构),因此与选项无关。