题目
关于大语言模型的成长阶段,以下哪些选项描述了预训练、微调和强化学习三个阶段的特点?A. 微调阶段主要依赖于小规模的标注数据,以特定任务为目标对模型进行调整。B. 预训练阶段主要关注单一任务的学习,以提高模型在特定领域的表现。C. 强化学习阶段的主要目标是通过与环境的互动不断优化模型的决策能力。D. 预训练阶段的目标是通过大量无标签数据学习语言的基本结构和知识。E. 微调阶段和强化学习阶段没有明显的区别,都是通过调整超参数来提高模型性能。
关于大语言模型的成长阶段,以下哪些选项描述了预训练、微调和强化学习三个阶段的特点?
A. 微调阶段主要依赖于小规模的标注数据,以特定任务为目标对模型进行调整。
B. 预训练阶段主要关注单一任务的学习,以提高模型在特定领域的表现。
C. 强化学习阶段的主要目标是通过与环境的互动不断优化模型的决策能力。
D. 预训练阶段的目标是通过大量无标签数据学习语言的基本结构和知识。
E. 微调阶段和强化学习阶段没有明显的区别,都是通过调整超参数来提高模型性能。
题目解答
答案
ACD
A. 微调阶段主要依赖于小规模的标注数据,以特定任务为目标对模型进行调整。
C. 强化学习阶段的主要目标是通过与环境的互动不断优化模型的决策能力。
D. 预训练阶段的目标是通过大量无标签数据学习语言的基本结构和知识。
A. 微调阶段主要依赖于小规模的标注数据,以特定任务为目标对模型进行调整。
C. 强化学习阶段的主要目标是通过与环境的互动不断优化模型的决策能力。
D. 预训练阶段的目标是通过大量无标签数据学习语言的基本结构和知识。
解析
本题考查对大语言模型(如GPT系列)预训练、微调、强化学习三个核心训练阶段特点的理解。需要明确:
- 预训练:基于大量无标签数据学习语言基础规律;
- 微调:利用小规模标注数据针对特定任务调整;
- 强化学习:通过与环境互动优化决策能力。
选项分析
选项A
正确。微调阶段需用小规模标注数据,针对特定任务(如文本分类、问答)调整模型参数。
选项B
错误。预训练阶段关注通用语言能力,而非单一任务;单一任务是微调阶段的目标。
选项C
正确。强化学习通过奖励机制(如人工反馈)优化模型输出质量(如连贯性、相关性),属于决策优化过程。
选项D
正确。预训练利用无标签文本数据(如互联网文本)学习语言结构、共现关系等基础知识。
选项E
错误。微调和强化学习本质不同:微调依赖标注数据调整,强化学习依赖互动与奖励信号。