题目
GPT系列模型的核心技术是()A. 贝叶斯网络B. Transformer架构C. 卷积神经网络D. 生成式对抗网络
GPT系列模型的核心技术是()
A. 贝叶斯网络
B. Transformer架构
C. 卷积神经网络
D. 生成式对抗网络
题目解答
答案
B. Transformer架构
解析
本题考查GPT系列模型的核心技术。关键在于理解各选项对应的技术特点及应用场景:
- 贝叶斯网络主要用于概率推理,与生成式语言模型关联较小;
- Transformer架构通过自注意力机制高效处理序列数据,是GPT模型的核心;
- 卷积神经网络擅长图像处理,与语言生成关联度低;
- 生成式对抗网络通过对抗训练生成数据,但GPT采用自回归生成方式。
破题关键:明确GPT模型的全称(Generative Pre-trained Transformer)中“Transformer”即为其核心技术。
选项分析
A. 贝叶斯网络
- 基于概率图模型,用于不确定性推理(如分类、诊断),与语言生成模型的核心需求(长距离依赖、高效并行计算)不匹配。
B. Transformer架构
- 自注意力机制使模型能捕捉长距离语义关系,并行计算能力强,适合处理长文本序列。
- GPT系列(如GPT-3)完全基于Transformer,通过预训练实现强大的语言生成能力。
C. 卷积神经网络
- 主要用于图像特征提取,对一维序列(如文本)的全局依赖建模能力有限,未被GPT采用。
D. 生成式对抗网络
- 通过生成器与判别器对抗训练,但GPT采用自回归生成方式,核心架构为Transformer而非GAN。