题目
3.[判断题]传统大语言模型存在幻觉问题,即有时会生成看似合理但实际错误的信息,如编造不存在的科学研究或虚构历史事件细节,这是因为模型本质上是在做概率预测,而不是真正的知识检索。A. 对B. 错
3.[判断题]传统大语言模型存在幻觉问题,即有时会生成看似合理但实际错误的信息,如编造不存在的科学研究或虚构历史事件细节,这是因为模型本质上是在做概率预测,而不是真正的知识检索。
A. 对
B. 错
题目解答
答案
A. 对
解析
考查要点:本题主要考查对传统大语言模型工作原理的理解,特别是其“幻觉问题”的成因。
核心思路:传统大语言模型通过概率预测生成文本,而非基于真实的知识检索。这种机制导致模型可能生成看似合理但错误的信息(如虚构事件),即“幻觉问题”。
关键点:
- 概率预测:模型根据输入上下文预测下一个词的概率,而非验证信息的真实性。
- 缺乏知识检索:模型不存储外部知识库,无法验证生成内容是否符合事实。
传统大语言模型(如GPT系列)的核心是基于概率的语言模型。在训练过程中,模型通过大量文本数据学习词语间的统计规律,生成文本时,根据输入内容预测最可能的后续词。这种机制使模型能生成连贯的文本,但存在以下问题:
- 无法验证事实:模型无法判断生成内容是否真实,仅保证语义连贯。
- 编造信息:若输入包含模糊或错误信息,模型可能进一步“合理化”并生成虚假细节。
例如,当用户询问“某科学家的未发表研究”时,模型可能编造具体细节,因为其不检索真实知识库,仅根据已有模式生成回答。因此,题目描述正确。