题目
推理时间扩展(Inference-Time Scaling)是提升大语言模型输出质量的一种策略。以下哪种方法不属于典型的推理时间扩展技术?()A. 思维链(Chain-of-Thought)提示,生成更长的包含推理步骤的文本B. 束搜索(Beam Search),保留多个候选序列进行扩展C. 多数投票法(Majority Voting),即采样多个输出并选择最常见的结果D. 使用更大的批次大小(Batch Size)进行推理
推理时间扩展(Inference-Time Scaling)是提升大语言模型输出质量的一种策略。以下哪种方法不属于典型的推理时间扩展技术?()
A. 思维链(Chain-of-Thought)提示,生成更长的包含推理步骤的文本
B. 束搜索(Beam Search),保留多个候选序列进行扩展
C. 多数投票法(Majority Voting),即采样多个输出并选择最常见的结果
D. 使用更大的批次大小(Batch Size)进行推理
题目解答
答案
D. 使用更大的批次大小(Batch Size)进行推理