题目
损失函数用于衡量模型预测值与真实值的差异,线性回归中常用的损失函数是______,二分类任务中常用的损失函数是______;模型评估时,分类任务的常用指标包括准确率、______和F1-score
损失函数用于衡量模型预测值与真实值的差异,线性回归中常用的损失函数是______,二分类任务中常用的损失函数是______;模型评估时,分类任务的常用指标包括准确率、______和F1-score
题目解答
答案
知识总结
- 线性回归的损失函数:均方误差(MSE),即预测值与真实值差的平方的平均值,用于最小化模型预测与实际值的偏离。
- 二分类的损失函数:交叉熵损失(Cross-Entropy Loss),衡量概率分布间的差异,常用于逻辑回归等模型。
- 分类任务的评估指标:
- 准确率(Accuracy):所有预测正确的样本占总样本的比例。
- 召回率(Recall):真实为正类的样本中被正确预测为正类的比例,关注“查全率”。
- F1-Score:精确率和召回率的调和平均,平衡两者的表现。
答案:均方误差(MSE); 交叉熵损失; 召回率
解析
本题主要考查线性回归和二分类任务中常用的损失函数,以及分类任务的常用评估指标。解题思路如下:
- 线性回归常用损失函数:
- 线性回归的目标是找到一条直线或超平面,使得模型的预测值尽可能接近真实值。均方误差(Mean Squared Error,MSE)是线性回归中常用的损失函数,它的计算公式为:
$MSE = \frac{1}{n} \sum_{i = 1}^{n} (y_i - \hat{y}_i)^2$ - 其中,$n$ 是样本数量,$y_i$ 是第 $i$ 个样本的真实值,$\hat{y}_i$ 是第 $i$ 个样本的预测值。均方误差通过计算预测值与真实值差的平方的平均值,来衡量模型预测与实际值的偏离程度,我们的目标是最小化这个误差。
- 线性回归的目标是找到一条直线或超平面,使得模型的预测值尽可能接近真实值。均方误差(Mean Squared Error,MSE)是线性回归中常用的损失函数,它的计算公式为:
- 二分类任务常用损失函数:
- 二分类任务的目标是将样本分为两个类别,通常用概率来表示样本属于某个类别的可能性。交叉熵损失(Cross - Entropy Loss)是二分类任务中常用的损失函数,对于二分类问题,其计算公式为:
$L = -[y \log(\hat{y})+(1 - y)\log(1 - \hat{y})]$ - 其中,$y$ 是样本的真实标签(0 或 1),$\hat{y}$ 是模型预测样本属于正类的概率。交叉熵损失衡量了模型预测的概率分布与真实标签的概率分布之间的差异,我们的目标是最小化这个差异。
- 二分类任务的目标是将样本分为两个类别,通常用概率来表示样本属于某个类别的可能性。交叉熵损失(Cross - Entropy Loss)是二分类任务中常用的损失函数,对于二分类问题,其计算公式为:
- 分类任务常用评估指标:
- 准确率(Accuracy)是所有预测正确的样本占总样本的比例,计算公式为:
$Accuracy=\frac{TP + TN}{TP + TN+FP + FN}$ - 其中,$TP$ 是真正例(真实为正类且预测为正类的样本数量),$TN$ 是真负例(真实为负类且预测为负类的样本数量),$FP$ 是假正例(真实为负类但预测为正类的样本数量),$FN$ 是假负例(真实为正类但预测为负类的样本数量)。
- 召回率(Recall)是真实为正类的样本中被正确预测为正类的比例,也称为查全率,计算公式为:
$Recall=\frac{TP}{TP + FN}$ - F1 - Score 是精确率(Precision)和召回率的调和平均,精确率的计算公式为 $\text{Precision}=\frac{TP}{TP + FP}$,F1 - Score 的计算公式为:
$F1 - Score=\frac{2\times\text{Precision}\times\text{Recall}}{\text{Precision}+\text{Recall}}$ - F1 - Score 能够平衡精确率和召回率的表现。
- 准确率(Accuracy)是所有预测正确的样本占总样本的比例,计算公式为: