题目
在二分类任务中,若当前样本集合的正类和负类 的数量刚好各一半,此时信息熵为多少?(保留 一位小数)A. 1:1.0B. 1:1.2C. 1:1.5
在二分类任务中,若当前样本集合的正类和负类 的数量刚好各一半,此时信息熵为多少?(保留 一位小数)
A. 1:1.0
B. 1:1.2
C. 1:1.5
题目解答
答案
A. 1:1.0
解析
步骤 1:定义信息熵
信息熵是信息论中的一个概念,用于度量信息的不确定性。在二分类任务中,信息熵的计算公式为:\(H(X) = -\sum_{i=1}^{n} p(x_i) \log_2 p(x_i)\),其中 \(p(x_i)\) 是事件 \(x_i\) 发生的概率,\(n\) 是事件的总数。
步骤 2:计算正类和负类的概率
由于正类和负类的数量各占一半,因此正类的概率 \(p(正类) = 0.5\),负类的概率 \(p(负类) = 0.5\)。
步骤 3:计算信息熵
将正类和负类的概率代入信息熵的计算公式中,得到:\(H(X) = -[0.5 \log_2 0.5 + 0.5 \log_2 0.5]\)。计算得到 \(H(X) = -[0.5 \times (-1) + 0.5 \times (-1)] = 1\)。
信息熵是信息论中的一个概念,用于度量信息的不确定性。在二分类任务中,信息熵的计算公式为:\(H(X) = -\sum_{i=1}^{n} p(x_i) \log_2 p(x_i)\),其中 \(p(x_i)\) 是事件 \(x_i\) 发生的概率,\(n\) 是事件的总数。
步骤 2:计算正类和负类的概率
由于正类和负类的数量各占一半,因此正类的概率 \(p(正类) = 0.5\),负类的概率 \(p(负类) = 0.5\)。
步骤 3:计算信息熵
将正类和负类的概率代入信息熵的计算公式中,得到:\(H(X) = -[0.5 \log_2 0.5 + 0.5 \log_2 0.5]\)。计算得到 \(H(X) = -[0.5 \times (-1) + 0.5 \times (-1)] = 1\)。