什么是事物的不确定性?不确定性如何与信息的测度发生关系?

本题主要考查对对事物不确定性的概念理解以及其与信息测度关系的认知。解题思路是先明确事物不确定性的定义，再阐述其与信息测度的关联。

• 事物不确定性的不确定性：
  • 主、客观事物的运动状态或存在状态具有千变万化、不规则、随机的特点。
  • 基于这种特性，在通信之前，收信者对于事物的真实情况存在“疑义”和“不知”的状态，这种状态就被定义为事物的不确定性。
• 不确定性与信息的测度关系：
  • 信息的作用就是消除不确定性。当我们可以通过信息的获取来减少对事物的未知程度。
  • 信息的测度通常与不确定性的减少程度相关。例如，在信息论中，熵是用来度量不确定性的一个重要概念。设一个离散随机变量 $X$ 有 $n$ 个可能取值 $x_1,x_2,\cdots,x_n$，其对应的概率分别为 $p_1,p_2,\cdots,p_n$，则该随机变量的熵 $H(X)$ 定义为：
    $H(X)=-\sum_{i = 1}^{n}p_i\log_2p_i$
  • 当我们获得了关于 $X$ 的信息后，不确定性就会减少，不能直接体现出不确定性与信息测度的关系。而信息的获取会使熵值减小，减小的熵值就可以看作是信息的信息的量度。也就是说，信息的多少可以用不确定性减少的程度来衡量。