某信号源符号集由字母A.B.C.D组成,若传输每一个字母用二进制[1]码元[2]编码,“00”代替A.“01”代替B,“10”代替C,“11”代替D,每个二进制码元宽度为5ms。(1)不同的字母是等可能出现时,试计算传输的平均信息速率:(2)若每个字母出现的可能性分别为_(A)=dfrac (1)(5) _(B)=dfrac (1)(4) ._(c)=dfrac (1)(4), _(D)=dfrac (3)(10)是计算传输的平均信息速率。
(1)不同的字母是等可能出现时,试计算传输的平均信息速率:
(2)若每个字母出现的可能性分别为

是计算传输的平均信息速率。
题目解答
答案

解析
考查要点:本题主要考查平均信息速率的计算,涉及信息论中的香农公式和符号传输速率的综合应用。
解题核心思路:
- 平均信息量(H)的计算:根据各符号出现的概率,利用公式 $H = -\sum p_i \log_2 p_i$ 求解。
- 符号传输速率的计算:根据码元宽度和符号编码长度确定符号传输速率。
- 平均信息速率:将平均信息量与符号传输速率相乘。
破题关键点:
- 区分等概率与非等概率情况:等概率时,各符号概率相同,计算简化;非等概率时需逐项代入公式。
- 码元与符号的关系:每个符号由多个码元组成,需正确计算符号传输时间。
第(1)题
条件:四个符号等概率出现,即 $p_A = p_B = p_C = p_D = \dfrac{1}{4}$。
计算平均信息量
$H = -\sum_{i=1}^4 p_i \log_2 p_i = -4 \cdot \dfrac{1}{4} \log_2 \dfrac{1}{4} = 2 \, \text{b/符号}$
计算符号传输速率
每个符号由2个码元组成,每个码元宽度为 $5 \, \text{ms}$,因此符号传输时间为:
$2 \cdot 5 \, \text{ms} = 10 \, \text{ms} = 0.01 \, \text{s}$
符号传输速率为:
$\dfrac{1}{0.01} = 100 \, \text{符号/秒}$
计算平均信息速率
$\text{信息速率} = H \cdot \text{符号速率} = 2 \cdot 100 = 200 \, \text{bps}$
第(2)题
条件:符号概率分别为 $p_A = \dfrac{1}{5}$,$p_B = \dfrac{1}{4}$,$p_C = \dfrac{1}{4}$,$p_D = \dfrac{3}{10}$。
计算平均信息量
$\begin{aligned}H &= -\left( \dfrac{1}{5} \log_2 \dfrac{1}{5} + \dfrac{1}{4} \log_2 \dfrac{1}{4} + \dfrac{1}{4} \log_2 \dfrac{1}{4} + \dfrac{3}{10} \log_2 \dfrac{3}{10} \right) \\&\approx -\left( \dfrac{1}{5} \cdot (-2.3219) + \dfrac{1}{4} \cdot (-2) + \dfrac{1}{4} \cdot (-2) + \dfrac{3}{10} \cdot (-1.737) \right) \\&\approx 1.985 \, \text{b/符号}\end{aligned}$
计算平均信息速率
符号传输速率仍为 $100 \, \text{符号/秒}$,因此:
$\text{信息速率} = 1.985 \cdot 100 \approx 198.5 \, \text{bps}$