1 z x y, 因 此 H ( X | YZ ) 0 , 而⏺I ( X ;YZ ) H ( X ) H ( X | YZ ) ,因此 I ( X ;YZ ) H ( X ) 。I (Y ; Z | X ) H (Y | X ) H (Y | XZ ) H (Y | X ) H (Y )I ( X ;Y | Z ) H ( X | Z ) H ( X | YZ ) H ( X | Z ) I (Y ; X | Z ) H (Y | Z ) H (Y | XZ ) H (Y | Z )[3.7] 设 X , Y 是两个相互统计独立的二元随机变量,其取“0”或“1”的概率为等概率分布。定义另一个二元随机变量 Z ,而且 Z XY (一般乘积),试计算:(1) H ( X ) , H (Y ) , H (Z ) ;(2) H ( XY ) , H ( XZ ) , H (YZ ) , H ( XYZ ) ;(3) H ( X | Y ) , H ( X | Z ) , H (Y | Z ) , H (Z | X ) , H (Z | Y ) ;⏺(4) H ( X | YZ ) , H (Y | XZ ) , H (Z | XY ) ;(5) I ( X ;Y ) , I ( X ; Z ) , I (Y ; Z ) ;(6) I ( X ;Y | Z ) , I (Y ; X | Z ) , I (Z ; X | Y ) , I (Z ;Y | X ) ;(7) I ( XY ; Z ) , I ( X ;YZ ) , I (Y ; XZ ) ;
1 z x y
, 因 此 H ( X | YZ ) 0 , 而
⏺
I ( X ;YZ ) H ( X ) H ( X | YZ ) ,因此 I ( X ;YZ ) H ( X ) 。
I (Y ; Z | X ) H (Y | X ) H (Y | XZ ) H (Y | X ) H (Y )
I ( X ;Y | Z ) H ( X | Z ) H ( X | YZ )
H ( X | Z )
I (Y ; X | Z )
H (Y | Z ) H (Y | XZ )
H (Y | Z )
[3.7] 设 X , Y 是两个相互统计独立的二元随机变量,其取“0”或“1”的概率为
等概率分布。定义另一个二元随机变量 Z ,而且 Z XY (一般乘积),试计算:
(1) H ( X ) , H (Y ) , H (Z ) ;
(2) H ( XY ) , H ( XZ ) , H (YZ ) , H ( XYZ ) ;
(3) H ( X | Y ) , H ( X | Z ) , H (Y | Z ) , H (Z | X ) , H (Z | Y ) ;
⏺
(4) H ( X | YZ ) , H (Y | XZ ) , H (Z | XY ) ;
(5) I ( X ;Y ) , I ( X ; Z ) , I (Y ; Z ) ;
(6) I ( X ;Y | Z ) , I (Y ; X | Z ) , I (Z ; X | Y ) , I (Z ;Y | X ) ;
(7) I ( XY ; Z ) , I ( X ;YZ ) , I (Y ; XZ ) ;
题目解答
答案
解:
由于 X 和 Y 是相互独立的等概率分布的随机变量,因此有
H ( X ) H (Y ) 1 比特/符号
⏺
P