问答题
二次扩展信源的熵为H(X
2
)，而一阶马尔可夫信源的熵为H(X
2
|X
1
)。试比较两者的大小，并说明原因。
【正确答案】
H(X
2
)=2H(X)＞H(X)＞H(X
2
|X
1
)
二次扩展信源的熵是一个联合熵，其值应该大于单符号信源熵，而马尔可夫信源的熵是一个条件熵，其值小于单符号信源熵。马尔可夫信源符号间的依赖关系提供了额外的信息量，从而减小了信源的不确定性。
【答案解析】
提交答案
关闭