问答题
X,Y,Z为3个随机变量,证明以下不等式成立并指出等号成立的条件。
【正确答案】H(XY|Z)=H(X|Z)+H(Y|XZ)≥H(X|Z)
当H(Y|XZ)=0,即Y是X和Z的函数时,原式等号成立。
【答案解析】
【正确答案】I(XY;Z)=I(X;Z)+I(Y;Z|X)≥I(X;Z)
当I(Y;Z|X)=0,即在给定X的情况下Y和Z统计独立时,原式等号成立。
【答案解析】
【正确答案】H(XYZ)-H(XY)=H(Z|XY)=H(Z|X)-I(Z;Y|X)
≤H(Z|X)
=H(XZ)-H(X)
当I(Z;Y|X)=0,即在给定X的情况下Y和Z统计独立时,原式等号成立。
【答案解析】
【正确答案】根据互信息的链规则:
I(X;Z|Y)+I(Z;Y)=I(XY;Z)=I(Z;Y|X)+I(X;Z)
因此
I(X;Z|Y)=I(Z;Y|X)-I(Z;Y)+I(X;Z)
即要证明的不等式其实是一个等式。
【答案解析】