解释信息传输率、信道容量、最佳输入分布的概念,说明平均互信息与信源的概率分布、信道的传递概率间分别是什么关系?
信源X的概率分布为P(X)={1/2,1/3,1/6},信源Y的概率分布为P(Y)={1/3,1/2,1/6},则信源X和Y的熵相等。
点击查看答案
设有一个离散无记忆平稳信道,其信道容量为C,只要待传送的信息传输率R()C(大于、小于或者等于),则存在一种编码,当输入序列长度n足够大,使译码错误概率任意小。
平均互信息量I(X;Y)与信源熵和条件熵之间的关系是()。
对于具有归并性能的无燥信道,当信源等概率分布时(p(xi)=1/n),达到信道容量。
平均互信息量I(X;Y)对于信源概率分布p(xi)和条件概率分布p(yj/xi)都具有凸函数性。
由于项目评价中效益指标与输入变量(或风险因素)间的数量关系比较复杂,概率分析的理论计算法一般只适用于服从离散分布的输入与输出变量。
在五信息损失的情况下,数据压缩的另一基本途径是改变连续无记忆信源的概率分布,使其尽可能地达到等概率分布的。