第9章高斯信道ppt课件.ppt
一、时不变连续信道及信道容量,第9章 高斯信道,1、时不变连续信道,定义,对应于时不变连续信源和时不变连续信宿的信道为时不变连续信道。,表示,信源符号X取值于集合a , b,信宿符号Y取值于集合c , d,(y/x)为信道转移概率密度函数,2、时不变连续信道的噪声熵,噪声熵,噪声微分熵,表示,3、平均互信息,虽然微分熵不能作为信息度量,但平均互信息是熵差,具有信息度量的意义。, 非负性,4、平均互信息的主要性质, 对称性, 严格凸函数性,5、信道容量与最大信息传输速率,信道固定时,平均互信息量是信源概率密度函数p(x)的严格上凸函数,总能找到一种信源概率密度函数p(x) ,使通过信道的平均互信息量达到最大。,信道固定时,I(X;Y)是信源概率密度函数p(x)的严格上凸函数信源固定时,I(X;Y)是信道转移概率密度函数p(y/x)的严格下凸函数,定义,信道转移概率密度函数p(y/x)不变时平均互信息量的最大值为该信道的信道容量,用C表示。,表示,连续信道一般考虑信道在单位时间内平均互信息量的最大值。,其中T为平均传输一条消息所需的时间,最大信息传输速率的单位为bit/sec(bps),表示,定义,单位时间的信道容量为最大信息传输速率,用Ct表示。,1、高斯信道,信道中噪声对信号的作用表现为线性叠加的称为加性噪声,相应的信道为加性信道。,其中,X的概率密度函数为p(x),Y的概率密度函数为p(y),噪声N的概率密度函数为p(n)。,二、高斯信道及信道容量,X和N相互独立时,加性信道的转移概率密度函数p(y/x)=p(n),设坐标变换,相应的雅可比行列式,2、高斯信道的信道容量,如果噪声N是均值m=0、方差2=PN的(白色)高斯加性噪声WGAN,信道为高斯加性信道,简称高斯信道。,X和N相互独立时,信源X取均值m=0、方差的高斯分布,信宿Y也满足高斯分布,其均值m=0、方差为,根据平均功率受限下的最大微分熵定理,当信宿Y取均值m=0、方差 的高斯分布时具有最大微分熵,高斯信道的信道容量,3、高斯信道的最大信息传输速率,当所传输信号的有效带宽为B时,根据采样定理,只要采样频率取为2B,符号序列即可保留时间连续消息的全部信息,平均不失真传输一条消息(符号)所需时间为T=1/2B,相应最大信息传输速率,该式称为香农公式,香农公式的意义:,最大信息传输速率与所传输信号的有效带宽成正比最大信息传输速率与信噪功率比基本呈对数关系,且信噪功率比小于1时最大信息传输速率仍大于0,最大信息传输速率一定时,增大所传输信号的有效带宽,可以降低对信噪功率比的要求,反之亦然当所传输信号的有效带宽趋于无穷时,最大信息传输速率趋于有限值,已知高斯信道所传输信号的带宽B=3kHz,最大信息传输速率Ct=1.5104bps,求信噪功率比;如果将信噪功率比降低到-3dB,求保持同样最大信息传输速率所需的带宽。,例1,