dd概率论的基本概念.ppt

《dd概率论的基本概念.ppt》由会员分享，可在线阅读，更多相关《dd概率论的基本概念.ppt（76页珍藏版）》请在三一办公上搜索。

1、天津工业大学 信息学院 通信原理,3.2 概率论的基本概念3.3 随机过程的基本概念3.4 平稳随机过程3.5 平稳随机过程的相关函数与功率谱密度3.6 高斯过程3.7 窄带随机过程3.8 正弦波加窄带高斯噪声3.9 随机过程通过线性系统,第3章 随机信号分析,天津工业大学 信息学院 通信原理,3.2 概率论的基本概念,1.随机变量对于一个样本空间S=e，若每一个e S，都有一个实数(t)与之对应，则这个定义在S上的单值实值函数称为随机变量。,天津工业大学 信息学院 通信原理,3.2 概率论的基本概念,2.随机变量的统计特性（1）离散随机变量设xi为离散型随机变量的所有可能值；而P(xi)是取

2、xi的概率，离散型随机变量的分布函数为F(x)=Px=p=xi=p(xi)xi x xi x（2）模拟随机变量,天津工业大学 信息学院 通信原理,3.2 概率论的基本概念,3.随机变量的数字特征（1）均值（数学期望）E（2）方差D（3）协方差（4）相关函数,天津工业大学 信息学院 通信原理,3.3 随机过程的基本概念,确定性信号是时间的确定函数，随机信号是时间的不确定函数。通信中干扰是随机信号，通信中的有用信号也是随机信号。描述随机信号的数学工具是随机过程，基本的思想是把概率论中的随机变量的概念推广到时间函数。,天津工业大学 信息学院 通信原理,设随机试验E的可能结果为(t)，试验的样本空间S

3、为x1(t),x2(t)，,xn(t),，xi(t)是第i次试验的样本函数或实现，每次试验得到一个样本函数，所有可能出现的结果的总体就构成一随机过程，记作(t)。,1.随机过程的数学定义,天津工业大学 信息学院 通信原理,1.随机过程的数学定义,随机过程举例：,天津工业大学 信息学院 通信原理,1.随机过程的数学定义,随机过程的基本特征:随机过程具有随机变量和时间函数的特点：第一，它是一个时间函数；第二，在固定的某一观察时刻t1，(t1)是随机变量。,天津工业大学 信息学院 通信原理,2.随机过程的统计描述,设(t)表示随机过程，在任意给定的时刻t1T，(t1)是一个一维随机变量。一维分布函数

4、：随机变量(t1)小于或等于某一数值x1的概率，即 F1(x1,t1)=P(t1)x1 一维概率密度函数,天津工业大学 信息学院 通信原理,2.随机过程的统计描述,n维分布函数：,n维概率密度函数,天津工业大学 信息学院 通信原理,3.随机过程的一维数字特征,数学期望,方差,天津工业大学 信息学院 通信原理,4.随机过程的二维数字特征,协方差函数,自相关函数,天津工业大学 信息学院 通信原理,4.随机过程的二维数字特征,由上面两式可得,和,之间的关系,天津工业大学 信息学院 通信原理,3.4 平稳随机过程,1.狭义平稳随机过程平稳随机过程是指它的任何n维分布函数或概率密度函数与时间起点无关。即

5、对于任意的n和，随机过程(t)的n维概率密度函数满足,则称(t)是平稳随机过程（狭义）。,天津工业大学 信息学院 通信原理,1.狭义平稳随机过程,平稳随机过程的定义说明：当取样点在时间轴上作任意平移时，随机过程的所有有限维分布函数是不变的。推论：一维分布与时间t无关，二维分布只与时间间隔有关。,天津工业大学 信息学院 通信原理,1.狭义平稳随机过程,从而有,天津工业大学 信息学院 通信原理,2.广义平稳随机过程,平稳随机过程的定义对于一切n都需成立，这在实际应用上很复杂。由平稳随机过程的均值是常数，自相关函数是的函数还可以引入另一种平稳随机过程的定义：若随机过程(t)的均值为常数，自相关函数仅

6、是的函数，则称它为宽平稳随机过程或广义平稳随机过程。,天津工业大学 信息学院 通信原理,平稳随机过程在满足一定条件下有一个有趣而又非常有用的特性，称为“各态历经性”。若平稳随机过程的数字特征（均为统计平均）完全可由随机过程中的任一实现的数字特征（均为时间平均）来替代，则称平稳随机过程具有“各态历经性”。,3.各态历经性,天津工业大学 信息学院 通信原理,3.各态历经性,“各态历经”的含义：随机过程中的任一实现都经历了随机过程的所有可能状态。因此，我们无需获得大量用来计算统计平均的样本函数，而只需从任意一个随机过程的样本函数中就可获得它的所有的数字特征，从而使“统计平均”化为“时间平均”，使实际

7、测量和计算的问题大为简化。,天津工业大学 信息学院 通信原理,3.5 平稳过程的相关函数与功率谱密度,自相关函数定义：R()=E(t)(t+)自相关函数的意义：平稳随机过程的统计特性，如数字特征等，可通过自相关函数来描述自相关函数与平稳随机过程的谱特性有着内在的联系。因此，我们有必要了解平稳随机过程自相关函数的性质。,天津工业大学 信息学院 通信原理,自相关函数主要性质：R(0)=E2(t)=S-(t)的平均功率R()=R(-)-偶函数|R()|R(0)-上界R()=E2(t)-(t)的直流功率R(0)-R()=2-(t)的交流功率。,3.5 平稳过程的相关函数与功率谱密度,天津工业大学 信息

8、学院 通信原理,(t)的任一样本函数的功率谱密度为,式中，FT()是fT(t)的频谱函数；fT(t)是f(t)的短截函数；f(t)是(t)的任一实现。,3.5 平稳过程的相关函数与功率谱密度,天津工业大学 信息学院 通信原理,由于(t)是无穷多个实现的集合，因此，某一实现的功率谱密度不能作为过程的功率谱密度。过程的功率谱密度应看做是任一实现的功率谱的统计平均，即,(t)的平均功率S可表示成,3.5 平稳过程的相关函数与功率谱密度,天津工业大学 信息学院 通信原理,由(t)功率谱密度的定义，很难直接计算功率谱。确知信号的自相关函数与其功率谱密度是傅氏变换对。对于平稳随机过程，也有类似的关系，即,

9、3.5 平稳过程的相关函数与功率谱密度,天津工业大学 信息学院 通信原理,利用二重积分换元法，则上式可化简成：于是简记为 R()P()。上称为维纳-辛钦关系，在平稳随机过程的理论和应用中是一个非常重要的工具。它是联系频域和时域的基本关系式。,3.5 平稳过程的相关函数与功率谱密度,天津工业大学 信息学院 通信原理,例3-1 随机相位余弦波(t)=Acos(ct+)，其中A和c均为常数，是在(0,2)内均匀分布的随机变量。求(t)的自相关函数与功率谱密度。解：(1)先考察(t)是否广义平稳。(t)的数学期望为,3.5 平稳过程的相关函数与功率谱密度,天津工业大学 信息学院 通信原理,(t)的自相

10、关函数为：,令t1=t,t2=t+,经过推导得：,3.5 平稳过程的相关函数与功率谱密度,天津工业大学 信息学院 通信原理,因为cosc(-c)+(+c)所以，P()=(-c)+(+c),仅与有关。由此看出，(t)是宽平稳随机过程。它的功率谱密度为：,3.5 平稳过程的相关函数与功率谱密度,天津工业大学 信息学院 通信原理,1.定义若随机过程(t)的任意n维（n=1,2,）分布都是正态分布，则称它为高斯随机过程或正态过程。其n维正态概率密度函数表示如下：fn(x1,x2,xn;t1,t2,tn),3.6 高斯过程,天津工业大学 信息学院 通信原理,式中,ak=E(tk)，2k=E(tk)-ak

11、2，|B|为归一化协方差矩阵的行列式，即,|B|jk为行列式|B|中元素bjk的代数余因子，bjk为归一化协方差函数：,1.定义,天津工业大学 信息学院 通信原理,高斯过程的n维分布完全由n个随机变量的数学期望、方差和两两之间的归一化协方差函数所决定。因此，对于高斯过程，只要研究它的数字特征就可以了。如果过程是宽平稳的，即其均值与时间无关，协方差函数只与时间间隔有关，而与时间起点无关，则它的M维分布也与时间起点无关，故它也是严平稳的。如果高斯过程在不同时刻的取值是不相关的，则即对所有jk，有bjk=0，于是,2.高斯过程的特点：,天津工业大学 信息学院 通信原理,=f(x1,t1)f(x2,t

12、2)f(xn,tn)这就是说，如果高斯过程中的随机变量是互不相关的，则它们也是统计独立的。,fn(x1,x2,xn;t1,t2,tn)=,2.高斯过程的特点：,天津工业大学 信息学院 通信原理,常用的是高斯过程的一维分布。高斯过程在任一时刻上的样值是一维高斯随机变量，其概率密度函数可表示为概率密度函数的曲线为,2.高斯过程的特点：,天津工业大学 信息学院 通信原理,特点（1）f(x)对称于x=a这条直线;（2），（3）a表示分布中心，表示集中程度，f(x)图形将随着的减小而变高和变窄。当a=0，=1时，称f(x)为标准正态分布的密度函数;正态分布函数,2.高斯过程的特点：,天津工业大学 信息学

13、院 通信原理,这里的 称为正态概率积分。这个积分无法用闭合形式计算，我们要设法把这个积分式和可以在数学手册上查出积分值的特殊函数联系起来，一般常用以下特殊函数：,2.高斯过程的特点：,天津工业大学 信息学院 通信原理,误差函数互补误差函数几种函数的关系为,2.高斯过程的特点：,天津工业大学 信息学院 通信原理,3.高斯白噪声,一类特殊的高斯过程高斯白噪声，它的功率谱密度均匀分布在整个频率范围内，即,这种噪声被称为白噪声，它是一个理想的宽带随机过程。式中n0为一常数，单位是瓦/赫。显然，白噪声的自相关函数为,天津工业大学 信息学院 通信原理,这说明，白噪声只有在=0时才相关，而它在任意两个时刻上

14、的随机变量都是互不相关的。画出了白噪声的双边带功率谱及其自相关函数的图形。,应当指出，我们定义的这种理想化的白噪声实际中是不存在的。但是，如果噪声的功率普密度均匀分布的频率范围远远大于通信系统的工作频带，那么就可以把它视为白噪声。,3.高斯白噪声,天津工业大学 信息学院 通信原理,1.定义：随机过程通过以fc为中心频率的窄带系统的输出，即是窄带过程。所谓窄带系统，是指其通带宽度ffc，且fc远离零频率的系统。实际中，大多数通信系统都是窄带型的，通过窄带系统的信号或噪声必是窄带的，如果这时的信号或噪声又是随机的，则称它们为窄带随机过程。如用示波器观察一个实现的波形，则如下图所示，它是一个频率近似

15、为fc，包络和相位随机缓变的正弦波。,3.7 窄带随机过程,天津工业大学 信息学院 通信原理,1.定义,天津工业大学 信息学院 通信原理,因此，窄带随机过程(t)可用下式表示:(t)=a(t)cosct+(t),a(t)0(3.7-1)等价式为(t)=c(t)cosct-s(t)sinct(3.7-2)其中 c(t)=a(t)cos(t)(3.7-3)s(t)=a(t)sin(t)(3.7-4)式中,a(t)及(t)分别是(t)的包络函数和随机相位函数，c(t)及s(t)分别称为(t)的同相分量和正交分量。,1.定义,天津工业大学 信息学院 通信原理,由式（3.7-1）至(3.7-4)看出，(

16、t)的统计特性可由a(t)，(t)或c(t),s(t)的统计特性确定。反之，如果已知(t)的统计特性则可确定a(t),(t)以及c(t)，s(t)的统计特性。,1.定义,天津工业大学 信息学院 通信原理,设窄带过程(t)是平稳高斯窄带过程，且均值为零,方差为2。下面将证明它的同相分量c(t)和正交分量s(t)也是零均值的平稳高斯过程，而且与(t)具有相同的方差。(1).数学期望 对式（3.7-2）求数学期望:E(t)=Ec(t)cosct-Es(t)sinct(3.7-5)可得 Ec(t)=0 Es(t)=0(3.7-6),2.同相和正交分量的统计特性,天津工业大学 信息学院 通信原理,(2)

17、.自相关函数 R(t,t+)=E(t)(t+)=Ec(t)cosct-s(t)sinct c(t+)cosc(t+)-s(t+)sinc(t+)=Rc(t,t+)cosctcosc(t+)-Rcs(t,t+)cosctsinc(t+)-Rc(t,t+)sinctcosc(t+)Rs(t,t+)sinctsinc(t+)(2.6-7),2.同相和正交分量的统计特性,天津工业大学 信息学院 通信原理,=Rc(t,t+)cosctcosc(t+)-Rcs(t,t+)cosctsinc(t+)-Rc(t,t+)sinctcosc(t+)Rs(t,t+)sinctsinc(t+),2.同相和正交分量的统

18、计特性,天津工业大学 信息学院 通信原理,式中Rc(t,t+)=Ec(t)c(t+)Rcs(t,t+)=Ec(t)s(t+)Rsc(t,t+)=Es(t)c(t+)Rs(t,t+)=Es(t)s(t+)因为(t)是平稳的，故有 R(t,t+)=R()，这就要求式（2.6-7）的右边也应该与t无关，而仅与时间间隔有关。若取使sinct=0 的所有t值，则式（2.6-7）应变为,2.同相和正交分量的统计特性,天津工业大学 信息学院 通信原理,R()=Rc(t,t+)cosc-Rcs(t,t+)sinc(2.6-8)这时，显然应有 Rc(t,t+)=Rc()Rcs(t,t+)=Rcs(),2.同相和

19、正交分量的统计特性,天津工业大学 信息学院 通信原理,所以，式（3.7-8）变为 R()=Rc()cosc-Rcs()sinc(3.7-9)再取使cosct=0的所有t值，同理有 R()=Rs()cosc+Rsc()sinc(3.7-10）,2.同相和正交分量的统计特性,天津工业大学 信息学院 通信原理,由以上的数学期望和自相关函数分析可知，如果窄带过程(t)是平稳的，则c(t)与s(t)也必将是平稳的。进一步分析，式（3.7-9）和式（3.7-10）应同时成立，故有 Rc()=Rs()(3.7-11)Rcs()=Rsc()(3.7-12)可见，同相分量c(t)和正交分量s(t)具有相同的自相

20、关函数，而且根据互相关函数的性质，应有,2.同相和正交分量的统计特性,天津工业大学 信息学院 通信原理,Rcs()=Rsc(-)将上式代入式（2.6-12），可得 Rsc()=-Rsc(-)(2.6-13)同理可推得 Rcs()=-Rcs(-)(2.5-14)式（2.6-13）、（2.6-14）说明，c(t)、s(t)的互相关函数Rsc()、Rcs()都是的奇函数，在=0时 Rsc(0)=Rcs(0)=0(2.6-15),天津工业大学 信息学院 通信原理,于是，由式（2.6-9）及式（2.6-10）得到 R(0)=Rc(0)=Rs(0)(2.6-16)即 2=2c=2s(2.6-17)这表明(

21、t)、c(t)和s(t)具有相同的平均功率或方差（因为均值为0）。另外，因为(t)是平稳的，所以(t)在任意时刻的取值都是服从高斯分布的随机变量，故在式（2.6-2）中有,天津工业大学 信息学院 通信原理,当t=t1=0 时，(t1)=c(t1)当t=t2=/2c时，(t2)=-s(t2)所以c(t1)，s(t2)也是高斯随机变量，从而c(t)、s(t)也是高斯随机过程。又根据式（2.6-15）可知，c(t)、s(t)在同一时刻的取值是互不相关的随机变量，因而它们还是统计独立的。综上所述，我们得到一个重要结论：一个均值为零的窄带平稳高斯过程(t)，它的同相分量c(t)和正交分量s(t)也是平稳

22、高斯过程，而且均值都为零，方差也相同。此外，在同一时刻上得到的c和s是互不相关的或统计独立的。,天津工业大学 信息学院 通信原理,3.包络和相位的统计特性,设a,的联合概率密度函数为f(a,)，则利用概率论知识，有,根据式（3.7-3）和式（3.7-4）的关系 c=acos s=asin,(3.7-18）,由上面的分析可知，c和s的联合概率密度函数为,天津工业大学 信息学院 通信原理,得到,于是,(2.6-19）,天津工业大学 信息学院 通信原理,注意，这里a0,而 在(0，2)内取值，再利用概率论中边际分布知识可分别求得,可见a服从瑞利分布；而,(2.6-20）,上式方括号中的积分值为1(根

23、据瑞利分布的性质)，故,天津工业大学 信息学院 通信原理,(3.7-21）,可见，服从均匀分布。综上所述，我们又得到一个重要结论：一个均值为零，方差为2的窄带平稳高斯过程(t)，其包络a(t)的一维分布是瑞利分布，相位(t)的一维分布是均匀分布，并且就一维分布而言，a(t)与(t)是统计独立的，即有下式成立：f(a,)=f(a)f(),天津工业大学 信息学院 通信原理,3.8 正弦波加窄带高斯过程,现在我们来求正弦波加窄带高斯噪声的包络及相应的概率密度函数。在这种情况下，被考察的混合信号形式为,(3.8-1),式中，为窄带高斯过程，其均值为零；正弦波的在(0,2)上均匀分布，且假定振幅A和频率

24、已知。显然，信号r(t)的包络函数为,天津工业大学 信息学院 通信原理,利用上一节的结果，如果值已给定，则zc及zs都是相互独立的随机变量，故有 Ezc=Acos Ezs=Asin,3.8 正弦波加窄带高斯过程,天津工业大学 信息学院 通信原理,所以，在给定相位的条件下的zc和zs的联合概率密度函数为 f(zc,zs/)=,因为式（2.7-1)可以改写成r(t)=zcos(ct+)的形式，所以其包络随机变量为,而其相位随机变量为,天津工业大学 信息学院 通信原理,所以，以相位为条件的z和的联合概率密度函数为,而以相位为条件的包络z的概率密度为,3.8 正弦波加窄带高斯过程,天津工业大学 信息学

25、院 通信原理,由于,故有,（3.8-2),3.8 正弦波加窄带高斯过程,天津工业大学 信息学院 通信原理,中，I0(x)为零阶修正贝塞尔函数。当x0时，I0(x)是单调上升函数，且有I0(0)=1。因此 f(z/)=由上式可见，f(z/)与无关，故正弦波加窄带高斯过程的包络概率密度函数为,这个概率密度函数称为广义瑞利分布，也称莱斯（Rice）密度函数。如果A0，则上式便是式（3.7-20），即为瑞利公式，这是预料的结果。,(3.8-3),3.8 正弦波加窄带高斯过程,天津工业大学 信息学院 通信原理,现在来求f(/)，它可由下式得到：,上式经积分和整理后得到,(3.8-4),天津工业大学 信息

26、学院 通信原理,因为f(,)=f(/)f(),所以正弦波加窄带高斯过程得相位概率密度函数f()为,这个积分比较复杂，这里就不再演算了。下图绘出了在几个特定的 下的f(z)曲线及f(/)曲线。,(3.8-5),3.8 正弦波加窄带高斯过程,天津工业大学 信息学院 通信原理,3.8 正弦波加窄带高斯过程,天津工业大学 信息学院 通信原理,3.9 随机过程通过线性系统,随机过程通过系统（或网络）后，输出过程将是什么样的过程？这里，我们只考虑平稳过程通过线性时不变系统的情况。随机信号通过线性系统的分析，完全是建立在确知信号通过线性系统的分析原理的基础之上的。我们知道，线性系统的响应vo(t)等于输入信

27、号vi(t)与系统的单位冲激响应h(t)的卷积，即,(3.9-1),天津工业大学 信息学院 通信原理,若 vo(t)Vo(),vi(t)Vi(),h(t)H()，则有 Vo()=H()Vi()(3.9-2)若线性系统是物理可实现的，则 vo(t)=,或,如果把vi(t)看作是输入随机过程的一个样本，则vo(t)可看作是输出随机过程的一个样本。显然，输入过程i(t)的每个样本与输出过程o(t)的相应样本之间都满足下式,(3.9-3),3.9 随机过程通过线性系统,天津工业大学 信息学院 通信原理,o(t)=(2.8-4)假定输入i(t)是平稳随机过程，现在来分析系统的输出过程o(t)的统计特性。

28、先确定输出过程的数学期望、自相关函数及功率谱密度，再讨论输出过程的概率分布问题。1.输出过程o(t)的数学期望,3.9 随机过程通过线性系统,天津工业大学 信息学院 通信原理,(2.8-5),因为,由此可见,输出过程的数学期望等于输入过程的数学期望与H(0)的乘积，且Eo(t)与t无关。,再利用了平稳性假设Ei(t-)=Ei(t)=i(常数)故上式为,求得,所以,(3.9-6),1.输出过程o(t)的数学期望,天津工业大学 信息学院 通信原理,2.输出过程o(t)的自相关函数,根据平稳性,(2.8-7),根据自相关函数的定义，则有,天津工业大学 信息学院 通信原理,可见,o(t)的自相关函数只

29、依赖时间间隔而与时间起点t1无关。由以上输出过程的数学期望和自相关函数证明，若线性系统的输入过程是平稳的，那么输出过程也是平稳的。,2.输出过程o(t)的自相关函数,天津工业大学 信息学院 通信原理,3.输出过程o(t)的功率谱密度,令,则有,(3.9-8),对式（2.4-9）进行傅里叶变换,有,天津工业大学 信息学院 通信原理,例3.9.1试求功率谱密度为n0/2的白噪声通过理想矩形的低通滤波器后的功率谱密度、自相关函数和噪声平均功率。解：理想低通的传输特性为,根据式(2.8-8)输出功率谱密度为,3.输出过程o(t)的功率谱密度,天津工业大学 信息学院 通信原理,而自相关函数R()为,于是

30、，输出噪声功率N即为R0(0)，即,3.输出过程o(t)的功率谱密度,天津工业大学 信息学院 通信原理,总可以确定输出过程的分布。其中一个十分有用的情形是：如果线性系统的输入过程是高斯型的，则系统的输出过程也是高斯型的。因为从积分原理来看，上式可表示为一个和式的极限，即,4.输出过程o(t)的概率分布,(3.9-9),从原理上看，在已知输入过程分布的情况下，通过式（3.9-4），即,天津工业大学 信息学院 通信原理,由于i(t)已假设是高斯型的，所以，在任一时刻的每项i(t-k)h(k)k都是一个高斯随机变量。因此，输出过程在任一时刻得到的每一随机变量，都是无限多个高斯随机变量之和。由概率论得知，这个“和”的随机变量也是高斯随机变量。这就证明，高斯过程经过线性系统后其输出过程仍为高斯过程。更一般地说，高斯过程经线性变换后的过程仍为高斯过程。但要注意，由于线性系统的介入，与输入高斯过程相比，输出过程的数字特征已经改变了。,4.输出过程o(t)的概率分布,