第3章随机过程ppt课件.ppt

1,第3章 随机过程,3.0 引言,3.4 平稳随机过程通过线性系统,3.6 正弦波加窄带高斯噪声,3.5 窄带随机过程,3.3 高斯随机过程,3.2 平稳随机过程,3.1 随机过程的基本概念,3.7 高斯白噪声和带限白噪声,要求,2,3.0 引言,1.信号的分类按信号的性质分为确定信号和随机信号两类。,确定信号：是指在相同的实验条件下，能够重复实现的信号。又有周期信号和非周期信号之分。确定性信号是时间的确定函数。随机信号：是在相同的实验条件下，不能够重复的信号。信号的某个或几个参数不能预知或不可能完全预知（具有随机性）。,3,2.通信系统中传输的信号、噪声均为随机信号.随机信号的不可预测性为所携带的信息，它是有用的，而噪声的不可预测性是对信号的干扰，是有害的。两者都不可预测，但均服从一定统计规律，需用概率论方法进行分析。二者统计特性不同，可从噪声中提取信号。3.通信系统中的噪声为随机噪声，简称噪声。,4,3.1随机过程的基本概念,随机变量(random variable):在数学分析中，将每次实验的结果用一个变量来表示，如果变量的取值是不确定的（以某个概率取某个值），则这种变量称为随机变量。例如在给定的某一瞬间测量接收机输出端上的噪声，所测得的噪声瞬间值就是一个随机变量。,5,随机变量 的概率分布函数 是 的取值小于或等于 的概率，即,在许多问题中，采用概率密度函数 比采用概率分布函数更方便。概率密度函数被定义为概率分布函数的导数。,分布函 数：distribution function概率密度函数：probability density function,6,概率密度函数和概率分布函数之间的关系可表述为：X 位于区间 内的概率是概率密度函数 在该区间上的积分，即:,7,定义二维随机变量的联合概率密度函数为,假设联合概率分布函数处处连续，且偏导存在并处处连续。,若考虑两个随机变量X、Y，定义二维随机变量(X,Y)的联合概率分布函数为，即X小于或等于x 同时 Y 小于或等于 y 的联合概率。,8,随机变量的主要数字特征包括数学期望（均值）和方差 等。,反映了随机变量 取值的集中位置，有时也用 表示；表示的 取值相对于均值的“离散程度”，也常常表示为。,9,随机过程(random process),确定过程 其变化过程具有确定的形式，或者说具有必然的变化规律。用数学语言来说，其变化过程可以用一个或几个时间t的确定函数来描述。随机过程 没有确定的变化形式，也就是说，每次对它的测量结果没有一个确定的变化规律。用数学语言来说，这类事物变化的过程不可能用一个或几个时间t的确定函数来描述。,10,什么是随机过程？,随机过程是一类随时间作随机变化的过程，不能用确切的时间函数描述。角度1：随机过程可视为无穷多个样本函数的集合(assemble)。,设Sk(k=1,2,)是随机试验。每一次试验都有一条时间波形（称为样本函数或实现)，记作xi(t)，所有可能出现的结果的总体x1(t),x2(t),xn(t)就构成一随机过程，记作(t)。简言之，无穷多个样本函数的总体叫做随机过程。,11,设随机试验E的可能结果为(t)，试验的样本空间S为；x1(t)，x2(t)，xi(t)，i为正整数，xi(t)为第 i 个样本函数（又称之为实现(realization)）,每次试验之后，(t)取空间S中的某一样本函数，于是称此(t)为随机函数。当 t 代表时间量时，称此(t)为随机过程 无穷多个样本函数xi(t)的集合称作随机过程。,什么是随机过程？,12,在任一给定时刻 t1上，每一个样本函数xi(t)都是一个确定的数值xi(t1)，但是每个xi(t1)都是不可预知的。在一个固定时刻t1上，不同样本的取值xi(t1),i=1,2,n是一个随机变量，记为(t1).,什么是随机过程？,角度2：随机过程可视为无穷多个随机变量(ti)的集合。,13,换句话说，随机过程在任意时刻的值是一个随机变量。因此，我们又可以把随机过程看作是在时间进程中处于不同时刻的随机变量的集合。这个角度更适合对随机过程理论进行精确的数学描述。,什么是随机过程？,14,15,随机过程基本特征：随机过程兼有随机变量和和时间函数的特点：就某一瞬间来看，它是一个随机变量；就它的一个样本来看，则是一个时间函数。随机过程的样本空间是一个时间函数集，随机变量的样本空间是一个实数集。,两层含义：随机过程(t)是大量样本函数的集合。随机过程(t)在任一时刻都是随机变量；,16,3.1.1 随机过程的分布函数,随机变量(t1)小于或等于某一数值x1的概率 简记为F1(x1,t1)，即 称为随机过程(t)的一维分布函数,设(t)表示一个随机过程，在任意给定的时刻t1T，其取值(t1)是一个一维随机变量。随机过程的统计特性可以用分布函数或概率密度函数来描述。,17,如果存在称 为随机过程 的一维概率密度函数,同理，任给t1,t2,tnT,则(t)的n维分布函数被定义为：,n维概率密度函数被定义为:,18,3.1.2 随机过程的数字特征,分布函数或概率密度函数虽然能够较全面地描述随机过程的统计特性,但在实际工作中，有时不易或不需求出分布函数和概率密度函数，而用随机过程的数字特征来描述随机过程的统计特性，更简单直观。,19,设随机过程(t)在任意给定时刻t1的取值(t1)是一个随机变量，其概率密度函数为f1(x1,t1)，则(t1)的数学期望为,注意，这里t1是任取的，所以可以把t1直接写为t,x1改为x,这时上式就变为随机过程在任意时刻的数学期望，记作，于是,随机过程的数学期望,20,随机过程的数学期望反映了随机过程各个时刻的数学期望（均值）随时间的变化情况；是随机过程所有样本函数的统计平均函数；它由随机过程的一维概率分布决定；表征了随机信号的直流分量；,21,随机过程的方差(variance)：,记为：。,反映随机过程在时刻 t 相对于均值的偏离程度；表征了随机信号的交流平均功率。,22,相关函数(correlation function)：描述随机过程在任意两个时刻上获得的随机变量之间的相关程度。,式中，(t1)和(t2)分别是在t1和t2时刻观测得到的随机变量。可以看出，R(t1,t2)是两个变量t1和t2的确定函数。,23,协方差函数(covariance function),式中:a(t1)a(t2)在t1和t2时刻得到的(t)的均值 f 2(x1,x2;t1,t2)(t)的二维概率密度函数。,相关函数和协方差函数之间的关系 若a(t1)=a(t2)=0，则B(t1,t2)=R(t1,t2),24,互相关函数 式中(t)和(t)分别表示两个随机过程。因此，R(t1,t2)又称为自相关函数。,25,1.和的平均等于平均的和 E(XY)E(X)E(Y)2.若X、Y相互统计独立，则积的平均等于平均的积 E(XY)E(X)E(Y)3.随机变量X的函数g(X)的平均式中 是随机变量X的概率密度函数。4.确知函数可视为常数若 是确知函数，则,补：进行统计平均运算时常用到的一些公式,26,3.2平稳随机过程,狭义平稳（或严平稳）随机过程 广义平稳（或宽平稳）随机过程 平稳随机过程的“各态历经性”平稳随机过程的自相关函数 平稳随机过程的功率谱密度,27,定义：平稳随机过程的统计特性将不随时间的推移而发生变化，即其任何n维分布函数或概率密度函数与时间起点无关，亦即对于任意的正整数n和任意的实数，平稳随机过程 的n维概率密度函数满足：称该随机过程是在严格意义下的平稳随机过程,简称严平稳随机过程（狭义平稳随机过程）。,3.2.1 平稳随机过程的定义,28,性质：该定义表明，平稳随机过程的统计特性不随时间的推移而改变，即它的一维分布函数与时间t无关：二维分布函数只与时间间隔=t2 t1有关：,数字特征：,29,数字特征：（1）其均值与t 无关，为常数a；（2）自相关函数只与时间间隔 有关。把同时满足(1)和(2)的过程定义为广义平稳随机过程。显然，严平稳随机过程必定是广义平稳的，反之不一定成立。在通信系统中所遇到的信号及噪声，大多数可视为平稳的随机过程。除特别声明，课程所讨论的均为广义平稳随机过程。,30,问题的提出：随机过程的数字特征是对随机过程的所有样本函数的统计平均，但在实际中常常很难测得大量的样本，能否从一次试验而得到的一个样本函数x(t)来决定平稳过程的数字特征呢?,3.2.2 各态历经性,31,回答是肯定的。平稳过程在满足一定的条件下具有一个特性，称为“各态历经性”(又称“遍历性”)。具有各态历经性的过程，其数字特征（统计平均）可由随机过程中的任一实现的时间平均值来代替。,32,设：x(t)是平稳过程(t)的任意一次实现(样本)，则其时间均值和时间相关函数分别定义为：如果平稳过程使下式成立则称该平稳过程具有各态历经性。,各态历经性条件,33,“各态历经”的含义：随机过程中的任一次实现都经历了随机过程的所有可能状态。因此，在求解各种统计平均（均值或自相关函数等）时，无需作无限多次的考察，只要获得一次考察，用一次实现的“时间平均”值代替过程的“统计平均”值即可，从而使测量和计算的问题大为简化。具有各态历经的随机过程一定是平稳过程，反之不一定成立。在通信系统中所遇到的随机信号和噪声，一般均能满足各态历经条件。,34,3.2.3 平稳过程的自相关函数,平稳过程自相关函数的定义：同前平稳过程自相关函数的性质(t)的平均功率 的偶函数 R()的上界,即自相关函数 R()在=0有最大值。(t)的直流功 表示平稳过程(t)的交流功率。当均值为0时，有 R(0)=2。,35,3.2.4 平稳过程的功率谱密度,定义：对于任意的确定功率信号f(t)，它的功率谱密度定义为式中，FT(f)是f(t)的截短函数fT(t)所对应的频谱函数,36,对于平稳随机过程(t)，可以把f(t)当作是(t)的一个样本；某一样本的功率谱密度不能作为过程的功率谱密度。过程的功率谱密度应看作是对所有样本的功率谱的统计平均，故(t)的功率谱密度可以定义为,37,功率谱密度的计算 维纳-辛钦关系 非周期的功率型确知信号的自相关函数与其功率谱密度是一对傅里叶变换。这种关系对平稳随机过程同样成立，即有 简记为 以上关系称为维纳-辛钦关系。它是联系频域和时域两种分析方法的基本关系式。,38,在维纳-辛钦关系的基础上，可得到结论：对功率谱密度进行积分，可得平稳过程的平均功率：从频域的角度给出了过程平均功率的计算法。各态历经过程的任一样本函数的功率谱密度等于随机过程的功率谱密度。也就是说，每一样本函数的谱特性都能很好地表现整个过程的的谱特性。,39,功率谱密度P(f)具有非负性和实偶性，即有和这与R()的实偶性相对应。,40,3.3 高斯随机过程（正态随机过程）,3.3.1 定义 如果随机过程(t)的任意n维(n=1,2,.)分布均服从正态分布，则称为正态过程或高斯过程。3.3.2 重要性质由高斯过程的定义式(3.3-1)可以看出，高斯过程的n维分布只依赖各个随机变量的均值、方差和归一化协方差。因此，对于高斯过程，只需要研究它的数字特征就可以了。,41,广义平稳的高斯过程也是严平稳的。若高斯过程是广义平稳的，即其均值与时间无关，自相关函数只与时间间隔有关，与时间起点无关，则它的n维分布也与时间起点无关，故它也是严平稳的。所以，高斯过程若是广义平稳的，则也严平稳。高斯过程经过线性变换后生成的过程仍是高斯过程。也可以说，若线性系统的输入为高斯过程，则系统输出也是高斯过程。,42,如果高斯过程在不同时刻的取值是不相关的，即对所有j k，有bjk=0，则其概率密度可以简化为 这表明，如果高斯过程在不同时刻的取值是不相关的，那么它们也是统计独立的。,43,定义：高斯过程在任一时刻上的取值是一个正态分布的随机变量，也称高斯随机变量，其一维概率密度函数为式中 a 均值 2 方差 曲线如右图：,3.3.3 高斯随机变量,44,性质f(x)对称于直线 x=a，即 a表示分布中心，称为标准偏差，表示集中程度，图形将随着 的减小而变高和变窄。当a=0和=1时，称为标准化的正态分布：,45,正态分布函数 该积分的值无法用闭合形式计算，通常利用其它特殊函数，用查表的方法求出：用误差函数表示：令则 式中 误差函数。,46,用互补误差函数erfc(x)表示正态分布函数：式中 当x 2时，,47,用Q函数表示正态分布函数：Q函数定义：Q函数和erfc函数的关系：Q函数和分布函数F(x)的关系：Q函数值也可以从查表得到。,48,3.4 平稳随机过程通过线性系统,实际上讨论随机信号经线性系统传输比讨论确定信号经线性系统传输更具有实际意义。我们只考虑平稳过程通过线性时不变系统的情况。随机信号通过线性系统的分析，完全是建立在确知信号通过线性系统的分析原理的基础之上的。,49,我们知道，线性系统的响应v0(t)等于输入信号vi(t)与系统的单位冲激响应h(t)的卷积，即,或,（3.4-1）,（3.4-2）,50,若把vi(t)、vo(t)看作是输入、输出随机过程的一个样本，输入过程i(t)的每个样本与输出过程o(t)的相应样本之间都满足上式的关系。这样，就整个过程而言，便有,假定输入i(t)是平稳随机过程，现在来分析系统的输出过程o(t)的统计特性。先确定输出过程的数学期望、自相关函数及功率谱密度，然后讨论输出过程的概率分布问题。,51,输出过程o(t)的均值(数学期望E0(t),设输入过程是平稳的，则有,H(0)是系统在 f=0处的频率响应(直流增益)。,说明：输出过程的数学期望等于输入过程的数学期望与H(0)相乘，并且E0(t)与t无关。,52,输出过程o(t)的自相关函数R0(t1,t1+),根据自相关函数的定义,由以上输出过程的数学期望和自相关函数证明，若线性系统的输入过程是平稳的，那么输出过程也是平稳的。,可得出：,结论：自相关函数只依赖时间间隔，而与时间起点t1无关。故输出过程也是宽平稳的随机过程。,53,输出过程o(t)的功率谱密度,经过推导可得,结论：输出过程的功率谱密度是输入过程的功率谱密度乘以系统频率响应模值的平方。,这是十分有用的一个重要公式。当我们想得到输出过程的自相关函数Ro()时，比较简单的方法是先计算出功率谱密度Po()，然后求其反变换，这比直接计算R0()要简便得多。,54,输出过程o(t)的概率分布,如果线性系统的输入过程是高斯型的，则系统的输出过程也是高斯型的。与输入高斯过程相比，输出过程的数字特征已经改变了。高斯过程经线性变换后的过程仍为高斯过程,55,3.5 窄带随机过程,窄带信号：是指频谱只限于以fC为中心频率而带宽为f，f fC的信号，更确切地应该称之为高频窄带信号。,56,窄带随机过程：如果信号或噪声满足窄带条件，且是一个随机过程，则称它们为窄带随机过程。如果噪声的瞬时取值服从高斯分布，则称它为窄带高斯噪声。在不特别声明情况下，我们仅仅讨论零均值平稳高斯窄带过程。,57,窄带随机过程的表示式式中，a(t)随机包络，(t)随机相位 c 中心角频率显然，a(t)和(t)的变化相对于载波cosct的变化要缓慢得多。,58,窄带随机过程表示式展开 式中(t)的 同相分量(t)的 正交分量,可以看出：(t)的统计特性由a(t)和(t)或c(t)和s(t)的统计特性确定。反之，若(t)的统计特性已知，则a(t)和(t)或c(t)和s(t)的统计特性也随之确定。,59,关于窄带随机过程有两个重要结论结论之一：一个均值为零的窄带平稳高斯随机过程，它的同相分量C(t)和正交分量S(t)同样是平稳高斯随机过程，而且均值都为零，方差也相同，且等于(t)的方差。另外，在同一时刻上得到的C、S是不相关的或统计独立的。,60,结论之二：一个均值为零的平稳高斯窄带过程，其包络 的一维分布是瑞利分布，相位 的一维分布是均匀分布，并且就一维分布而言，包络与相位是统计独立的。,61,3.6 正弦波加窄带高斯噪声,为了减少噪声的影响，通常在接收机前端设置一个带通滤波器，以滤除信号频带以外的噪声。带通滤波器的输出是信号与窄带噪声的混合波形。最常见的是正弦波加窄带高斯噪声的合成波，这是通信系统中常会遇到的一种情况，所以有必要了解合成信号的包络和相位的统计特性。,62,式中为窄带高斯过程，其均值为零。,设合成信号为,(3.6-1),63,相位随机变量为,信号r(t)的包络为,64,（1）当信号很小，A0，即信号功率与噪声功率之比=r0时，这时合成波r(t)中只存在窄带高斯噪声，式（3.6-8）近似为式（3.5-20），即由莱斯分布退化为瑞利分布。,（3.6-8）,65,（2）当信噪比r很大时，有I0(x)，这时在zA附近，f(z)近似于高斯分布，即 即：信号加噪声的合成波包络分布与信噪比有关。小信噪比时，它接近于瑞利分布；大信噪比时，它接近于高斯分布；在一般情况下它是莱斯分布。图 3-5(a)给出了不同的r值时f(z)的曲线。,（3.6-8）,66,图 3-5 正弦波加窄带高斯过程的包络与相位分布,67,3.7 高斯白噪声和带限白噪声,白噪声n(t)定义：功率谱密度在所有频率上均为常数的噪声，即 双边功率谱密度或 单边功率谱密度式中 n0 正常数,白噪声的自相关函数：对双边功率谱密度取傅里叶反变换，得到相关函数：,68,这说明，白噪声只有在=0时才相关，而它在任意两个时刻上的随机变量都是互不相关的。下图画出了白噪声的功率谱和自相关函数的图形。,69,白噪声的功率由于白噪声的带宽无限，其平均功率为无穷大，即 真正“白”的噪声是不存在的。只要噪声的功率谱均匀分布的频率范围远远大于通信系统的工作频带，就可以把它视为白噪声。如果白噪声取值的概率分布服从高斯分布，则称之为高斯白噪声。,70,低通白噪声,定义：如果白噪声通过理想矩形的低通滤波器或理想低通信道，则输出的噪声称为低通白噪声。功率谱密度白噪声的功率谱密度被限制在|f|fH内，通常把这样的噪声也称为带限白噪声。自相关函数,71,功率谱密度和自相关函数曲线由曲线看出，这种带限白噪声只有在上得到的随机变量才不相关。,72,定义：如果白噪声通过理想矩形的带通滤波器或理想带通信道，则其输出的噪声称为带通白噪声。功率谱密度 设理想带通滤波器的传输特性为式中:fc 中心频率，B 通带宽度则其输出噪声的功率谱密度为,带通白噪声,73,功率谱密度 设理想带通滤波器的传输特性为式中:fc 中心频率，B 通带宽度则其输出噪声的功率谱密度为：,74,窄带高斯白噪声,通常，带通滤波器的 B fc，因此称窄带滤波器，相应地把带通白高斯噪声称为窄带高斯白噪声。平均功率,75,基本概念,随机过程具有什么特点？什么是平稳随机过程？什么是广义平稳随机过程？什么是窄带随机过程？窄带随机过程的包络和相位、同相分量和正交分量分别满足什么规律？概念：白噪声、高斯白噪声、窄带高斯白噪声、窄带平稳高斯白噪声。,