第二讲随机变量的定义及分布课件.ppt

《第二讲随机变量的定义及分布课件.ppt》由会员分享，可在线阅读，更多相关《第二讲随机变量的定义及分布课件.ppt（68页珍藏版）》请在三一办公上搜索。

1、本章学习的目标：复习概率与随机变量的理论加深随机变量函数的理论（重点）深化一些重要概念的理解加深多维正态随机变量的理论增加Matlab的统计分析函数(自主学习）,1.1 概率的基本术语,随机试验(Random Experiment):满足下列三个条件的试验称为随机试验：(1)在相同条件下可重复进行；(2)试验的结果不止一个，所有可能的结果能事先明确；(3)每次试验前不能确定会出现哪一个结果。,例：投掷硬币(Toss a coin),The outcome varies in an unpredictable fashion when the experiment is repeated und

2、er the same conditions.,随机事件(Random Event):在随机试验中，对试验中可能出现也可能不出现、而在大量重复试验中却具有某种规律性的事情，称为随机事件，简称为事件。,如投掷硬币出现正面就是一个随机事件。,基本事件(Elementary Event):随机试验中最简单的随机事件称为基本事件，如投掷骰子出现1、2、.、6点是基本事件，出现偶数点是随机事件，但不是基本事件。,(简单事件Simple Event),样本空间(Sample Space)随机试验的所有基本事件组成的集合称为样本空间.,Toss a coin：S=Head,Tail=H,T,Toss a d

3、ie:S=1,2,3,4,5,6,关于样本空间的注释：离散的样本空间,Toss a die:S=1,2,3,4,5,6,连续的样本空间,由多次子试验构成的样本空间看下例,IF we toss a coin three times and let the triplet xyz denote the outcome“x on the first toss,y on the second toss,z on the third toss”,then the sample space of the experiment is,S=HHH,HHT,HTH,HTT,THH,THT,TTH,TTT,The

4、 event“one head and two tails”is defined byE=HTT,THT,TTH,关于样本空间的注释：离散的样本空间,Toss a die:S=1,2,3,4,5,6,连续的样本空间,由多次子试验构成的样本空间,可数无穷的样本空间,S=S1 S1=HH,HT,TH,TT,S1=H,T,频率和概率(Frequency and Probability):n次重复试验中，事件A发生的次数nA：-事件A的频数比值nA/n:-事件A发生的频率,概率,频率反映了事件A发生的频繁程度，若事件A发生的可能性大，那么相应的频率也大，反之则较小。,1.2 随机变量的定义(Defin

5、ition of a random variable),设随机试验E的样本空间为S=e，如果对于每一个eS，有一个实数X(e)与之对应，这样就得到一个定义在S上的单值函数X(e)，称X(e)为随机变量，简记为X。,随机变量是定义在样本空间S上的单值函数,1.定义,Interpretation of random variable:,S,e,Real line,Random variable is a function that assigns a numerical value to the outcome of the experiment.,A coin toss,S,e1,Real li

6、ne,1,0,e2,Mapping of the outcome of a coin toss into the set of real number,A discrete random variable is a random variable that can be take on at most a countable number of possible values,根据随机变量取值的不同可以分为：连续型随机变量(Continuous random variable)离散型随机变量(Discrete random variable),2.概率分布列,Probability mass

7、function(PMF),(1)(0,1)分布 随机变量的可能取值为0和1两个值，其概率分布为,PMF:,Bernoulli random variable,Let A be an event of interest in some experiment,e.g.,a device is not defective.We say that a“success”occurs if A occurs when we perform the experiment.Bernoulli random variable IA is equal to 1 if A occurs and zero othe

8、rwise.,(2)Binomial,独立地进行n次贝努利试验，事件A发生m次的概率,刚好是 展开的第m+1项的系数,例：雷达双门限检测器,Example:Transmission error in a binary communications channel.Let X be the number of errors in n independent transmissions.Find the PMF of X.Find the probability of one or fewer errors,The probability of k errors in n bits transmi

9、ssions is given by the probability of an error pattern that k 1s and n-k 0s,X is a binomial random variable,例：信息传输问题（Message Transmissions）,Let X be the number of times needs to be transmitted until it arrivers correctly at its destination.Find the probability that X is an a even number.,X is a disc

10、rete random variable taking on values from S=1,2,3,.,(3)geometric random variable,The event X=k occurs if k-1 consecutive erroneous transmissions(failures)followed by a error-free one(success),X is called the geometric random variable,泊松分布(Poisson distribution),例：交通路口在单位时间内通过的车辆数,1.3 分布函数和概率密度函数,Pro

11、bability Density Function,（PDF）,Distribution Function or Cumulative Distribution Function,(CDF),1.定义,2.分布函数的性质（Properties of the CDF）,分布函数是右连续的不减函数，在负无穷处为零，正无穷处为1。对于连续型随机变量，取某一特定值的概率是为零的。即PX=x=0,对于离散型随机变量，分布函数为阶梯函数，阶梯的跳变点出现在随机变量的取值点上，跳变的高度为随机变量取该值的概率。,对于离散型随机变量，PMF与CDF的关系为,概率密度,对于离散型随机变量，它的概率密度函数是一串

12、函数之和，函数出现在随机变量的取值点，强度为取该值的概率。,3.常见概率分布 正态分布（Normal），也称高斯（Gauss）分布,标准正态分布函数,瑞利分布（Rayleigh）,瑞利分布概率密度2,指数（Exponential）分布,指数分布概率密度,对数正态分布（LogNormal）,高分辨率雷达杂波分布,对数正态分布概率密度,为尺度参数为形状参数,1.4 多维随机变量及其分布 Multiple Random Variables and Distributions,1.定义,2.二维分布函数和概率密度 Bivariate CDF and PDF,二维分布函数图解,定义：,二维分布函数性质：

13、,二维概率密度：,由二维概率密度可以求出边缘概率密度,随机变量落在某个区域的概率,3.条件分布(Conditional Distribution),条件分布函数,条件概率密度,称随机变量X、Y独立,Example:Communication Channel with Discrete Input and Continuous Output,noise voltage NU(-2,2),通信信道,X:+1 or-1,Find PX=+1,Y0,Y,Solution:,Therefore,1.5 随机变量的数字特征 均值 方差 协方差与相关系数 协方差矩阵 举例,1.均值（Mean),算术平均：所

14、有可能取值等概率加权统计平均值：所有可能取值按概率加权,连续型随机变量：,离散型随机变量：,性质：,如果X和Y相互独立，,如果EXY=0，则称X和Y正交(Orthogonal)。,2.方差(Variance),方差反映了随机变量X的取值偏离其均值的偏离程度或分散程度，D(X)越大，则X的取值越分散。,性质：,如果X1,X2,.,Xn相互独立。,Variance is a nonlinear operator,3.协方差和相关系数(Covariance and Correlation coefficient),如果X和Y相互独立，则rXY=0，|rXY|=1的充要条件是PY=aX+b=1,If

15、X and Y are independent,then X and Y are uncorrelated.,The correlation coefficient provides a measure of how good a prediction of the value of one of the two RVs can be formed based on an observed value of the other.,不相关就认为X与Y没有关系吗？,例：为零均值正态随机变量，Y 与X相关吗？,Y是依赖于X的(Dependence)，但Y与X不相关(Uncorrelated),线性不

16、相关的。,Independent implies zero covariance but zero covariance does not imply independence.,Example:Uncorrelated but dependent random variablesLet be uniformly distributed in the interval(0,2)。Let,X and Y are uncorrelated but dependent,注意英文单词的区别:Correlation(Uncorrelated)Dependent（Independent),It can b

17、e shown that,4.协方差矩阵（Covariance Matrix）,多维随机变量通常用协方差矩阵来描述随机变量之间的相互关系。,协方差矩阵是对称（共轭对称）的；如果变量之间是不相关的，则K是一个对角阵。,例1:(0,1)分布随机变量，PX=1=p,PX=0=q=1-p,求X的均值和方差,5.Expected value of some important random variable,例2(a,b)上均匀分布的随机变量，求均值和方差,例3 求瑞利分布随机变量的均值和方差。,常用分布及其数字特征归纳,Uniform Random Variable,Exponential Rando

18、m Variable,Gaussian Random Variable,Remark:Under a wide range of conditions X can be used to approximate the sum of a large number of independent random variable.,Gamma Random Variable,Remark:Chi-Square random variable with k degree of freedom:k=2,=1/2,Laplacian Random Variable,Rayleigh Random Variable,随机变量的定义与分布（1）概率的基本术语：随机试验 基本事件 随机事件 样本空间，频率与概率（2）随机变量的定义 从样本空间到实轴的映射（3）随机变量的分布 PMF CDF PDF 典型随机变量的分布（4）条件分布,小结,随机变量的数字特征均值 反映随机变量取值的统计平均值方差 随机变量取值偏离均值的偏离程度相关系数 X与Y线性程度的度量 注意：线性不相关并不意味他们没有关系 注意与独立的差别4.协方差矩阵5.常见随机变量的数字特征,