随机变量的定义及分布.ppt
第一章 随机变量基础概率的基本术语随机变量的定义及分布随机变量的数字特征随机变量的函数多维正态随机变量MATLAB的统计分析函数*,本章学习的目标：复习概率与随机变量的理论加深随机变量函数的理论（重点）深化一些重要概念的理解加深多维正态随机变量的理论增加Matlab的统计分析函数(自主学习）,1.1 概率的基本术语,随机试验(Random Experiment):满足下列三个条件的试验称为随机试验：(1)在相同条件下可重复进行；(2)试验的结果不止一个，所有可能的结果能事先明确；(3)每次试验前不能确定会出现哪一个结果。,例：投掷硬币(Toss a coin),The outcome varies in an unpredictable fashion when the experiment is repeated under the same conditions.,随机事件(Random Event):在随机试验中，对试验中可能出现也可能不出现、而在大量重复试验中却具有某种规律性的事情，称为随机事件，简称为事件。,如投掷硬币出现正面就是一个随机事件。,基本事件(Elementary Event):随机试验中最简单的随机事件称为基本事件，如投掷骰子出现1、2、.、6点是基本事件，出现偶数点是随机事件，但不是基本事件。,(简单事件Simple Event),样本空间(Sample Space)随机试验的所有基本事件组成的集合称为样本空间.,Toss a coin：S=Head,Tail=H,T,Toss a die:S=1,2,3,4,5,6,关于样本空间的注释：离散的样本空间,Toss a die:S=1,2,3,4,5,6,连续的样本空间,由多次子试验构成的样本空间看下例,IF we toss a coin three times and let the triplet xyz denote the outcome“x on the first toss,y on the second toss,z on the third toss”,then the sample space of the experiment is,S=HHH,HHT,HTH,HTT,THH,THT,TTH,TTT,The event“one head and two tails”is defined byE=HTT,THT,TTH,关于样本空间的注释：离散的样本空间,Toss a die:S=1,2,3,4,5,6,连续的样本空间,由多次子试验构成的样本空间,可数无穷的样本空间,S=S1 S1=HH,HT,TH,TT,S1=H,T,频率和概率(Frequency and Probability):n次重复试验中，事件A发生的次数nA：-事件A的频数比值nA/n:-事件A发生的频率,概率,频率反映了事件A发生的频繁程度，若事件A发生的可能性大，那么相应的频率也大，反之则较小。,1.2 随机变量的定义(Definition of a random variable),设随机试验E的样本空间为S=e，如果对于每一个eS，有一个实数X(e)与之对应，这样就得到一个定义在S上的单值函数X(e)，称X(e)为随机变量，简记为X。,随机变量是定义在样本空间S上的单值函数,1.定义,Interpretation of random variable:,S,e,Real line,Random variable is a function that assigns a numerical value to the outcome of the experiment.,A coin toss,S,e1,Real line,1,0,e2,Mapping of the outcome of a coin toss into the set of real number,A discrete random variable is a random variable that can be take on at most a countable number of possible values,根据随机变量取值的不同可以分为：连续型随机变量(Continuous random variable)离散型随机变量(Discrete random variable),2.概率分布列,Probability mass function(PMF),(1)(0,1)分布 随机变量的可能取值为0和1两个值，其概率分布为,PMF:,Bernoulli random variable,Let A be an event of interest in some experiment,e.g.,a device is not defective.We say that a“success”occurs if A occurs when we perform the experiment.Bernoulli random variable IA is equal to 1 if A occurs and zero otherwise.,(2)Binomial,独立地进行n次贝努利试验，事件A发生m次的概率,刚好是 展开的第m+1项的系数,例：雷达双门限检测器,Example:Transmission error in a binary communications channel.Let X be the number of errors in n independent transmissions.Find the PMF of X.Find the probability of one or fewer errors,The probability of k errors in n bits transmissions is given by the probability of an error pattern that k 1s and n-k 0s,X is a binomial random variable,例：信息传输问题（Message Transmissions）,Let X be the number of times needs to be transmitted until it arrivers correctly at its destination.Find the probability that X is an a even number.,X is a discrete random variable taking on values from S=1,2,3,.,(3)geometric random variable,The event X=k occurs if k-1 consecutive erroneous transmissions(failures)followed by a error-free one(success),X is called the geometric random variable,泊松分布(Poisson distribution),例：交通路口在单位时间内通过的车辆数,1.3 分布函数和概率密度函数,Probability Density Function,（PDF）,Distribution Function or Cumulative Distribution Function,(CDF),1.定义,2.分布函数的性质（Properties of the CDF）,分布函数是右连续的不减函数，在负无穷处为零，正无穷处为1。对于连续型随机变量，取某一特定值的概率是为零的。即PX=x=0,对于离散型随机变量，分布函数为阶梯函数，阶梯的跳变点出现在随机变量的取值点上，跳变的高度为随机变量取该值的概率。,对于离散型随机变量，PMF与CDF的关系为,概率密度,对于离散型随机变量，它的概率密度函数是一串函数之和，函数出现在随机变量的取值点，强度为取该值的概率。,3.常见概率分布 正态分布（Normal），也称高斯（Gauss）分布,标准正态分布函数,瑞利分布（Rayleigh）,瑞利分布概率密度2,指数（Exponential）分布,指数分布概率密度,对数正态分布（LogNormal）,高分辨率雷达杂波分布,对数正态分布概率密度,为尺度参数为形状参数,1.4 多维随机变量及其分布 Multiple Random Variables and Distributions,1.定义,2.二维分布函数和概率密度 Bivariate CDF and PDF,二维分布函数图解,定义：,二维分布函数性质：,二维概率密度：,由二维概率密度可以求出边缘概率密度,随机变量落在某个区域的概率,3.条件分布(Conditional Distribution),条件分布函数,条件概率密度,称随机变量X、Y独立,Example:Communication Channel with Discrete Input and Continuous Output,noise voltage NU(-2,2),通信信道,X:+1 or-1,Find PX=+1,Y0,Y,Solution:,Therefore,1.5 随机变量的数字特征 均值 方差 协方差与相关系数 协方差矩阵 举例,1.均值（Mean),算术平均：所有可能取值等概率加权统计平均值：所有可能取值按概率加权,连续型随机变量：,离散型随机变量：,性质：,如果X和Y相互独立，,如果EXY=0，则称X和Y正交(Orthogonal)。,2.方差(Variance),方差反映了随机变量X的取值偏离其均值的偏离程度或分散程度，D(X)越大，则X的取值越分散。,性质：,如果X1,X2,.,Xn相互独立。,Variance is a nonlinear operator,3.协方差和相关系数(Covariance and Correlation coefficient),如果X和Y相互独立，则rXY=0，|rXY|=1的充要条件是PY=aX+b=1,If X and Y are independent,then X and Y are uncorrelated.,The correlation coefficient provides a measure of how good a prediction of the value of one of the two RVs can be formed based on an observed value of the other.,不相关就认为X与Y没有关系吗？,例：为零均值正态随机变量，Y 与X相关吗？,Y是依赖于X的(Dependence)，但Y与X不相关(Uncorrelated),线性不相关的。,Independent implies zero covariance but zero covariance does not imply independence.,Example:Uncorrelated but dependent random variablesLet be uniformly distributed in the interval(0,2)。Let,X and Y are uncorrelated but dependent,注意英文单词的区别:Correlation(Uncorrelated)Dependent（Independent),It can be shown that,4.协方差矩阵（Covariance Matrix）,多维随机变量通常用协方差矩阵来描述随机变量之间的相互关系。,协方差矩阵是对称（共轭对称）的；如果变量之间是不相关的，则K是一个对角阵。,例1:(0,1)分布随机变量，PX=1=p,PX=0=q=1-p,求X的均值和方差,5.Expected value of some important random variable,例2(a,b)上均匀分布的随机变量，求均值和方差,例3 求瑞利分布随机变量的均值和方差。,常用分布及其数字特征归纳,Uniform Random Variable,Exponential Random Variable,Gaussian Random Variable,Remark:Under a wide range of conditions X can be used to approximate the sum of a large number of independent random variable.,Gamma Random Variable,Remark:Chi-Square random variable with k degree of freedom:k=2,=1/2,Laplacian Random Variable,Rayleigh Random Variable,随机变量的定义与分布（1）概率的基本术语：随机试验 基本事件 随机事件 样本空间，频率与概率（2）随机变量的定义 从样本空间到实轴的映射（3）随机变量的分布 PMF CDF PDF 典型随机变量的分布（4）条件分布,小结,随机变量的数字特征均值 反映随机变量取值的统计平均值方差 随机变量取值偏离均值的偏离程度相关系数 X与Y线性程度的度量 注意：线性不相关并不意味他们没有关系 注意与独立的差别4.协方差矩阵5.常见随机变量的数字特征,
