平稳时序模型.ppt
平稳时间序列模型,时间序列的预处理,平稳性检验纯随机性检验,时间序列的预处理,时间序列,平稳性检验,平稳性时间序列,非平稳性时间序列,纯随机性检验,白噪声序列(纯随机序列),平稳非白噪声序列,无规律可循,分析结束,ARMA模型,1.确定性分析2.随机性分析(ARIMA模型),平稳时间序列的意义,时间序列数据结构的特殊性可列的多个随机变量,而每个变量只有一个样本观察值平稳性的重大意义极大地减少了随机变量的个数,并增加了待估变量的样本容量极大地简化了时序分析的难度,减少了待估参数的个数,图检验(特点),这种方法是通过观察时间序列的趋势图和自相关图来判断时间序列是否存在趋势性或周期性。优点:简便、直观。对于那些明显为非平稳的时间序列,可以采用这种方法。缺点:对于一般的时间序列是否平稳,不易用这种方法判断出来。,(1)时序图检验(判断准则),根据平稳时间序列均值、方差为常数的性质,平稳序列的时序图应该显示出该序列始终在一个常数值附近随机波动,而且波动的范围有界、无明显趋势及无周期特征,(2)自相关图检验(判断准则),平稳序列通常具有短期相关性。该性质用自相关系数来描述就是随着延迟期数的增加,平稳序列的自相关系数会很快地衰减向零。若时间序列的自相关函数在k3时都落入置 信区间,且逐渐趋于零,则该时间序列具有平稳性;若时间序列的自相关函数更多地落在置信区间外面,则该时间序列就不具有平稳性。,若序列无趋势,但是具有季节性,那末对于按月采集的数据,时滞12,24,36的自相关系数达到最大(如果数据是按季度采集,则最大自相关系数出现在4,8,12,),并且随着时滞的增加变得较小。,若序列是有趋势的,且具有季节性,其自相关函数特性类似于有趋势序列,但它们是摆动的,对于按月数据,在时滞12,24,36,等处具有峰态;如果时间序列数据是按季节的,则峰出现在时滞4,8,12,等处。,例2.1时序图,例2.1自相关图,例2.2时序图,例2.2 自相关图,例2.3时序图,例2.3自相关图,2.2 纯随机性检验,纯随机序列也称为白噪声序列,它满足如下两条性质,标准正态白噪声序列时序图,标准正态白噪声序列纯随机性检验,样本自相关图,白噪声序列的性质,纯随机性 各序列值之间没有任何相关关系,即为“没有记忆”的序列 方差齐性(平稳)根据马尔可夫定理,只有方差齐性假定成立时,用最小二乘法得到的未知参数估计值才是准确的、有效的,时间序列的建模原理,动态性,动态性:就是指时间序列各观测值之间的相关性。从系统的观点看:动态性即指系统的记忆性,也就是某一时刻进入系统的输入对系统后继行为的影响,图示如下:,系统,输入,输出(响应),例,(1)某人在某一天打了一针,如果当天的反应是疼痛,而以后没有其它反应,那么系统的输入、输出如下:,时间 t:1 2 3 4 5输入 at:0 1 0 0 0输出 xt:0 0 0 0,这种状况可用模型概括为:,(2)如果此人在打针后当天没有什么感觉,而第二天出现了红肿,那么系统的输入、输出如下:,时间 t:1 2 3 4 5输入 at:0 1 0 0 0输出 xt:0 0 0 0,这种状况可用模型概括为:,(3)如果当天的反应是疼痛,第二天出现了红肿,那么:,时间 t:1 2 3 4 5输入 at:0 1 0 0 0输出 xt:0 0 0,这种状况可用模型概括为:,(4)如果打针以后各个时刻都存在相应的反应,那么,关于该刺激的总的概括为:,上式中:,总称为记忆函数,其中 为at-j对xt 的影响程度,输入与输出是由记忆函数联结起来的。由于系统具有记忆性,我们可以用过去的数据预测未来。,时间序列模型的种类,自回归模型移动平均模型自回归移动平均模型,统计模型的一般形式,时间序列模型的一般形式,模型,AR模型(Auto Regression Model)MA模型(Moving Average Model)ARMA模型(Auto Regression Moving Average model),AR模型的定义,具有如下结构的模型称为 阶自回归模型,简记为特别当 时,称为中心化 模型,(一).一阶自回归模型,AR(1)1.设xt为零均值的平稳过程,如果关于xt的合适模型为:,其中:(1)t是白噪声序列(E t=0,Var(t)=2,cov(t,t+k)=0,k0),(2)假定:E(xt,s)=0(ts),那么我们就说xt遵循一个一阶自回归或AR(1)随机过程。,自回归模型(Auto regressive model,AR),可见,AR(1)模型中,xt在t时刻值依赖于两部分,一部分依赖于它的前一期的值xt-1;另一部分是依赖于与xt-1不相关的部分t,2.可将AR(1)模型写成另一种形式:,通过这一种形式可以看出,AR(1)模型通过消除xt中依赖于xt-1的部分,而使相关数据转化成了独立数据。,3.随机游走模型如果一个时间序列xt的合适的模型为如下的形式:,其中:t为白噪声序列,那么就称该模型为随机游走模型,这样的时间序列称随机游走过程。,注意:随机游走过程是非平稳时间序列。,证明:,随机游走通常被比作一个醉汉的游走。,BAR,虽然随机游走过程是非平稳的,但是我们看到,它的一阶差分却是平稳的:,有些研究表明,许多经济时间序列呈现出随机游走或至少有随机游走的成分,如股票价格,这些序列虽然是非平稳的,但它们的一阶(或高阶)差分却是平稳的。BoxJenkins就是利用差分这种数学工具来使非平稳序列转化为平稳序列的。,有关随机走的单位根(Unit root)检验,我们以后将作介绍,1.设xt为零均值的平稳过程,如果关于xt的合适模型为,(二)二阶自回归模型,AR(2),其中:(1)t是白噪声序列,(2)假定:E(xt,s)=0(ts),那么我们就说xt遵循一个二阶自回归或AR(2)随机过程。上述模型就是AR(2)模型。,2.AR(2)模型的等价形式,通过等价形式可以看出,AR(2)模型通过将xt中依赖于xt-1、xt-2的部分剔除掉,而使数据转化成了独立数据t。,1.如果关于xt的合适模型为:,(三)一般自回归模型,AR(p),那么,就称xt满足p阶自回归模型,记作AR(p)。(假设条件同前),2.AR(p)模型的等价形式,通过等价形式可以看出,AR(p)模型通过将xt中依赖于xt-1、xt-2xt-p的部分剔除掉,而使数据转化成了独立数据t。,MA模型的定义,具有如下结构的模型称为 阶自回归模型,简记为特别当 时,称为中心化 模型,移动平均模型(moving average model,MA),(一)一阶移动平均模型,MA(1)如果关于xt(假设同前)的合适的模型如下:,其中:t为白噪声序列,那么就称xt满足一阶移动平均模型,记作MA(1),MA(1)模型表明,xt依赖于两部分,一部分为t-1,另一部分为t,一般移动平均模型的形式:,(二)一般移动平均模型,MA(q),其中:t为白噪声序列。,从一般移动平均模型可以看出,xt仅与t,t-1,t-q有关,而与t-j(jq)无关。,ARMA模型的定义,具有如下结构的模型称为自回归移动平均模型,简记为特别当 时,称为中心化 模型,自回归移动平均模型,ARMA(p,q),1.自回归移动平均模型的一般形式,如果xt即有AR模型特性,又有MA模型的特性,那么它可以用如下的线性模型来描述:,其中:(1)t是白噪声序列,(2)假定:E(xt,s)=0(ts),那么我们就说xt满足自回归移动平均模型,记为ARMA(p,q)。,例如,ARMA(2,1),ARMA(3,2),从以上可以看出AR、MA、ARMA(p,q)等模型均可以看作是 ARMA(p,p-1)模型的特例,这为我们提供了一种很好的建模策略,即建模时,可以通过逐渐增加ARMA(p,p-1)模型的阶数,逐渐找到最有效的模型。,思考:如果xt是一个非零均值的平稳时间序列,怎么对其建立模型?,AR(P)序列中心化变换,称 为 的中心化序列,令,自回归系数多项式,引进延迟算子,中心化 模型又可以简记为 自回归系数多项式,移动平均系数多项式,引进延迟算子,中心化 模型又可以简记为 阶移动平均系数多项式,系数多项式,引进延迟算子,中心化 模型又可以简记为 阶自回归系数多项式 阶移动平均系数多项式,一、时间序列模型的平稳性二、时间序列模型的可逆性三、自回归模型的平稳性条件四、移动平均模型的可逆性条件,ARMA模型的平稳性和可逆性,一、时间序列模型的平稳性(Stationarity),平稳性的定义:,如果一个时间序列模型可以写成如下形式:,其中,xt为零均值平稳序列,at为白噪声,且满足条件 就称该模型是平稳的。(上式又称Wold展开式),对于一个有限阶的MA(q)模型,总有:,所以,一个有限阶的MA(q)模型总是平稳的。,二、时间序列模型的可逆性(ivertibility),如果一个时间序列(未必平稳)的模型可以写成如下形式:,其中:at为白噪声,且有那么,就称这个模型是可逆的。,对于一个有限阶的自回归模型AR(P),总有:,所以,一个有限阶的AR(P)模型总是可逆的。,自回归表示有助于理解预测机制,Box和Jenkins证明,在预测时,一个非可逆过程是毫无意义的。,一个可逆过程不一定是平稳的,对于一个有限阶的AR(P)模型:,三、自回归过程的平稳性条件(stationarity condition),它是平稳过程的必要条件是:的根都在单位圆外,即如果1,2,p是 的根,那么它们的绝对值必须大于1,注,移项得,推导过程如下,由,根据数学知识,上式可以展开为幂级数,即,根据平稳性的条件有:,即级数 必须收敛。,而要满足这个条件,则必须有:的根都在单位圆外。,通过上述推导,可以得出如下结论:一个有限阶的AR(P)模型,可以表示成一个无限阶的MA模型,例如,对于一阶自回归过程:,它的特征方程为:,它的特征根为:,则平稳性条件为:,四、移动平均过程的可逆性条件(invertibility condition),类似前面的结论,一个平稳的过程也不一定是可逆的。同样,对于一个有限阶的MA(q)模型:,它是可逆过程的必要条件是:的根都在单位圆外,即如果B1,B2,Bq是 的根,那么它们的绝对值都必须大于1,移项得,推导过程同前,由,根据数学知识,上式可以展开为幂级数,即,根据可逆性的条件有:,即级数 必须收敛。,而要满足这个条件,则必须有:的根都在单位圆外,,例如,对于一阶移动平均过程:,它的特征方程为:,它的特征根为:,则可逆性条件为:,同样也可以得出如下结论:一个有限阶的MA(q)模型,可以表示成一个无限阶的AR模型,对于一个ARMA(p,q)模型,只有当特征方程:和 的根都在单位圆外,那么这个模型才既是平稳的又是可逆的。,