线性平稳时间序列模型.ppt
第三章 线性平稳时间序列模型,第一节 时间序列的预处理第二节 线性平稳时间序列建模原理第三节 线性平稳时间序列的种类第四节 ARMA模型的平稳性和可逆性,第一节 时间序列的预处理第二节 线性平稳时间序列建模原理第三节 线性平稳时间序列的种类第四节 ARMA模型的平稳性和可逆性,第一节 时间序列的预处理,一、平稳性检验二、纯随机性检验,返回本节首页,下一页,上一页,时间序列的预处理,返回本节首页,下一页,上一页,时间序列,平稳性检验,平稳性时间序列,非平稳性时间序列,纯随机性检验,白噪声序列(纯随机序列),平稳非白噪声序列,无规律可循,分析结束,ARMA模型,1.确定性分析2.随机性分析(ARIMA模型),一、平稳性检验,1.平稳性定义(性质)2.平稳性检验的方法3.应用举例,返回本节首页,下一页,上一页,1.平稳性定义知识回顾,严平稳严平稳是一种条件比较苛刻的平稳性定义,它认为只有当序列所有的统计性质都不会随着时间的推移而发生变化时,该序列才能被认为平稳。宽平稳宽平稳是使用序列的特征统计量来定义的一种平稳性。它认为序列的统计性质主要由它的低阶矩决定,所以只要保证序列低阶矩平稳(二阶),就能保证序列的主要性质近似稳定。,返回本节首页,下一页,上一页,2.平稳性检验方法,(1)通过时间序列的趋势图来判断(2)通过自相关函数(ACF)判断特征根检验法单位根检验法非参数检验法,图检验方法,返回本节首页,下一页,上一页,图检验(特点),这种方法是通过观察时间序列的趋势图和自相关图来判断时间序列是否存在趋势性或周期性。优点:简便、直观。对于那些明显为非平稳的时间序列,可以采用这种方法。缺点:对于一般的时间序列是否平稳,不易用这种方法判断出来。,(1)时序图检验(判断准则),根据平稳时间序列均值、方差为常数的性质,平稳序列的时序图应该显示出该序列始终在一个常数值附近随机波动,而且波动的范围有界、无明显趋势及无周期特征,(2)自相关图检验(判断准则),平稳序列通常具有短期相关性。该性质用自相关系数来描述就是随着延迟期数的增加,平稳序列的自相关系数会很快地衰减向零。若时间序列的自相关函数在k3时都落入置 信区间,且逐渐趋于零,则该时间序列具有平稳性;若时间序列的自相关函数更多地落在置信区间外面,则该时间序列就不具有平稳性。,若序列无趋势,但是具有季节性,那末对于按月采集的数据,时滞12,24,36的自相关系数达到最大(如果数据是按季度采集,则最大自相关系数出现在4,8,12,),并且随着时滞的增加变得较小。,若序列是有趋势的,且具有季节性,其自相关函数特性类似于有趋势序列,但它们是摆动的,对于按月数据,在时滞12,24,36,等处具有峰态;如果时间序列数据是按季节的,则峰出现在时滞4,8,12,等处。,3.应用举例,例1 时序图 自相关图检验1951年2005年我国居民消费价格指数的平稳性例2 时序图 自相关图检验1990年1月1997年12月我国工业总产值序列的平稳性例3 时序图 自相关图检验1949年1998年北京市每年最高气温序列的平稳性,返回本节首页,下一页,上一页,例1 居民消费价格指数时序图,返回例题,例1居民消费价格指数自相关图,返回例题,例2 GIP时序图,返回例题,例2 GIP相关图,返回例题,例3 北京市最高气温时序图,返回例题,例3 北京市最高气温自相关图,返回例题,二、纯随机性检验,(一)纯随机序列的定义(二)纯随机性的性质(三)纯随机性检验,返回本节首页,下一页,上一页,(一)纯随机序列的定义,纯随机序列也称为白噪声序列,它满足如下两条性质,并不是所有平稳序列都值得建模!,纯随机序列无法预测,无法进一步建模!,返回本节首页,下一页,上一页,标准正态白噪声序列时序图,(二)白噪声序列的性质,纯随机性 各序列值之间没有任何相关关系,即为“没有记忆”的序列 方差齐性(平稳)根据马尔可夫定理,只有方差齐性假定成立时,用最小二乘法得到的未知参数估计值才是准确的、有效的,返回本节首页,下一页,上一页,(三)纯随机性检验,1.检验原理2.假设条件3.检验统计量 4.判别原则5.应用举例,返回本节首页,下一页,上一页,1.检验原理:Barlett定理,如果一个时间序列是纯随机的,得到一个观察期数为 的观察序列,那么该序列的延迟非零期的样本自相关系数将近似服从均值为零,方差为序列观察期数倒数的正态分布,返回本节首页,下一页,上一页,2.假设条件,原假设:延迟期数小于或等于 期的序列值之间相互独立备择假设:延迟期数小于或等于 期的序列值之间有相关性,返回本节首页,下一页,上一页,3.检验统计量,Q统计量(大样本)LB统计量(小样本),返回本节首页,下一页,上一页,4.判别原则,拒绝原假设当检验统计量大于 分位点,或该统计量的P值小于 时,则可以以 的置信水平拒绝原假设,认为该序列为非白噪声序列接受原假设当检验统计量小于 分位点,或该统计量的P值大于 时,则认为在 的置信水平下无法拒绝原假设,即不能显著拒绝序列为纯随机序列的假定,返回本节首页,下一页,上一页,5.应用举例,例4:标准正态白噪声序列纯随机性检验。例3 续 对19491998年北京市最高气温序列做白噪声检验。例5 对1950年1998年北京市城乡居民定期储蓄所占比例序列的平稳性与纯随机性进行检验。,返回本节首页,下一页,上一页,例4:标准正态白噪声序列纯随机性检验,样本自相关图,返回例题,检验结果,由于P值显著大于显著性水平,所以该序列不能拒绝纯随机的原假设。,返回例题,例3 续 对19491998年北京市最高气温序列做白噪声检验。,自相关图,返回例题,例3续 白噪声检验结果,由于P值显著大于显著性水平,所以不能拒绝序列纯随机的原假设。因而可以认为北京市最高气温的变动属于纯随机波动。这说明我们很难根据历史信息预测未来年份的最高气温。,返回例题,例5 时序图,返回例题,例5自相关图,返回例题,例5 白噪声检验结果,由于P值显著小于显著性水平,所以我们可以以很大的把握断定北京是城乡居民定期储蓄比例序列属于非白噪声序列。,返回例题,结合前面的平稳性检验结果,说明该序列不仅可以视为是平稳的,而且还蕴含着值得我们提取的相关信息。这种平稳非白噪声序列是目前最容易分析的一种序列。,返回本节首页,下一页,上一页,第二节 建立线性时序模型的原理 动态性,返回本节首页,下一页,上一页,动态性:就是指时间序列各观测值之间的相关性。从系统的观点看:动态性即指系统的记忆性,也就是某一时刻进入系统的输入对系统后继行为的影响,图示如下:,系统,输入,输出(响应),例,(1)某人在某一天打了一针,如果当天的反应是疼痛,而以后没有其它反应,那么系统的输入、输出如下:,时间 t:1 2 3 4 5输入 at:0 1 0 0 0输出 xt:0 0 0 0,这种状况可用模型概括为:,(2)如果此人在打针后当天没有什么感觉,而第二天出现了红肿,那么系统的输入、输出如下:,时间 t:1 2 3 4 5输入 at:0 1 0 0 0输出 xt:0 0 0 0,这种状况可用模型概括为:,(3)如果当天的反应是疼痛,第二天出现了红肿,那么:,时间 t:1 2 3 4 5输入 at:0 1 0 0 0输出 xt:0 0 0,这种状况可用模型概括为:,(4)如果打针以后各个时刻都存在相应的反应,那么,关于该刺激的总的概括为:,上式中:,总称为记忆函数,其中 为at-j对xt 的影响程度,输入与输出是由记忆函数联结起来的。由于系统具有记忆性,我们可以用过去的数据预测未来。,第三节 线性平稳时间序列模型的种类,一、自回归模型二、移动平均模型三、自回归移动平均模型四、求和自回归移动平均模型,返回本节首页,下一页,上一页,(一).一阶自回归模型,AR(1)1.设xt为零均值的平稳过程,如果关于xt的合适模型为:,其中:(1)at是白噪声序列(Eat=0,Var(at)=2,cov(at,at+k)=0,k0),(2)假定:E(xt,as)=0(ts),那么我们就说xt遵循一个一阶自回归或AR(1)随机过程。,一、自回归模型(Auto regressive model,AR),返回本节首页,下一页,上一页,可见,AR(1)模型中,xt在t时刻值依赖于两部分,一部分依赖于它的前一期的值xt-1;另一部分是依赖于与xt-1不相关的部分at,2.可将AR(1)模型写成另一种形式:,通过这一种形式可以看出,AR(1)模型通过消除xt中依赖于xt-1的部分,而使相关数据转化成了独立数据。,3.随机游走模型如果一个时间序列xt的合适的模型为如下的形式:,其中:at为白噪声序列,那么就称该模型为随机游走模型,这样的时间序列称随机游走过程。,注意:随机游走过程是非平稳时间序列。,证明:,随机游走通常被比作一个醉汉的游走。,BAR,虽然随机游走过程是非平稳的,但是我们看到,它的一阶差分却是平稳的:,有些研究表明,许多经济时间序列呈现出随机游走或至少有随机游走的成分,如股票价格,这些序列虽然是非平稳的,但它们的一阶(或高阶)差分却是平稳的。BoxJenkins就是利用差分这种数学工具来使非平稳序列转化为平稳序列的。,有关随机走的单位根(Unit root)检验,我们以后将作介绍,1.设xt为零均值的平稳过程,如果关于xt的合适模型为,(二)二阶自回归模型,AR(2),其中:(1)at是白噪声序列,(2)假定:E(xt,as)=0(ts),那么我们就说xt遵循一个二阶自回归或AR(2)随机过程。上述模型就是AR(2)模型。,思考:若建立AR(2)模型以后,上述假设不符合,说明了什么问题?,2.AR(2)模型的等价形式,通过等价形式可以看出,AR(2)模型通过将xt中依赖于xt-1、xt-2的部分剔除掉,而使数据转化成了独立数据at。,1.如果关于xt的合适模型为:,(三)一般自回归模型,AR(p),那么,就称xt满足p阶自回归模型,记作AR(p)。(假设条件同前),2.AR(p)模型的等价形式,通过等价形式可以看出,AR(p)模型通过将xt中依赖于xt-1、xt-2xt-p的部分剔除掉,而使数据转化成了独立数据at。,我们得到一个AR(p)模型后,要检验它是否符合实际,主要就是通过检验模型的有关假设是否成立来进行的,例如,如果检验出残差序列at不是白噪声序列,那么该模型就不是合适的模型。,二、移动平均模型(moving average model,MA),(一)一阶移动平均模型,MA(1)如果关于xt(假设同前)的合适的模型如下:,其中:at为白噪声序列,那么就称xt满足一阶移动平均模型,记作MA(1),返回本节首页,下一页,上一页,MA(1)模型表明,xt依赖于两部分,一部分为at-1,另一部分为at,一般移动平均模型的形式:,(二)一般移动平均模型,MA(q),其中:at为白噪声序列。,从一般移动平均模型可以看出,xt仅与at,at-1,at-q有关,而与at-j(jq)无关。,三、自回归移动平均模型,ARMA(p,q),1.自回归移动平均模型的一般形式,如果xt即有AR模型特性,又有MA模型的特性,那么它可以用如下的线性模型来描述:,其中:(1)at是白噪声序列,(2)假定:E(xt,as)=0(ts),那么我们就说xt满足自回归移动平均模型,记为ARMA(p,q)。,返回本节首页,下一页,上一页,例如,ARMA(2,1),ARMA(3,2),从以上可以看出AR、MA、ARMA(p,q)等模型均可以看作是 ARMA(p,p-1)模型的特例,这为我们提供了一种很好的建模策略,即建模时,可以通过逐渐增加ARMA(p,p-1)模型的阶数,逐渐找到最有效的模型。,参见课本P41,思考:如果xt是一个非零均值的平稳时间序列,怎么对其建立模型?,2.ARMA(p,q)模型的另一种表示方式,用Bk表示k步线性推移算子或延迟算子(backward shift operator,delay operator),则有,并令:,那么,ARMA(p,q)可简写为:,把 看作算子B的多项式,通常假定它们之间不出现公共因子。,例如,四、求和自回归移动平均模型(ARIMA,Integrated Autoregressive Moving average model),前面我们讨论的都是对平稳时间序列建立模型。如果序列xt是非平稳的,那么我们必须对其进行d次差分,把它变为平稳的序列dxt,然后用ARMA(p,q)作为它的模型,此时就称对原始序列xt建立了ARIMA(p,d,q)模型。其中:p为自回归部分项数,q指移动平均项数d为使序列平稳之前必须对其差分的次数,返回本节首页,下一页,上一页,ARIMA(2,1,2)表示先对时间序列进行一阶差分,使之转化为平稳序列,然后对平稳序列建立ARMA(2,2)模型。,例如:,ARIMA(p,0,q)就相当于ARMA(p,q)。,ARIMA(p,0,0)就相当于AR(p)。,ARIMA(0,0,q)就相当于MA(q)。,对于一个ARIMA(p,d,q)也可以用推移算子B表示如下,其中,一、时间序列模型的平稳性二、时间序列模型的可逆性三、自回归模型的平稳性条件四、移动平均模型的可逆性条件,第四节 ARMA模型的平稳性和可逆性,返回本节首页,下一页,上一页,一、时间序列模型的平稳性(Stationarity),平稳性的定义:,如果一个时间序列模型可以写成如下形式:,其中,xt为零均值平稳序列,at为白噪声,且满足条件 就称该模型是平稳的。(上式又称Wold展开式),返回本节首页,下一页,上一页,对于一个有限阶的MA(q)模型,总有:,所以,一个有限阶的MA(q)模型总是平稳的。,二、时间序列模型的可逆性(ivertibility),如果一个时间序列(未必平稳)的模型可以写成如下形式:,其中:at为白噪声,且有那么,就称这个模型是可逆的。,返回本节首页,下一页,上一页,对于一个有限阶的自回归模型AR(P),总有:,所以,一个有限阶的AR(P)模型总是可逆的。,自回归表示有助于理解预测机制,Box和Jenkins证明,在预测时,一个非可逆过程是毫无意义的。,一个可逆过程不一定是平稳的,对于一个有限阶的AR(P)模型:,三、自回归过程的平稳性条件(stationarity condition),它是平稳过程的必要条件是:的根都在单位圆外,即如果1,2,p是 的根,那么它们的绝对值必须大于1,返回本节首页,下一页,上一页,注,移项得,推导过程如下,由,根据数学知识,上式可以展开为幂级数,即,根据平稳性的条件有:,即级数 必须收敛。,而要满足这个条件,则必须有:的根都在单位圆外。,通过上述推导,可以得出如下结论:一个有限阶的AR(P)模型,可以表示成一个无限阶的MA模型,例如,对于一阶自回归过程:,它的特征方程为:,它的特征根为:,则平稳性条件为:,四、移动平均过程的可逆性条件(invertibility condition),类似前面的结论,一个平稳的过程也不一定是可逆的。同样,对于一个有限阶的MA(q)模型:,它是可逆过程的必要条件是:的根都在单位圆外,即如果B1,B2,Bq是 的根,那么它们的绝对值都必须大于1,返回本节首页,下一页,上一页,移项得,推导过程同前,由,根据数学知识,上式可以展开为幂级数,即,根据可逆性的条件有:,即级数 必须收敛。,而要满足这个条件,则必须有:的根都在单位圆外,,例如,对于一阶移动平均过程:,它的特征方程为:,它的特征根为:,则可逆性条件为:,同样也可以得出如下结论:一个有限阶的MA(q)模型,可以表示成一个无限阶的AR模型,对于一个ARMA(p,q)模型,只有当特征方程:和 的根都在单位圆外,那么这个模型才既是平稳的又是可逆的。,谢谢!,Thank you very much!,