时间序列分析方法 第13章 Kalman滤波.docx

《时间序列分析方法 第13章 Kalman滤波.docx》由会员分享，可在线阅读，更多相关《时间序列分析方法 第13章 Kalman滤波.docx（8页珍藏版）》请在三一办公上搜索。

1、时间序列分析方法讲义 第13章 卡尔曼滤波第十三章 卡尔曼滤波在本章中，我们介绍一种被称为卡尔曼滤波的十分有用的工具。卡尔曼滤波的基本思想是将动态系统表示成为一种称为状态空间表示的特殊情形。卡尔曼滤波是对系统线性投影进行序列更新的算法。除了一般的优点以外，这种算法对计算确切的有限样本预测、计算Gauss ARMA模型的确切似然函数、估计具有时变参数的自回归模型等，都提供了重要方法。13.1 动态系统的状态空间表示我们已经介绍过一些随机过程的动态表示方法，下面我们在以前的假设基础上，继续分析动态系统的表示方法。13.1.1 继续使用的假设假设表示时刻观测到的n维随机向量，一类非常丰富的描述动态性

2、的模型可以利用一些可能无法观测的被称为状态向量(state vector)的r维向量表示，因此表示动态性的状态空间表示(state-space representation)由下列方程系统给出： 状态方程(state model) (13.1) 量测方程(observation model) (13.2)这里，和分别是阶数为，和的参数矩阵，是的外生或者前定变量。方程(13.1)被称为状态方程(state model)，方程(13.2)被称为量测方程(observation model)，维向量和维向量都是向量白噪声，满足： (13.3) (13.4)这里和是和阶矩阵。假设扰动项和对于所有阶滞后

3、都是不相关的，即对所有和，有： (13.5)是外生或者前定变量的假定意味着，在除了包含在内的信息以外，没有为和()提供任何新的信息。例如，可以包括的滞后值，也可以包括与和(任意)不相关的变量。方程系统中方程(13.1)至方程(13.5)可以表示有限观测值的序列，这时需要状态向量初始值。假设与和的任何实现都不相关：，对任意 (13.6)，对任意 (13.7)状态方程(13.1)表明，可以表示成为的线性函数：， (13.8)因此，方程(13.6)和方程(13.3)意味着与所有的滞后值都是不相关的：， (13.9)类似地，可以得到：， (13.10)， (13.11)， (13.12)上述系统是相当

4、灵活的，它的一些结论也可以推广到与相关的系统中，而且系数矩阵也可以是时间的函数。如果我们仅仅关注到上述系统的基本形式，则下面的论述将是十分清晰的。13.1.2 状态空间表示的例子考虑一元过程：这个过程可以表示成为下面的状态空间模型形式：状态方程() (13.13)量测方程： (13.14)对应地，我们指定：，这里变量和参数矩阵对应为：，注意到这里的状态方程只是一个一阶向量自回归方程，量测方程只是一个简单的等式。因此，我们已经看到，状态空间表示只是总结过程的另外一种方式。将过程表示成为这种方式的原因在于，这样可以获得归纳过程动态性的合适方式，这是我们对任何系统状态空间表示感兴趣的基本原因。另外一

5、个例子是，我们考虑一元过程：对应地，它可以表示成为状态空间模型形式为：状态方程()：量测方程()：这里：，将给定系统表示成为状态方程的方式有多种。例如，可以将过程表示成为下面类型的状态空间模型：状态方程()：量测方程()：显然上面的过程、两种状态空间模型表示都是具有相同特征的过程表示，这三种表示都具有相同的预测和相同的似然函数值，也就无须讨论哪一种方式更为合适。更一般地，一元模型可以通过定义进行状态空间模型表示： (13.15)这里的参数约束是：当时，；当时，。考虑下列状态空间模型表示为：状态方程()： (13.16)量测方程()： (13.15)为了验证方程(13.16)和方程(13.17)

6、表示了系统与方程(13.15)一致，假设表示向量的第j个元素，因此状态方程的第2行表示：第3行表明：更一般地，第j行表示：因此状态方程的第1行意味着：或者： (13.18)量测方程表明： (13.19)在方程(13.19)两端乘以算子多项式，并利用方程(13.18)，可以得到：这就是原来的模型，即方程(13.15)。状态空间形式是描述随机过程的和，或者测量误差结果的模型的非常合适的方式。例如，Fama和Gibbons (1982)开始着手研究事前实际利率(ex ante real interest rate )行为 (事前实际利率是名义利率减去预期通货膨胀率)。由于经济计量学家通过证券市场推断

7、的预期通货膨胀率的数据，因此这个变量不是可以观测的。因此在这种应用中状态变量是一个标量，即：，这里表示平均事前实际利率。Fama和Gibbons (1982)假设事前实际利率服从过程： (13.20)经济计量学家可以观测到事后实际利率(名义利率减去真实通货膨胀率)，这可以表示为： (13.21)这里是人们预测通货膨胀率时的误差。如果人们以最优的方式形成通货膨胀率预测，则与自身的滞后值和事前实际利率是无关的。因此方程(13.20)和方程(13.21)是状态空间模型，这里，。状态空间模型框架的另外一个有趣例子是Stock和Waston (1991)的研究，他们假设存在表示经济周期状态的不可观测变量

8、。假设是个可以观测的宏观经济变量，每个都受到经济周期的影响，并且具有与中移动不相关的奇异成分(表示为)。如果经济周期和每个奇异成分可以利用一元过程描述，则维状态向量是： (13.22)该状态变量具有的状态方程为： (13.23)量测方程为： (13.24)因此，参数描述第i个序列对经济周期反应的敏感性。为了出现和描述p阶动态性，Stock和Waston (1991)将方程(13.22)中的和替换为阶向量和，这时是维向量。这时方程(13.23)中的标量需要利用阶矩阵替换，该矩阵结构与方程(13.13)类似。还需要在量测方程(13.24)中的列中加入阶数为的零子块。13.2 卡尔曼滤波的推导卡尔曼

9、滤波是估计状态空间模型的重要方法，也是应用广泛的参数估计方法。下面我们介绍卡尔曼滤波的有关公式。13.2.1 卡尔曼滤波的回顾 Overview of the Kalman Filter考虑上述讨论的状态空间模型的一般形式，为了方便，我们将使用的一些关键方程在这里重复表示如下：，假设我们已经得到了观测值，；一个最终目标是基于这些观测值估计系统的所有未知参数。但是，目前我们暂时假设参数矩阵的特定数值都是确定性已知的。如何估计这些参数在后面的内容中讨论。卡尔曼滤波具有多种应用。它的基本动因是作为一种计算状态向量基于时刻t观测到的数据进行最小二乘预测的算法。 (13.25)这里：这里表示基于和常数的

10、线性投影。卡尔曼滤波是采用叠代算法计算这些预测的，按顺序分别产生，。与这些预测有关的是均方误差矩阵，可以由一个阶矩阵表示： (13.26)13.2.2 叠代的开始叠代首先从开始，表示在没有和观测值的基础上对的预测。这就是的无条件均值：与此相关的MSE为：例如，对系统的状态空间表示，状态向量为：这时有：，更一般地，如果矩阵的特征根都落在单位圆内，则状态方程表示的过程是协方差平稳的。因此，对状态方程两端取无条件数学期望，可以得到：由于过程是协方差平稳的，则有：由于矩阵没有单位根，因此矩阵是非奇异的，因此这个方程存在唯一零解，也就是有：。则的无条件方差也可以类似地得到，取矩阵的转置并取数学期望，可以

11、得到(由于存在正交性，下面的交叉项的数学期望为零)：假设矩阵表示的协方差矩阵，则有：这个方程的解可以表示为：因此，一般情况下，如果矩阵的特征根都落在单位圆内，因此卡尔曼滤波的叠代可以从和开始，这里的表示成为列向量可以从下式得到：如果矩阵的部分特征根落在单位圆上或者单位圆外，或者无法从状态方程中获得，这时可以利用分析者对初始的最优猜测来替代，而是归纳这种预测置信区间的正定矩阵。中对角线上比较大的数值对应着对真实取值较高的非确定性。13.2.3 预测给定开始的初值和，下一步是计算下一个时期类似的数量和。由于计算对都具有相同的形式，因此我们讨论在时刻t的一般形式。给定和，目的是计算和。首先，我们需要

12、注意到，我们假设除了包含在内的信息以外，不再包含关于的信息，因此有：下面我们考虑对的预测：注意到根据状态方程，可以得到：因此，根据投影的叠代定律，有：这个预测的误差为：因此预测的MSE为：由于，因此上式中交叉项为零。这个正交条件需要根据假设和投影性质加以验证。这时可以将MSE表示为：13.2.4 关于推断的更新给定开始的初值和，下一步是计算下一个时期类似的数量和。由于计算对13.2.5 产生的预测给定开始的初值和，下一步是计算下一个时期类似的数量和。由于计算对13.2.6 归纳和注释给定开始的初值和，下一步是计算下一个时期类似的数量和。由于计算对13.3 基于状态空间表示的预测 Forecas

13、ts Based on the State-Space Representation13.4 参数的极大似然估计 Maximum Likelihood Estimation of Parameters13.5 稳态卡尔曼滤波 The Steady-State Kalman Filter13.5.1 卡尔曼滤波的收敛性13.6 光滑 Smoothing 13.7 利用卡尔曼滤波的统计推断 Statistical Inference with Kalman Filter我们已经介绍过一些随机过程的动态表示方法，下面我们在以前的假设基础上，继续分析动13.8 时变参数 Time Varying Parameter我们已经介绍过一些随机过程的动态表示方法，下面我们在以前的假设基础上，继续分析动8