线性系统辨识方法.ppt

第四讲 线性系统辨识方法,最小二乘方法极大似然法预报误差法梯度校正参数辨识方法,一、最小二乘方法,成批最小二乘方法最小二乘估计的统计性质递推最小二乘方法基本最小二乘方法的缺陷及其解决办法增广最小二乘方法、广义最小二乘方法、多级最小二乘方法、辅助变量法等最小二乘类辨识方法的比较,1、时不变SISO系统与最小二乘问题,SISO系统,最小二乘辨识问题：,根据输入输出数据，在极小化下列准则函数,2.成批估计,假设有L组观测数据,可写成矩阵向量形式,Astrom于1965年给出了可辨识的充分必要条件（p137）,3.参数估计的统计特性,有效性：对于固定观测次数L，方差最小的估计称为有效估计。,4.递推最小二乘(RLS),算法,5.基本最小二乘法的缺陷及解决方法,当模型噪声为有色噪声时，最小二乘参数估计不是无偏的，是一个有偏的估计。随着数据的增长，最小二乘法出现所谓的“数据饱和”现象 解决办法：遗忘因子法 限定记忆法,6.增广最小二乘法(RELS),注：该方法将噪声模型的辨识考虑进出，扩充了参数向量和数据向量。,7.广义最小二乘法,辅助变量法、两步法、多级最小二乘法,8.最小二乘类辨识方法的比较,辨识精度收敛性质计算量所需要的先验知识参见书本198页,二、极大似然法,基本思想：构造一个以数据和未知参数为自变量的似然函数，当这个函数在某个参数值上达到极大时，就得到了系统模型参数的估计值。,参数估计的极大似然法原理,注 意,概率密度函数和似然函数的区别，数学表达形式一致，物理含义不同。物理意义见书本230页极大似然估计量都具有良好的渐近性质和无偏性,三、预报误差法,预报误差法是极大似然法的一种推广，用于解决更加一般的问题（数据的概率分布不知道），当数据的概率分布服从正态分布时，预报误差法等价于极大似然法。注：（1）该方法是通过极小化某种准则来获得参数估计值；（2）优化算法问题（3）统计性质,四、梯度校正参数辨识法,新参数估计值=旧参数估计值+增益矩阵*新息,确定性问题的梯度校正参数辨识法随机逼近法,