计算方法 最佳平方逼近 最小二乘法ppt课件.ppt
第5次 最佳平方逼近与曲线拟合的最小二乘法,计算方法(Numerical Analysis),主要内容,最佳平方逼近曲线拟合的最小二乘法,最佳平方逼近,函数逼近的类型,最佳一致逼近：使用多项式对连续函数进行一致逼近。逼近误差使用范数,度量。,最佳平方逼近：使用多项式s(x)对连续函数f(x)进行平方逼近。逼近误差使用范数,度量。,权函数,这种度量太强,练习：,权函数的定义,权函数(x)和基函数乘法的积分,权函数的非0性质,权函数的意义：强化或弱化某部分积分函数值的影响。例如：在0, 5上，取 则积分,起到了弱化g(x)在区间0, 1的函数值，强化g(x)在区间1, 5的函数值的作用。,离散权函数：在学生成绩系统中总分=a*平时分+b*实验分+c*作业分+d*期末分例如，老师录入系数：a=0.1，b=0.2, c=0.1, d=0.6，则a, b, c, d即为离散的权函数。,由内积可以定义范数(度量)：,内积的定义：,4 最佳平方逼近,满足,连续函数的最佳平方多项式逼近,讨论：,最佳平方多项式逼近：采用1, x, x2 ,xn 作为基函数，由此生成的多项式对f(x)进行平方逼近.,中的函数对已知的连续函数f(x)进行逼近。,由此生成的线性空间,连续函数的在线性空间最佳平方逼近,【注】,为了求极值，设,(3.3),展开成方程组形式：,从而,应该是f(x)的最佳平方逼近函数。,计算积分,结论:,2) 逼近误差公式（证明推导，见下页）：,是f(x)在集合 上的最佳平方逼近函数。 证明（略）,逼近误差公式证明,只需证明,根据之前S*(x)存在性证明过程中得到的(3.3)式，即：,证明完毕。,即：,整理上式，得,推导在最后一页PPT,得最佳平方逼近多项式为：,1,1,红色,同学们自己求一下,1/4,1,1,0.37,1.02,Home,曲线拟合的最小二乘法,3.4. 曲线拟合的最小二乘法,若已知f(x)在点xi(i=1,2,n)处的值yi,便可根据插值原理来建立插值多项式作为f(x)的近似。,但在科学实验和生产实践中，往往会遇到下述情况：节点上的函数值是由实验或观测得到的数据，带有 测量误差，若要求近似函数曲线通过所有的点 (xi,yi)，就会使曲线保留着一切测试误差；,3) 由实验或观测提供的数据个数往往很多，如果用插 值法,势必得到次数较高的插值多项式，计算很烦琐。,2) 当个别数据的误差较大时，插值效果可能不理想；,最小二乘法的思想,求一条曲线,使数据点均在离此曲线的上方或下方不远处,所求的曲线称为拟合曲线,它既能反映数据的总体分布,又不至于出现局部较大的波动；更能反映被逼近函数的特性,使求得的逼近函数与已知函数从总体上来说其偏差按某种方法度量达到最小。,为此，希望从给定的数据(xi,yi)出发,构造一个近似函数 ,不要求函数 完全通过所有的数据点，只要求所得的近似曲线能反映数据的基本趋势，如图3.1所示。,图3.1 曲线拟合示意图,在某种意义上,曲线拟合更有实用价值。,y=(x),x,y,在对给出的实验(或观测)数据作曲线拟合时,怎样才算拟合得最好呢？一般希望各实验(或观测)数据与拟合曲线的偏差的平方和最小,这就是最小二乘原理。,两种逼近概念: 插值: 在节点处函数值相同. 拟合: 在数据点处误差平方和最小,问题的提出：函数解析式未知,通过实验观测得到的一组数据, 代表f(x)在区间a, b上的一系列点的函数值 yi= f(xi)，通常由函数表来表达。,y=f(x),要求出一个比较简单的函数,不要求函数 完全通过所有的数据点，只要求所得的近似曲线 能反映数据的基本趋势。,希望在某种范数下，误差,比较小。,y=(x),很多情况下，y=f(x)的表达式是未知的,当使用2范数的时候,要求：,这种要求误差（偏差）平方和最小的拟合称为曲线拟合的最小二乘法。,为最小。,设已知数据点 分布大致为一条直线。作拟合直线 , 该直线不是通过所有的数据点 ,而是使偏差平方和,为最小，其中每组数据与拟合曲线的偏差为,（1）直线拟合,这是关于a0 ，a1 的连续可导函数,即得如下正规方程组,(3.1),根据最小二乘原理，应取 和 使 有极小值，故 和 应满足下列条件：,例3.21 设有某实验数据如下：,用最小二乘法求以上数据的拟合函数 。,设所求的拟合直线为,解:把表中所给数据画在坐标纸上,将会看到数据点的分布可以用一条直线来近似地描述。,则正规方程组为,计算，得到,x1=1.36, x2=1.37, x3 =1.95, x4 =2.28, y1 =14.094, y2= 16.844, y3=18.475, y4=20.963,解得：,于是得拟合直线方程： y= 8.5027865 + 5.4357032x,a0 = 8.5027865a1 = 5.4357032,将以上数据代入上式正规方程组,得,拟合直线方程：y= 8.5027 + 5.4357x,计算误差：,（2）多项式拟合,来拟合所给定的数据，,为最小,寻求次数不超过n (nm ) 的多项式：,有时所给数据点的分布并不一定近似地呈一条直线,此时，可用多项式拟合。对于给定的一组数据,使偏差的平方和,这是关于a0 ，a1 ，, an的连续可导函数.,上述拟合多项式的构造问题可归结为多元函数的极值问题。令,得,整理之后得,这是关于系数 的线性方程组，称为正规方程组。可以证明，正规方程组有唯一解。,(3.2),将上式针对k与j展开，得,m个数据之和,计算“和”,例3.22 设某实验数据如下：,用最小二乘法求一个多项式拟合这组数据。,解：将已给数据点描在坐标系中，可以看出这些点接近一条抛物线。,x,y,0,1,2,3,4,5,1,3,2,4,5,计算得：,因此设所求的多项式为,得：,其正规方程组为,解之得:,所求多项式为:,x,y,0,1,2,3,4,5,1,3,2,4,5,x=0, y=4.7143; x=1, y=2.4286x=2, y=1.1429; x=3, y=0.8572x=4, y=1.5715; x=5, y=3.2858,x=0, y=4.7143; x=1, y=2.4286; x=2, y=1.1429; x=3, y=0.8572; x=4, y=1.5715; x=5, y=3.2858,例 已知实测数据表,试用最小二乘法求多项式曲线与此数据组拟合.,解：令,，则正规方程组为：,同学们自己计算，求出a0 ,a1,经过计算，得到：,解之，得：,所求直线方程为:,误差:,（4）可化为线性拟合的非线性拟合,有些非线性拟合曲线可以通过适当的变量替换转化为线性曲线，从而用线性拟合进行处理，这部分本课程不做要求,连续函数最佳平方逼近和对数据的曲线拟合的区别,连续函数f(x)Ca, b最佳平方逼近 在a, b上，用 Span 1(x), 2(x), , n(x) 中的函数(x)（通常是多项式）逼近连续函数f(x)。需要计算一系列定积分,2. 数据曲线拟合给定一组实验数据 xi , yi , i=1, 2,n需要求出一条曲线 y=P(x)（通常是多项式）, 使得该曲线和这些数据最接近拟合曲线y=P(x)和数据点的个数n无关需要计算“和”,作业 P94: 13 P95: 17，18,Home,
