数值分析ppt课件第3章函数逼近与曲线拟合.ppt

第3章 函数逼近与曲线拟合,3.1 函数逼近的基本概念3.2 正交多项式Lagrange and Chebyshev3.3 最佳一致逼近多项式3.4 最佳平方逼近多项式3.5 曲线拟和的最小二乘法3.6* 最佳平方三角逼近与快速傅里叶变换3.7* 有理逼近,本章基本内容,曲线拟合也叫函数逼近，就是用简单的函数P(x)近似代替函数f (x)，f (x)称为逼近（被拟合）函数， P(x)称为逼近（拟合）函数.,前面所学的插值函数也是函数逼近的一种重要的方法，它虽然在节点处函数值精确相等（甚至导数值也相等），但它的缺陷是在非节点处误差可能很大，即所谓的龙格现象就是一个例子。再一个原因是数据的来源可能也是有误差的，因此就没有必要非在节点处函数值相等。,3.1 函数逼近的基本概念,3.1.1 函数逼近与函数空间,本章讨论的函数逼近，是指对函数类A中给定的函数f(x),记作f(x)A,要求在另一类简单的便于计算的函数类B中求函数p(x)B，使 p(x)与 f(x)的误差在某种度量意义下最小.函数类A通常是区间a, b上的连续函数，记作Ca, b，称为函数逼近空间;而函数B通常为n次多项式,有理函数或分段低次多项式等.,数学上常把在各种集合中引入某一些不同的确定关系称为赋予集合以某种空间结构，并将这样的集合称为空间。,例1 所有实n维向量集合，按向量的加法和数乘构成实数域R上的线性空间-Rn,称为n维向量空间.,例2、对次数不超过n的（n为正整数）实系数多项式全体，按多项式加法和数乘构成数域R上的多项式线性空间-Hn,称为多项式空间.,例3、所有定义在 a,b 集合上的连续函数全体，按函数的加法和数乘构成数域R上的连续函数线性空间 Ca, b,称为连续函数空间. 类似地记Cpa, b为具有p阶连续导数的函数空间.,则称x1,x2,xn 线性相关，否则称x1,x2,xn 线性无关，即只有当a1=a2=an=0时等式才成立.,定义1 设集合S是数域P上的线性空间，元素x1,x2,xnS，如果存在不全为零的数a1,a2,anP，使得,则x1,xn称为空间S的一组基，记为S=spanx1,xn，并称空间S为n维空间，系数a1,an为x在基x1,xn下的坐标，记为(a1,an)，如果S中有无限多个线性无关元素x1,xn,，则称S为无限维线性空间.,若线性空间S是由n个线性无关元素x1,xn生成的，即对任意xS，都有,它由n+1个系数(a0, a1,an)唯一确定. 1,x,xn 线性无关，它是Hn的一组基，故集合 Hn=span1, x,xn，且(a0, a1,an)是p(x)的坐标向量，Hn是n+1维的.,下面考虑次数不超过n实系数多项式集合Hn，其元素p(x)Hn表示为,其中为任意给的小正数，即精度要求. 这就是下面著名的魏尔斯特拉斯（Weierstrass）定理.,对连续函数f(x)Ca, b，它不能用有限个线性无关的函数表示，故Ca, b是无限维的，但它的任一元素f(x)Ca, b均可用有限维的p(x)Hn逼近，使误差,在a, b上一致成立. （证明略，书p63有说明.）,定理1 设f(x)Ca, b，则对任何0，总存在一个代数多项式p(x) ，使,函数逼近问题就是对任何f(x)Ca, b，在子空间中找一个元素*(x)，使f(x)-*(x)在某种意义下最小.,更一般地，可用一组在Ca, b上线性无关的函数集合 来逼近f(x)Ca, b，元素,表示为,3.1.2 范数与赋范线性空间,为了对线性空间中元素大小进行衡量，需要引进范数定义，它是Rn空间中向量长度概念的直接推广.,定义2 设S为线性空间,xS,若存在唯一实数 满足条件：(1)x0;当且仅当x0时,x0; (正定性)(2)x|x,R; (齐次性)(3)xyxy, x,yS. (三角不等式)则称 为线性空间S上的范数, S与 一起称为赋范线性空间,记为X.,对Rn上的向量 x(x1,x2,xn)T, 三种常用范数为：,类似的对连续函数空间Ca, b, 若fCa, b可定义以下三种常用函数的范数,可以验证这样定义的范数均满足定义2中的三个条件.,3.1.3 内积与内积空间,在线性代数中，Rn上的两个向量 x(x1,x2,xn)T与y(y1,y2,yn)T的内积定义为(x, y)= x1 y1 +x2 y2 +xn yn.若将它推广到一般的线性空间X，则有下面的定义.,定义3 设X是数域K(R或C)上的线性空间，对任意u,vX，有K中一个数与之对应，记为(u, v)，它满足以下条件：,则称(u, v) 为X上u与v的内积，对应了内积的线性空间称为内积空间. 定义中(1)当K为实数域R时为 (u, v)(v, u) .,如果(u, v)=0，则称u与v正交(记为uv)，这是向量相互垂直概念的推广. 关于内积空间有以下重要定理.,定理2 设X为一个内积空间,对任意u, vX有如下不等式成立,它称为柯西施瓦茨(Cauchy-Schwarz)不等式.,证明 当v=0时,显然成立. 设v0，则 (v, v)0,且对任何数t 有(这里设为实空间),取 t=-(u, v)/(v, v),代入上式右端，得,即得v0时有,定理3 设X为一个内积空间，u1,u2,unX，矩阵,称为格拉姆(Gram)矩阵,则G非奇异的充分必要条件是u1,u2,un线性无关.,证明 G非奇异等价于detG0，其充分必要条件是下面齐次线性方程组只有零解,而,从以上的等价关系可知道，detG0等价于从(8)推出a1=a2 =an=0,而后者等价于从(9)推出a1=a2 =an=0，即u1,u2,un线性无关. 证毕,在内积空间X上可以由内积导出一种范数，即对于uX ，记,容易验证它满足范数定义的三条性质,其中三角不等式,可由定理2直接得出，即,两端开方即得(11).,例1 Rn的内积，设x, yRn， x(x1,x2,xn)T，y(y1,y2,yn)T，则其内积定义为,由此导出的向量2-范数为,若给定实数i0(i=1,n)，i称为权函数，则在Rn上可定义加权内积为,相应的向量2-范数为,不难验证(13)给出的(x, y)满足内积定义的4条. 当i=1 (i=1,n)时， (13)就是(12).,如果x, y Cn，带权内积定义为,这里i仍为正实数序列.,在Ca, b上也可以类是定义带权内积，为此先给出权函数定义.,定义4 设a, b是有限或无限区间，在a, b上的非负函数(x)满足条件：,则称(x)为a, b上的一个权函数. 它的物理意义可以解释为密度函数.,例2 Ca, b上的内积，设f(x), g(x)Ca, b，(x)是上给定的权函数，则可内积定义为,容易验证它满足内积定义的4条，由此内积导出的范数,称(15)和(16)为带权(x)的内积和范数，特别常用的是(x)1的情形，即,若0,1,n是Ca, b中的线性无关函数族，记=span0,1,n，它的拉姆(Gram)矩阵为,根据定理3可知0,1,n线性无关的充分必要条件是 detG(0,1,n)0.,3.2.1正交函数族与正交多项式,3.2 正交多项式,则称k(x)是a,b上带权(x)的正交函数族.若Ak1，则称之为标准正交函数族.,定义5 如果函数f(x), g(x)在a,b上连续,满足,例如, 三角函数族 1, cosx, sinx, cos2x, sin2x, 是在区间-,上的正交函数系，因为对k=1,2,有,实际上，这就是付里叶(Fourier)逼近的基函数.,而对k, j=1,2,，当kj 时有,则称多项式序列n(x)为在a,b上带权(x)的正交，称n(x)为a,b上带权(x)的n次正交多项式.,定义6 设n(x)是a,b上首项系数an0的n次多项式，(x)为a,b上权函数，如果多项式序列n(x)满足关系式,如何构造正交多项式,只要给定区间a, b及权函数,均可由一组线性无关的幂函数1,x, xn,利用逐个正交化手续构造出正交多项式序列,此即Smith正交化方法.,这样得到的正交多项式序列有以下性质：,(1) n(x)是具有最高次项系数为1的n次多项式.,(2) 任何n次多项式Pn(x)Hn均可表示为 0(x),1(x),n(x) 的线性组合.,(3) 当kj时,(j(x), k(x)=0，且k(x)与任一次数小于k的多项式正交.,(4) 成立递推关系,(5) 设 是在a, b上带权(x)的正交多项式序列, 则n(x)(n1)的n个根都是在区间(a, b)内的单重实根. 即在(a, b)内有n个互异实零点.,下面给出几种常见的正交多项式.,例题：利用 Gram-schmidt 方法构造 0,1 上带权 的前3个正交多项式,解：利用正交化公式来求,于是,于是,3.2.2勒让德多项式,当区间-1,1, 权函数(x)1时, 由1,x,xn,正交化得到的多项式就称为勒让德(Legendre)多项式,并用P0(x),P1(x),Pn(x),表示. 这是勒让德于1785年引进的. 1814年罗德利克(Rodrigul)给出了简单的表达式为,由于(x2-1)n是2n次多项式，求n阶导数后得,显然得到最高项系数为1的勒让德多项式为,于是得Pn(x)的首项系数为,勒让德多项式有下述几个重要性质,(1) 正交性(p71),(2) 奇偶性(p73),(3) 递推关系(p73),且有以下常用公式,(5) 对零的平方误差最小,(4) Pn(x)在区间-1,1内有n个不同的实零点。,3.2.3切比雪夫多项式,区间为-1,1时,取权函数,由序列1,x,xn,正交化得到的多项式就是切比雪夫多项式，它可表示为,Tn(x)=cos(narccosx), | x |1,若令x=cos，则Tn(x)=cosn，0.,切比雪夫多项式的性质(p75),(1) 递推关系,于是得Tn(x)的首项系数为,(4) Tn(x)在区间-1,1上有n个零点,(2) 切比雪夫多项式Tk(x)在区间-1,1上带权,正交且,(3) T2k(x)只含x的偶次幂,T2k+1(x)只含x的奇次幂.,若将xn用T0(x),T1(x), ,Tn(x)的线性组合表示,则其公式为,这里规定T0(x)=1. n=1,2, ,6时的结果如下,(5) 对零的一致误差最小,即对任意首一n次多项式f(x)有,3.2.4其他常用的正交多项式,一般说，如果区间a, b及权函数(x)不同, 则由1,x,xn,得到的正交化得到的多项式也不同. 除上述两种最重要的正交多项式外，下面再给出三种较常用的正交多项式.,1. 第二类切比雪夫多项式,区间为-1,1时,取权函数,由序列1,x,xn,正交化得到的多项式就称为第二类切比雪夫多项式，其表达式为,令x=cos，可得,为正交，且有递推关系式为,2. 拉盖尔多项式,区间为0, +)时,取权函数,由序列1,x,xn,正交化得到的多项式就称为拉盖尔(Laguerre)多项式，其表达式为,它也具有正交性质,和递推关系式,3. 埃尔米特多项式,区间为(-,+)时,取权函数,由序列1,x,xn,正交化得到的多项式就称为埃尔米特(Hermite)多项式，其表达式为,它也具有正交性质,和递推关系式,3.3 最佳一致逼近多项式,3.3.1 基本概念及其理论,本节讨论fCa, b，在Hn=span1,x,xn中求多项式Pn*(x) ，使其误差,这就是通常所谓最佳一致逼近或切比雪夫逼近问题.,最佳一致逼近多项式问题,偏差问题,为了说明这一概念,先给出以下定义.,定义7 设Pn(x)Hn，f(x)Ca, b,称,为f(x)与Pn(x)在a, b上的偏差.,显然 , 的全体组成一个集合，记为 ,它有下界0. 若记集合的下确界为,则称之为f(x)在a, b上的最小偏差.,定义8 假定f(x)Ca, b, 若存在Pn*(x)Hn使得,则称Pn*(x)是f(x)在a, b上的最佳一致逼近多项式或最小偏差逼近多项式.,注意,定义并未说明最佳逼近多项式是否存在,但可以证明下面的存在定理.,定理4 若f(x)Ca, b, 则总存在Pn*(x)使,证明略，可参考2.,就称x0是P(x)对f(x)的偏差点.,若 称x0为“正”偏差点.,为了研究最佳逼近多项式的特性，先引进偏差点的定义.,定义9(偏差点定义) 设f(x)Ca, b，P(x)Hn，若在xx0上有,若 称x0为“负”偏差点.,由于函数P(x)f(x)在a, b上连续,因此,至少存在一个点x0a, b使,也就是说P(x)的偏差点总是存在的. 下面给出反映最佳逼近多项式特征的切比雪夫定理.,定理5(切比雪夫定理 ) Pn(x)Hn是f(x)Ca, b的最佳逼近多项式的充分必要条件是Pn(x)在a, b上至少有n+2个轮流为“正”，“负”的偏差点，即有n+2个点ax1x2.xn+2b，使,这样的点组称为切比雪夫交错点组.(证明见p80),切比雪夫定理说明用P(x)逼近f(x) 的误差曲线y=P(x)f(x)是均匀分布的. 由这个定理还可得以下重要推论.,定理6 在区间-1,1上所有最高次项系数为1的n次多项式中,利用切比雪夫定理可直接得到切比雪夫多项式Tn(x)的一个重要性质，即,推论1 若f(x)Ca, b，则在Hn中存在唯一的最佳逼近多项式. (证明略),与零的偏差最小，其偏差为 . (证明见p80),即可以理解为f(x)Pn-1*(x)与零的偏差等于最小当且仅当,例3 求f(x)=2x3+x2+2x-1在 -1,1上的最佳2次逼近多项式.,解 由题意，所求最佳逼近多项式P2*(x)应满足,由定理6可知，当,时，多项式f(x)P2*(x)与零偏差最小，故,就是f(x)在 -1,1上的最佳2次逼近多项式.,则当x在 0, 1 变化时，此时函数为,解：作变量变换，令t=2x-1，t-1, 1，,设P3*(x)为f(x)在 0,1 上的三次最佳一致逼近多项式，由于,的首相系数为,故有,即,3.3.2 最佳一次逼近多项式,切比雪夫定理 给出了最佳逼近多项式P(x)的特性，但要求出P(x)却相当困难. 下面讨论n=1的情形. 假定f(x)C2a, b. 且f(x)在(a,b)内不变号，我们要求最佳一次逼近多项式 P1(x)=a0 + a1x ，根据定理可知至少有3个点ax1x2x3b，使,由于f(x)在a, b上不变号,故f(x)单调, f(x)-a1在(a, b)内只有一个零点，记为x2,于是,即,另外两个偏差点必定是区间的端点，即x1=a, x3=b，且满足,由此得到,代入到(2)得,这就得到最佳一次逼近多项式P1(x)，其方程为,由(1)式得,几何意义见p82,解 由公式有,再由公式得,例4 求 在 0,1上的最佳一次逼近多项式.,又 ，故 ，解得,于是得 在 0,1上的最佳一次逼近多项式为,即,误差限为,在上一式中若令 ，则可得一个求根式的公式.,证明：,由f(x)的连续性知，,使得,令,则,例、设f(x)Ca, b，m, M是f(x)在a, b上的min, max值，证明f(x)的零次最佳一致逼近多项式为,即,即当f(x)Ca, b时，f(x)的零次最佳逼近多项式为.,故x1, x2是P0(x)与f(x)的偏差点，从而由 chebyshev 定理知,3.4 最佳平方逼近,3.4.1 最佳平方逼近及其计算,现在我们研究在区间a, b上一般的最佳平方逼近问题. 对f(x)Ca, b及Ca, b中的一个子集,若存在函数 ，使下式成立,则称 S*(x)是f(x)在子集 中的最佳平方逼近函数.,为了求S*(x), 由上式可知该问题等价于求多元函数,的最小值. 由于I(a0,a1,an)是关于a0,a1,an的二次函数，利用多元函数求极值的必要条件,即,于是有,是关于a0,a1,an的线性方程组，称为法方程，即,由于函数组,线性无关，故系数矩阵的行列式非零，即,从而得到最佳平方逼近函数,于是方程组有唯一解,下面证明S*(x)必定满足最佳平方逼近的定义，即,但我们只需证明,为此我们只要考虑,由于S*(x)的系数ak*是法方程的解，故,从而上式第二项积分为0. 于是可得,即得S*(x)必定是所求函数f(x)的最佳平方逼近函数.,根据以上推论，也可得出最佳函数逼近的求法。,由证明第二项积分为0. 我们可得,推论：C a, b是内积空间，Ca, b是其有限维子空间，f(x)Ca, b，中S*(x)是f(x)的的最佳平方逼近函数的充要条件是f -S*与中任一函数正交.,设,则对任意函数S，有,由推论得,也得法方程为,若记余项(x)=f(x)-S*(x)，则平方误差为,若取 则要在Hn中求n次最佳平方逼近多项式,此时,若用H表示 对应的矩阵，即,则称H为希尔伯特(Hilbert)矩阵，若记向量,则法方程为,其解ak= ak*(k=0,1,n), 即得所求最佳平方多项式为 的系数.,解 由公式有,得法方程组,例5 求 在 0,1上的一次最佳平方逼近多项式(注意与例4的区别).,解出,故得所求的一次最佳平方逼近多项式为,平方误差为,最大误差为,若用1,x,xn做基，求最佳平方多项式，计算简单，但当n较大时, 系数矩阵H是高度病态的(见第5章),因此直接求解法方程是相当困难的，故通常是采用正交多项式做基底构造最佳平方多项式.,解：,法方程组为：,于是,解得,3.4.2 用正交函数族作最佳平方逼近,设f(x)Ca, b，,若 是正交函数族，即满足,故法方程,的系数矩阵为非奇异对角阵，即,立刻得到法方程的解为,于是f(x)Ca, b在中的最佳平方逼近函数为,可得均方误差为,由此可得贝塞尔(Bessel)不等式,得级数,证明略，可见文献6.,定理7 设f(x)Ca, b，S*(x)是f(x)的最佳平方逼近多项式，其中 是正交多项式族，则有,下面考虑函数f(x)C-1, 1，按勒让得多项式P0(x),P1(x),Pn(x)展开，由公式可得,其中,平方误差为,由定理7可得,证明略，可见文献6.,定理8 设f(x)C2-1, 1，Sn*(x)由上面的勒让得多项式给出，则对任意x-1, 1和任意0，当n充分大时有,如果f(x)满足光滑性条件还可得到S*(x)一致收敛于f(x)的结论.,对首项系数为1的勒让德多项式 有以下性质,定理9 在所有最高次项系数为1的n次多项式中,勒让德多项式 在-1, 1上与零的平方误差最小.,即可以理解为 最小等价于,与零的平方误差最小.,证明 设Qn(x)是任意一个最高次项系数为1的n次多项式，它可表示为,于是,因此当且仅当 时等号才成立，即当 时平方误差最小.,解 先计算(f(x), Pk(x) (k=0,1,2,3),例6 求f(x)=ex在-1, 1的三次最佳平方逼近多项式.,由公式 解得,得三次最佳平方逼近多项式为,可得均方误差为,可得最大误差为,如果f(x)Ca, b，求a, b上的最佳平方逼近多项式，做变换,于是 在-1, 1上可用勒让德多项式做最佳平方逼近多项式 S*(t)， 从而可得到区间a, b上的最佳平方逼近多项式,由于勒让德多项式Pk(x)是在-1, 1上由多项式基1,x,xn,正交化得到的，因此利用函数的勒让德展开部分和得到最佳平方逼近多项式与由,直接通过解法方程得到Hn中的最佳平方逼近多项式是一致的，只有当n较大时法方程出现病态，计算误差较大，不能使用，而用勒让德展开不用解线性方程组，不存在病态问题，计算公式比较方便，因此通常都用这种方法求最佳平方逼近多项式.,3.5 曲线拟合的最小二乘法,最小二乘法的基本原理,具体的做法是求 p(x) 使,几何意义: 求在给定点 x0, x1, xm 处与点(x0,y0), (x1,y1), ,(xm, ym) 的距离平方和最小的曲线y =p(x),这就是最小二乘曲线拟合问题.,中找一函数y=S*(x)使误差平方和,3.5.1 最小二乘法及其计算,这就是一般的最小二乘逼近，用几何语言说，就称为曲线拟合的最小二乘法.,这里,用最小二乘法求拟合曲线时，首先要确定S(x)的形式. 这不是单纯的数学问题，还要与所研究问题的运动规律及所得观测数据(xi, yi) 有关；通常要从问题的运动规律及所给定数据描图，确定S(x)的形式并通过实际计算选出较好的结果，这点将从下面的例题得到说明.,S(x)的一般表达式为(2)式表示的线性形式.若k(x)是k次多项式，S(x)就是n次多项式. 为了使问题的提法更有一般性，通常在最小二乘法中误差平方和都考虑加权平方和,这里(x) 0是a, b上的权函数，它表示不同点(xi, f(xi)处的数据比重不同，例如，(xi)可表示在点(xi, f(xi)处重复观测的数据.,用最小二乘法求拟合曲线的问题,就是在形如(2)的S(x)中求一函数y=S*(x)，使加权平方和,取得最小. 它转化为求多元函数,的极小点 问题. 这与第4节讨论的问题完全类似.,由求多元函数极值的必要条件,有,若记,上式可改为,这方程称为法方程,可写成矩阵形式,其中,要使法方程(6)有唯一解 ，就要求矩阵G 非奇异.,必须指出， 在a, b上线性无关不能推出矩阵G非奇异.,例如，令,显然 在0, 2上线性无关，但若取点xk=k, k=0,1,2(n=1,m=2)，那么有,由此得出,为保证(6)的系数矩阵G非奇异,必须加上另外的条件.,定义10 设 的任意线性组合在点集 上至多只有n个不同的零点, 则称 在点集 上满足哈尔(Haar)条件 .,显然1,x,xn在任意m(mn)个点上满足哈尔条件.,可以证明，如果 在点集 上满足哈尔(Haar)条件，则法方程(6)的系数矩阵(7)非奇异，于是法方程(6)存在唯一的解 从而得到函数f(x)的最小二乘解为,可以证明这样得到的S*(x) ，对任何形如(2)式的S(x) ,都有,即S*(x)必为所求的最小二乘解.,给定f(x)的离散数据 ，要确定集合 是困难的，所以一般取 即 就得到最小二乘拟合多项式.,使其满足,这样的曲线拟合叫多项式拟合. 满足上式的Pn(x) 叫最小二乘拟合多项式. 特别地, 当n=1时,一次多项式拟合又叫直线拟合.,即有 对给定的一组数据(xi,yi)(i=0,1,m), 求次数不超过n的多项式,对法方程,取(x)=0，而,其法方程为,此时矩阵为,得到法方程(正规方程)矩阵具体形式为,对最小二乘拟合多项式当n3时，求解法方程与连续情形一样，将出现系数矩阵G为病态的问题，通常对n=1的简单情形都可通过求法方程得到S*(x).有时根据给定数据图形，其拟合函数y=S(x)表面上不是线性的形式，但通过变换仍可化为线性模型.例如,若两边取对数得,它就是一个线性模型，具体做法见例8.,解 作散点图如右，,从右图可以看出这些点接近一条抛物线，因此设所求公式为,例 已知一组观测数据如表所示，试用最小二乘法求一个多项式拟合这组数据。,代入法方程,代入数据得,解之可得,故所求拟合多项式为,解 根据所给数据，在坐标纸上标出各点，见图. 从图中看到各点在一条直线附近，故可选择线性函数做拟合曲线，即令,例7 已知一组实验数据如下，求它的拟合曲线.,解得a0=2.77,a1=1.13. 于是所求拟合曲线为,得法方程,例8 设数据(xi, yi)(i=0,1,2,3,4)由下表给出，表中第4行为lnyi=zi，可以看出数学模型为y=aebx，用最小二乘法确定a及b.,解 根据给定数据(xi, yi)(i=0,1,2,3,4)描图可确定拟合曲线方程为y=aebx，它不是线性形式.,对方程y=aebx 两边取对数得lny=lna+bx，如果令z=lny,A=lna，则z=A+bx,=1,x. 为确定A和b，先将数据(xi, yi)可转化为(xi, zi) ，见数据表.,根据最小二乘法，取,得,故有法方程,解得A=1.122, b=0.505, a=eA=3.071. 于是得最小二乘拟合曲线为,现在很多计算机配有自动选择数学模型的程序，其方法与本例相同. 程序中因变量与自变量变换的函数类型较多，通过计算比较误差找到拟合得较好的曲线，最后输出曲线图形及数学表达式.,3.5.2 用正交多项式做最小二乘拟合,且平方误差为,现在我们根据给定的节点x0,x1,xm及权函数(x)0，造出带权(x)正交的多项式Pn(x).注意nm，用递推公式表示Pk(x)，即,这里Pk(x)是首项系数为1 的k次多项式，根据Pk(x)的正交性，得,下面用归纳法证明这样给出的Pk(x)是正交的. 首先由上面的两个式子有 下式成立.,由归纳法假定，当0sk-2时,(Pk, Ps)=0， (Pk-1, Ps)=0.,另外，xPs(x)是首项系数为1的s+1次多项式，它可由P0,P1,Ps+1的线性组合表示，而s+1k-2，故由归纳法假定又有,于是由(*)式，当s+1k-2时，(Pk+1, Ps)=0 .,再看,由假定有 (Pk, Pk-1)=0 ，,利用式中k的表达式及以上结果，得,最后,由第二式有,至此已证明了由第一式及第二式确定的多项式Pk(x) (k=0,1,n，nm)组成一个关于点集xi的正交系.,用正交多项式Pk(x)的线性组合作最小二乘曲线拟合只要根据公式第一式及第二式逐步求Pk(x)的同时，相应计算出系数,并逐步把ak*Pk(x)累加到S(x)中去，最后就可得到所求的拟合曲线,这里n可事先给定或在计算过程中根据误差确定. 用这种方法编程序不用解方程组，只用递推公式，并且当逼近次数增加一次时，只要把程序中循环数加1，其余不用改变. 这是目前最好的不用解方程组而可以利用递推方法得到多项式拟合的算法.有通用的语言程序供用户使用.,当f(x)为周期函数时自然想到用三角多项是做平方逼,1.连续型,设,是以,多项式,做最佳平方逼近函数，可根据三角函数组如下的正交性，,3.6* 最佳平方三角逼近,