第四章 插值与拟合ppt课件.ppt

插值法,插值法是一种古老的数学方法，早在一千多年前的隋唐时期定制历法时就广泛应用了二次插值。刘焯将等距节点的二次插值应用于天文计算。插值理论却是在17世纪微积分产生后才逐步发展起来的，Newton插值公式理论是当时的重要成果。由于计算机的使用以及航空、造船、精密仪器的加工，插值法在理论和实践上都得到进一步发展，获得了广泛的应用。,第四章 插值与拟合,4.1 引言4.2 拉格朗日插值4.3 均差与牛顿插值公式4.4 差分与等距节点插值4.5 埃尔米特(Hermite)插值与分段插值4.6 曲线拟合,4.1 引言 问题的提出函数解析式未知,通过实验观测得到的一组数据, 即在某个区间a, b上给出一系列点的函数值 yi= f(xi)或者给出函数表,y=f(x),y=p(x),插值法的基本原理设函数 y=f(x) 定义在区间a, b上, 是a, b上取定的n+1个互异节点,且在这些点处的函数值 为已知 ,即 若存在一个f(x)的近似函数 ,满足则称 为f(x)的一个插值函数, f(x)为被插函数, 点xi为插值节点, 称(4.1)式为插值条件, 而误差函数R(x)= 称为插值余项, 区间a, b称为插值区间, 插值点在插值区间内的称为内插, 否则称外插,(4.1),插值函数 在n+1 个互异插值节点 (i=0,1,n )处与 相等,在其它点x就用 的值作为f(x) 的近似值。这一过程称为插值，点x称为插值点。换句话说, 插值就是根据被插函数给出的函数表“插出”所要点的函数值。用 的值作为f(x)的近似值,不仅希望 能较好地逼近 f(x),而且还希望它计算简单 。由于代数多项式具有数值计算和理论分析方便的优点。所以本章主要介绍代数插值。即求一个次数不超过n次的多项式。,满足,则称P(x)为f(x)的n次插值多项式。这种插值法通常称为代数插值法。其几何意义如下图所示,定理1 n次代数插值问题的解是存在且惟一的,证明: 设n次多项式,是函数 在区间a, b上的n+1个互异的节点 (i=0,1,2,n )上的插值多项式,则求插值多项式P(x)的问题就归结为求它的系数 (i=0,1,2,n )。,由插值条件: (i=0,1,2,n),可得,这是一个关于待定参数 的n+1阶线性方程组,其系数矩阵行列式为,称为Vandermonde（范德蒙）行列式，因xixj（当ij），故V0。根据解线性方程组的克莱姆（Gramer）法则，方程组的解 存在惟一，从而P(x)被惟一确定。,惟一性说明，不论用何种方法来构造，也不论用何种形式来表示插值多项式,只要满足插值条件(4.1)其结果都是相互恒等的。,4.2 拉格朗日（Lagrange）插值 为了构造满足插值条件 (i=0,1,2,n )的便于使用的插值多项式 L(x),先考察几种简单情形,然后再推广到一般形式。（ 线性插值与抛物插值）（1）线性插值线性插值是代数插值的最简单形式。假设给定了函数f(x)在两个互异的点的值，,现要求用线性函数 近似地代替 f(x)。选择参数a和b, 使 。称这样的线性函数L1(x) 为 f(x) 的线性插值函数 。,线性插值的几何意义:用通过点 和 的直线近似地代替曲线 y=f(x)由解析几何知道,这条直线用点斜式表示为,为了便于推广，记,这是一次函数,且有性质,与 称为线性插值基函数。且有,于是线性插值函数可以表示为与基函数的线性组合,例4.1 已知 , , 求,解: 这里x0=100，y0=10，x1=121，y1=11, 利用线性插值,（2）抛物插值 抛物插值又称二次插值，它也是常用的代数插值之一。设已知f(x)在三个互异点x0，x1，x2的函数值y0，y1，y2，要构造次数不超过二次的多项式使满足二次插值条件：这就是二次插值问题。其几何意义是用经过3个点 的抛物线 近似代替曲线 ,如下图所示。因此也称之为抛物插值。,L2(x)的参数直接由插值条件决定，即 满足下面的代数方程组：,该三元一次方程组的系数矩阵,的行列式是范德蒙行列式，当 时，方程组的解唯一。,为了与下一节的Lagrange插值公式比较,仿线性插值,用基函数的方法求解方程组。先考察一个特殊的二次插值问题： 求二次式 ,使其满足条件：,这个问题容易求解。由上式的后两个条件知: 是 的两个零点。于是,再由另一条件 确定系数,从而导出,类似地可以构造出满足条件：的插值多项式,及满足条件： 的插值多项式,这样构造出来的 称为抛物插值的基函数,取已知数据 作为线性组合系数,将基函数 线性组合可得,容易看出,P(x)满足条件,4.2.1 拉格朗日插值多项式 两个插值点可求出一次插值多项式,而三个插值点可求出二次插值多项式。插值点增加到n+1个时,也就是通过n+1个不同的已知点 ,来构造一个次数为n的代数多项式Ln(x)。与推导抛物插值的基函数类似,先构造一个特殊n次多项式 的插值问题,使其在各节点 上满足,即,由条件 ( )知, 都是n次 的零点,故可设,称之为Lagrange插值基函数.,利用拉格朗日基函数,可以构造多项式,插值多项式为：,线性插值多项式：n=1,几何意义：,抛物插值多项式：n=2,插值多项式为：,几何意义：,例4.2,解：,定理4.1,反证：若不唯一，则除了Pn(x) 外还有另一 n 阶多项式 Ln(x) 满足 Ln(xi) = yi 。,考察 则 Qn 的阶数, n,而 Qn 有 个不同的根,注：若不将多项式次数限制为 n ，则插值多项式不唯一。,例如 也是一个插值多项式，其中 可以是任意多项式。,例4.3 已知y=f(x)的函数表 求线性插值多项式, 并计算x=1.5 的值,X 1 3 y 1 2,解: 由线性插值多项式公式得,例4.4 已知x=1, 4, 9 的平方根值, 用抛物插值公式, 求,(x0 x1)(x0 x2),(xx1)(xx2),y0,+,(x1x0)(x1x2),(xx0)(xx2),y1,+,(x2x0)(x2x1),(xx0)(xx1),y2,L2(7) =,x0=1, x1=4, x2=9,y0=1, y1=2, y2=3,(14)(19),(74)(79),* 1,+,(41)(49),(71)(79),* 2,+,(91)(94),(71)(74),* 3,= 2.7,L2(x) =,解:,例4.5 已知函数y=f(x)在节点上满足 x x0 x1 x2 y y0 y1 y2 求二次多项式 p(x) = a0 + a1x + a2x2 使之满足 p(xi) = yi i=0, 1, 2解: 用待定系数法, 将各节点值依次代入所求多项式, 得,解上述方程, 将求出的a0, a1, a2 代入p(x) = a0 + a1x + a2x2 即得所求二次多项式,例4.6 求过点(0,1)、(1,2)、(2,3)的三点插值多项式,解:由Lagrange 插值公式,（给定的三个点在一条直线上）,解 四个点可构造三次Lagrange插值多项式:基函数为,Lagrange插值多项式为,为便于上机计算,常将拉格朗日插值多项式(4.2)改写成,解: 四个点可以构造三次插值多项式, 将数据 代入插值公式，有,这个例子说明Ln(x)的项数不超过n+1项，但可以有缺项。,Lagrange插值法的流程图,x0 x1 xixi+1 xn-1 xn,y=f(x),y=Ln(x),a,b,在插值区间a, b上用插值多项式Ln(x)近似代替f(x), 除了在插值节点xi上没有误差外，在其它点上一般是存在误差的。,若记 R (x) = f(x) - Ln(x) 则 R(x) 就是用 Ln(x) 近似代替 f(x) 时的截断误差, 或称插值余项我们可根据后面的定理来估计它的大小。,4.2.2 插值多项式的误差,定理4.2 设f(x)在a, b有n+1阶导数， x0, x1, xn 为 a, b上n+1个互异的节点, Ln(x)为满足 Ln(xi) = f(xi) (i=1,2, , n) 的n 次插值多项式，那么对于任何x a, b有 插值余项,其中,ab 且依赖于x, 插值余项 /* Remainder */,Rolles Theorem: 若 充分光滑， ，则存在 使得 。,推广：若,使得,Rn(x) 至少有 个根,n+1,(t)有 n+2 个不同的根 x0 xn x,注意这里是对 t 求导,注： 若记 ，则插值余项为,当 f(x) 为任一个次数 n 的多项式时， , 可知 ，即插值多项式对于次数 n 的多项式是精确的。(若是代数插值,其插值函数就是f(x) ),定义：,当点x位于基本插值区间内时,插值过程称为内插,否则称为外推., 通常不能确定 , 而是估计 , x(a,b) 于是将 作为误差估计上限。,外推比内插效果差。,对于线性插值，其误差为对于抛物插值（二次插值），其误差为,例4.9 已知 =100, =121, 用线性插值估计 在x=115时的截断误差,解: 由插值余项公式知,因为,例4.10 已知x0=100, x1=121, x2=144,当用抛物插值求 在x=115时的近似值，估计其的截断误差,例4.11 设f(x)=x4, 用余项定理写出节点 -1, 0, 1, 2的三次插值多项式,解: 根据余项定理,例4.12 已知 sin0.32=0.314567，sin0.34=0.333487，sin0.36=0.352274，分别用一、二次Lagrange插值计算 sin0.3367的值，并估计截断误差。,得,由,于是,（2）,得,由,于是,由此可知 稍好于,（3）,因为,则,解：,n = 1,分别利用x0, x1 以及 x1, x2 计算,利用,这里,而,sin 50 = 0.7660444,外推 的实际误差 0.0101,利用,内插 的实际误差 0.00596,内插通常优于外推。选择要计算的 x 所在的区间的端点，插值效果较好。,n = 2,sin 50 = 0.7660444,2次插值的实际误差 0.00061,高次插值通常优于低次插值,但绝对不是次数越高就越好，嘿嘿,4.3 均差与牛顿插值多项式 拉格朗日插值多项式结构对称，使用方便。但由于是用基函数构成的插值，这样要增加一个节点时，所有的基函数必须全部重新计算，不具备承袭性，还造成计算量的浪费。这就启发我们去构造一种具有承袭性的插值多项式来克服这个缺点，也就是说，每增加一个节点时，只需增加相应的一项即可。这就是牛顿插值多项式。,由线性代数知,任何一个不高于n次的多项式, 都可以表示成函数,的线性组合, 也就是说, 可以把满足插值条件p(xi)=yi (i=0,1,n)的n次插值多项式, 写成如下形式,其中ak (k=0,1,2,n)为待定系数,这种形式的插值多项式称为Newton插值多项式。我们把它记为Nn(x)即,（4.5）,可见，牛顿插值多项式Nn(x)是插值多项式p(x)的另一种表示形式, 与Lagrange多项式相比它不仅克服了“增加一个节点时整个计算工作重新开始”的缺点, 且可以节省乘除法运算次数, 同时在Newton插值多项式中用到差分与差商等概念，又与数值计算的其他方面有密切的关系.,它满足其中ak (k=0,1,2,n)为待定系数，形如（4.5）的插值多项式称为牛顿(Newton)插值多项式。,1、差商的定义,称,为 关于点 的二阶差商。,4.3.1 差商及其性质,一般，称,为 于点 的 k 阶差商。,2、差商的计算,例4.14 求 f(xi)= x3在节点 x=0, 2, 3, 5, 6上的各阶差商值解: 计算得如下表,这个性质可用数学归纳法证明（用Lagrange插值多项式比较最高项系数来得到）,性质1 函数 f(x) 的 n 阶差商 f x0, x1 , , xn 可由 函数值 f (x0), f (x1 ), , f (xn ) 的线性组 合表示, 且,差商的性质,fx0 , x1=,fx1 , x0,f(x1)- f(x0),x1 x0,性质2 差商具有对称性,即在k阶差商中 任意交换两个节点 和 的次序,其值不变。 例如,性质3 k阶差商 和k阶导数之间有下 列关系 这个性质可直接用罗尔（Rolle）定理证明（或以下方法即余项方法）,性质4 若fx, x0, x1 , , xk 是 x 的 m 次多项式, 则 fx, x0, x1 , xk , xk+1是 x 的 m-1 次多项式证：由差商定义,右端分子为 m 次多项式, 且当 x = xk+1 时, 分子为0 ,故分子含有因子 xk+1 x，与分母相消后，右端为m-1 次多项式。,4.4 .1 差商及其性质,性质5 若 f(x)是n次多项式, 则f x, x0, x1 , , xn 恒为0 证： f (x)是n次多项式，则f x, x0 是 n-1次多 项式, f x, x0, x1 是 n-2 次多项式, 依次递推 ， f x, x0, x1 , , xn-1 是零次多项式，所以 fx,x0,x1 ,xn 0,4.3.2 牛顿(Newton)插值多项式,的系数 可根据插值条件推出, 即由 有,这是关于 的下三角方程组,可以求得,一般，用数学归纳法可证明,所以n次牛顿(Newton)插值公式为,其余项,为牛顿插值多项式的误差。由插值多项式的存在惟一性定理知，满足同一组插值条件的拉格朗日插值多项式P(x)与牛顿插值多项式Nn(x)实际上是同一个多项式，仅是同一插值多项式的不同表达形式而已，因此得到牛顿插值多项式的误差与拉格朗日插值多项式的误差也完全相等。故有,由,（性质3）建起了差商和,导数的关系用导数代替牛顿插值多项式中的差商，有,差商和导数的关系也可用罗尔定理证出，余项,R(x) =f(x)- P(x),R(xi) =f(xi)- P(xi)=0 i=0,1, ,n,Rn(n)(x) =f (n)(x)- Pn(n)(x),=f (n)(x)- f(x0)+(x-x0) fx0, x1,+(x-x0)(x-x1) fx0, x1 , x2,+(x-x0)(x-x1)(x-xn-1)fx0,x1,xn(n),=f (n)(x)- n! fx0,x1,xn,Rn(xi)=0 (i=0,1,.,n),Rn(i)=0 (i=0,1,.,n-1),Rn(n)()=0 (x0,x1,xn),Rn(n)()=0=f (n)()- n! fx0,x1,xn,即R(x)在x0, xn有n+1个零点，根据罗尔定理R(n)(x)在x0, xn有1个零点，设为，即有 Rn(n)()=0,增加新节点x，并且f(x)为(n+1)阶可导时，有,(x0,x1,xn),(x0,x1,xn,x),|f(x)(n+1)|Mn+1,可以看出，牛顿插值公式计算方便，增加一个插值点，只要多计算一项，而Nn(x)的各项系数恰好是各阶差商值，很有规律.,fx0,x(x- x0),= f(x) - f(x0),f(x),+ fx0,x(x- x0),=f(x0),fx1,x0,x(x-x1),=fx0,x-fx1,x0,fx0,x,+ fx1,x0,x(x-x1),= fx1,x0,f(x),+ (x- x0) fx1,x0,=f(x0),+ (x- x0) (x-x1) fx1,x0,x,牛顿插值公式(另一种推导方法）,f(x)=f(x0)+(x- x0)fx1,x0+(x- x0)(x-x1)fx1,x0,x,fx1,x0,x,= (x-x2) fx2,x1,x0,x,+fx2,x1,x0,f(x)=f(x0)+(x- x0)fx1,x0,+ (x- x0)(x-x1)fx2,x1,x0 + (x- x0)(x-x1)(x-x2) fx2,x1,x0,x,Nn(x),Rn(x),如当n=1时，f(x) = f(x0) + (x- x0)fx1,x0 + (x- x0)(x-x1) fx1,x0,xNn(x)= f(x0) + (x- x0)fx1,x0,其中Nn(x)称为牛顿插值多项式 Rn(x)称为牛顿插值余项,4.4.2 牛顿插值公式,4.4 .1 差商及其性质,例4.12 已知 x=0, 2, 3, 5 对应的函数值为 y=1, 3, 2, 5 , 作三次Newton插值多项式。 xi f(xi) 一阶差商 二阶差商 三阶差商 0 1 2 3 1 3 2 -1 -2/3 5 5 3/2 5/6 3/10 所求的三次Newton插值多项式为,4.4 .1 差商及其性质,例4.13 已知 f(x) = x7+ x4+ 3x+ 1 求 f 20, 21, 27 及 f 20, 21, 27, 28 分析：本题 f(x)是一个多项式, 故应利用差商的性质解: 由差商与导数之间的关系,例4.14 求 ，并估计其误差,解：作函数 f(x) =,取 x0=4, x1=9, x2=6.25 , 建立差商表,f 3(x) =,Rn (x),在区间 4 , 9 上，,余式近似 0.5 *10 -2, N2(7) = 2.64848 可舍入为2.65,| f(x)(n+1) | Mn+1,由,已知等距节点,4.4 差分与等距节点插值,1、差分,简记为,简记为,高阶向前差分,高阶向后差分,如,2、高阶差分,又如,3、前差与后差的关系,一般有,则有,因此,4、差商与差分的关系,m阶向前差商与m阶向前差分的关系,m阶向后差商与m阶向后差分的关系,又,所以,5、差分的计算,6、等距节点的Newton插值,已知等距节点,得,令 由Newton插值公式,其中,即,前插公式,同理可得后插公式,其中 ,公式 称之为牛顿向后插值公式余项。,例4.15 计算 f (x) = x3在等距节点0，1，2，3, 4上的各 阶差分值,1,7,19,37,6,12,18,6,6,0,解：建立差分表,= -1+1+0+0.375,= 0.375,例4.16 按下列数值表用牛顿前插公式求y(-0.5) 的近似值,N3(x),许多实际问题不但要求插值函数p(x)在插值节点处与被插函数f(x)有相同的函数值p(xi)=f(xi) (i=0,1,2,n), 而且要求在有些节点或全部节点上与f(x)的导数值也相等，甚至要求高阶导数值也相等，能满足这种要求的插值问题就称为埃尔米特插值(Hermite),4.5 埃尔米特(Hermite)插值与分段插值,埃尔米特(Hermite)插值,求多项式 满足,则 称为Hermite插值多项式,因为数表中有 个已知数，可确定一个 次多项式。,定义 已知 n+1个互异点上 的函数值 和导数值 ,若存在 一个次数不超过2n+1的多项式H(x)，满足 则称H(x)为f(x)的2n+1次埃尔米特(Hermite)插值多项式,上式给出了2n+2个条件，可惟一确定一个次数不超过2n+1的多项式H2n+1(x)，采用类似于求Lagrange插值多项式的基函数方法求埃尔米特(Hermite)插值多项式H2n+1(x),当 较大时用待定系数法求 是困难的,且满足,其中,且满足,所以 为Hermite插值多项式。,Kronecker（克罗内克）符号,Hermite插值多项式可写成插值基函数表示的形式,验证：,令,则,其中,又,则,得,所以,其中,则,所以,令,则,又,由,得,所以,同理：,定理4.3 满足插值条件 的Hermite插值多项式是惟一的。证: 设 和 都满足上述插值条件,令则每个节点 均为 的二重根,即有2n+2个根，但 是不高于2n+1次的多项式，所以 ，即 惟一性得证。,定理4.4 若f(x)在a,b上存在2n+2阶导数，则 2n+1次Hermite插值多项式的余项为,其中,定理的证明可仿照Lagrange插值余项的证明方法请同学们自行证明,实际中使用最广泛的是三次Hermite插值多项式,即n=1的情况,余项,例4.17 给定 , 求 并计算,解 x0 = 1, x1 = 1,f (0.5)H3(0.5) = 3.5625.,例4.18 已知函数 y= f(x) 的数据如下表所示, 求次数 不超过三次的Hermite的插值多项式H3(x)使 H3(xi) = yi (i=0,1,2) H3(xi) = yi,解 所求三次Hermite的插值多项式为,由插值条件得到以下方程组,解上述方程组,故得,例 4.19 已知,求三次多项式 满足,解,所以,验证：,分段插值,高次插值的龙格现象 插值多项式余项公式说明插值节点越多，一般说来误差越小，函数逼近越好，但这也不是绝对的，因为余项的大小既与插值节点的个数有关，也与函数f(x)的高阶导数有关。换句话说，适当地提高插值多项式的次数，有可能提高计算结果的准确程度，但并非插值多项式的次数越高越好。当插值节点增多时，不能保证非节点处的插值精度得到改善，有时反而误差更大。考察函数,考察函数,右图给出了和 的图像,当n增大时, 在两端会发出激烈的振荡,这就是所谓龙格现象。该现象表明,在大范围内使用高次插值,逼近的效果往往是不理想的,另外，从舍入误差来看，高次插值误差的传播也较为严重，在一个节点上产生的舍入误差会在计算中不断扩大，并传播到其它节点上。因此，次数太高的高次插值多项式并不实用，因为节点数增加时，计算量增大了，但插值函数的精度并未提高。为克服在区间上进行高次插值所造成的龙格现象，采用分段插值的方法，将插值区间分成若干个小的区间，在每个小区间进行线性插值，然后相互连接，用连接相邻节点的折线逼近被插函数，这种把插值区间分段的方法就是分段线性插值法。,1、分段线性插值,记步长,（2）,则称 为分段线性插值,在几何上就是用折线替代曲线,如右图所示若用插值基函数表示,则在a,b上,其中,显然， 是分段线性连续函数，且 称Ih(x)为f(x)的分段线性插值函数。由线性插值的余项估计式知,f(x)在每个子段上有误差估计式其中,例4.20 已知f(x)在四个节点上的函数值如下表所示,30 45 60 90,1,求f(x)在区间30,90上的分段连续线性插值函数S(x),解 将插值区间30,90分成连续的三个小区间 30,45,45,60,60,90 则S(x)在区间30,45上的线性插值为,S(x)在区间45,60上的线性插值为,S(x)在区间60,90上的线性插值为,将各小区间的线性插值函数连接在一起，得,2、分段三次Hermite插值,（2）,为分段三次Hermite插值,插值小结,插值法是实用性很强的方法，它们解决的实际问题虽然各式各样，但抽象为数学问题却有它的共性，即利用已知的数据去寻求某个较为简单的函数P(x)来逼近f(x)。插值法给出了寻求这种近似函数的原则，以及构造近似函数的几种具体方法。插值法要求近似函数在已知的数据点必须与f(x)完全一致。,引言,什么是最小二乘法,最小二乘法的求解,加权最小二乘法,4.6 曲线拟合的最小二乘法,实例：考察某种纤维的强度与其拉伸倍数的关系,下表是实际测定的24个纤维样品的强度与相应的拉伸倍数是记录:,1、引言,纤维强度随拉伸倍数增加而增加,并且24个点大致分布在一条直线附近,-(1),必须找到一种度量标准来衡量什么曲线最接近所有数据点。,一般使用,在回归分析中称为残差,称为平方误差。,可以考虑上面平方误差的最小值，来确定(1)中的待定系数:,2、最小二乘法,仍然定义平方误差,我们选取的度量标准是,-(2),-(3),由,因此可假设,因此求最小二乘解转化为,二次函数,3、最小二乘法的求法,由多元函数取极值的必要条件,得,即,-(4),即,引入记号,定义向量的内积,-(5),-(6),显然内积满足交换律,方程组(4)便可化为,-(7),将其表示成矩阵形式,-(8),并且其系数矩阵为对称阵,所以法方程组的系数矩阵非奇异,即,根据Cramer法则,法方程组有唯一解,即,是,的最小值,所以,因此,作为一种简单的情况,基函数之间的内积为,平方误差,例1. 回到本节开始的实例，从散点图可以看出,纤维强度和拉伸倍数之间近似与线性关系,故可选取线性函数,为拟合函数，其基函数为,建立法方程组,根据内积公式，可得,法方程组为,解得,平方误差为,拟合曲线与散点的关系如右图:,例2.,求拟合下列数据的最小二乘解,x=.24 .65 .95 1.24 1.73 2.01 2.23 2.52 2.77 2.99y=.23 -.26 -1.10 -.45 .27 .10 -.29 .24.56 1,解:,从数据的散点图可以看出,因此假设拟合函数与基函数分别为,6.7941 -5.3475 63.2589-5.3475 5.1084 -49.008663.2589 -49.0086 1002.5,1.6163-2.382726.7728,通过计算,得法方程组的系数矩阵及常数项矩阵为,用Gauss列主元消去法,得,-1.0410 -1.2613 0.030735,拟合的平方误差为,例3.,在某化学反应里,测得生成物浓度y%与时间t的数据如下，试建立y关于t的经验公式,t=1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16,y=4.00,6.40,8.00,8.80,9.22,9.50,9.70,9.86,10.00, 10.20,10.32,10.42,10.50,10.55,10.58,10.60,解:,具有图示的图形的曲线很多，本题特提供两种形式,两边取对数,得,得,即为拟合函数,基函数为,解法方程组得,平方误差为,用最小二乘法得,即,无论从图形还是从平方误差考虑,在本例中指数函数拟合比双曲线拟合要好,平方误差为,从本例看到，拟合曲线的数学模型并不是一开始就能选好的，往往要通过分析确定若干模型之后，再经过实际计算，才能选到较好的模型。,各点的重要性可能是不一样的,重度:,即权重或者密度，统称为权系数,定义加权平方误差为:,-(9),4、加权最小二乘法,使得,由多元函数取极值的必要条件,得,即,引入记号,定义加权内积,-(10),矩阵形式(法方程组)为,方程组(10)式化为,-(11),-(12),平方误差为,作为特殊情形,用多项式作拟合函数的法方程组为,-(13),