41,2,3,4向量范数.ppt

第三章 范数理论,一、向量范数,二、矩阵范数与算子范数,三、范数的应用,主要内容,第一节 向量范数,主要内容：1向量范数的定义及几种常见的向量范数2向量范数的等价性,如果函数,则称 为向量X的范数。,满足：,1）正定性,且,2）齐次性,3）三角不等式,对应一个实值函数,范数的性质：,对于向量空间 上的任意向量,一、向量范数的定义,实例1 在向量空间C n中,向量的长度是一种向量范数，称为2-范数或欧氏范数。,证明 易验证条件(i)和(ii)成立，现验证条件(iii)也成立。下面用到了Chauchy-Schwarz不等式。,两边开方即得证。,证明 范数定义中的条件(i)显然成立，现验证条件(ii)和(iii)也成立,实例2 在向量空间C n中,向量分量的最大模是一种向量范数，称为-范数。,反例：设,若令,显然，它满足范数定义中的正定性，但不满足齐次性，因此它不是 中的范数。,定理,1范数，,2范数(或Euclid范数),范数(或最大值范数)。,它们均构成范数。,说明：在同一个向量空间，可以定义多种向量范数，而对于同一个向量，不同定义的范数，其大小可能不同。,引理3.1.2（不等式）,p-范数或 范数,利用上面的三个引理可以证明：在向量空间Cn中，有下面的范数：,说明：在p范数中，若取p1时,它不是范数；1-范数，2范数是p分别取1，2时的p范数,而对于p范数与范数有下面的关系,定理 在向量空间C n中,向量范数满足,证明 当X=0时，结论显然成立。设,则,因为,故,所以,说明：,我们也可以通过已知的范数构造新的向量范数.,例 设A是n阶正定实对称矩阵，在向量空间Rn中,定义向量函数为,试证上述函数是向量范数，称为向量的加权范数或椭圆范数。,所以 是向量范数。,证明 因为A是正定对称矩阵，故存在可逆矩阵P，使得,从而,的连续函数。,提示：利用连续函数的定义证明,对同一个向量用不同的范数度量其值一般是不等的，即在不同的范数下，两个向量之间的距离是不等的。但我们将证明它们没有实质上的区别，即范数具有下面所说的等价性,定理:设 是 上的向量范数,则 是,范数等价性,对于两个向量范数，如果存在常数和,则称范数 等价,定理 向量空间 中的任意两个向量范数等价。,使得,容易证明：向量范数的等价具有自反性、对称性和传递性.,首先任一向量范数是 上的一个连续函数,证明,定义Dn是C n的单位球面(有界闭集),说明：我们证明 上的任一范数都与2-范数等价，再利用范数等价的传递性即可。,因为,故它在Dn上取到最大值m和最小值M,是连续函数，,再利用范数等价的传递性可知：上的任意两个范数都等价。,向量范数的等价性表明：按不同向量范数定义的向量的收敛性具有一致性。,第二节 矩阵范数,主要内容：1矩阵范数的定义、性质2算子范数（由向量诱导的矩阵范数）3几种常用的矩阵范数,定义,满足：,（1）正定性,且,（2）齐次性,（3）三角不等式,(4)相容性,矩阵范数的性质：,对于两个矩阵范数，如果存在常数和,则称范数 等价,使得,矩阵范数同向量范数具有类似的性质，比如等价性：,在 上常用的矩阵范数有：,定理1 矩阵Frobenius范数是酉不变的。,成立,即设,则对任意酉矩阵,定理2 设 是 上的相容矩阵范数，则在 上存在与 相容的向量范数,证明：任取一非零向量,定义向量X的范数为,即矩阵范数与向量范数相容,容易验证 是 上的向量范数，并且,对于 的矩阵范数与 上的同类向量范数，如果有,则称矩阵范数与向量范数是相容的。,算子范数,即由向量范数构造矩阵范数,为了书写简明，均不注明范数属于哪个空间，由范数中的矩阵(或向量)加以区别）,则 是矩阵A的范数并且与 相容。,首先由定义可知,即,再证明定义的第二个等号成立。记,再证明(D1)式中的最大值可以达到。,由 是C n 的连续函数，D n 是C n中的有界闭集，,知 在D n上取到最大值。,则,正定性:,齐次性:,三角不等式和相容性：,设,则存在,使,于是,由,我们称由(D1)式所定义矩阵范数为由向量范数诱导的矩阵范数，也称矩阵的算子范数。,对,从而,说明：由向量导出的矩阵范数是相容范数,存在向量,满足,根据常用的向量1-范数，2-范数及-范数得到相应的矩阵算子范数,列和范数,谱范数,行和范数,谱范数使用起来不方便，但它却有一些特殊的性质，在理论推导中非常重要。,定理3,设,则,对于矩阵谱范数有下面的性质：,（2）2-范数是酉不变的,例：设,计算,因为,注意：F-范数不是算子范数,第三节 范数的应用,主要内容：1、范数在特征值估计方面的应用-矩阵谱半径矩阵范数间的关系2、范数在扰动分析方面的应用,谱半径定义,记,设1,2,n是属于A的所有特征值,称,为A的谱半径。,证明,设1,2,n是属于A的所有特征值,因此,性质1 对于任意n阶矩阵A，成立,性质2,(1)对于任意n阶矩阵A，成立,(2)当A是正规矩阵时，,证明,(1)设是属于A的特征值,而矩阵AHA与AAH的特征值相同,则（1）成立。,解:因为,则,从而,A的常见范数,例：求矩阵A的谱半径及矩阵的范数,从而有,则,说明：此结论具有一般性。,定理4.3.1 对于矩阵A的任一矩阵范数总有,故,两边取范数,由于,证明 设 是A的特征值,X是A的属于的一个特征向量，又设 是与矩阵范数相容的向量范数。,从而,定理4.3.2 设，则对，必存在一个诱导矩阵范数，使,证明 由Rordan分解定理，存在可逆矩阵P，使得,令,则易验证,对给定的矩阵，规定,于是,可以验证 是 上的矩阵范数，且有,范数的应用-矩阵求逆的扰动分析,引理(P75),则I-A可逆，且,设,说明：,（1）根据范数 的大小来判断,是否为非奇,异矩阵；,（2）若矩阵A的范数 很小，由于 是它元素的连续函数，,而 的逆矩阵为I，,所以矩阵A接近于零矩阵，,证明（1）用反证法：即假设I-A不可逆,则线性方程组（I-A）X=0有非零解X0，因此,矛盾；,所以I-A可逆。,取范数得：,定理4.3.3(P76),则,设,(1)A+B可逆，,条件数定义,称cond(A)为矩阵A的条件数。条件数反映了近似逆矩阵误差的一个量；条件数越大，近似逆矩阵相对误差越大。,结论,第四节 特征值的估计与表示,特征值是矩阵的重要参数之一，矩阵的特征值可以用复平面上的点来表示，当矩阵的阶数比较高时，计算它的特征值一般比较困难，而对它的特征值给出一个范围就是特征值的估计问题。,而实际上，对于许多的应用问题，只要粗略地估计特征值的大小或者分布范围就够了，因此从矩阵的元素出发，用比较简便的运算给出矩阵特征值的所在范围，将有十分重要的意义。,主要内容：1矩阵特征值的有关不等式2特征值所在的区域盖尔圆,定理1 设 为 的特征值，则有,等号成立的充分必要条件是A为正规矩阵。,Schur不等式,证明：,由Schur定理，,存在酉矩阵U，使,对（1）式两端取共轭转置并两式相乘得：,因为R为对角元为A的特征值的上三角矩阵，所以,矩阵特征值实部与虚部界的不等式,引理：设 满足,则,证明：设,则有,定理2 设,则A的任,一特征值 满足：,证明：设A的属于 的单位特征向量为x,即,上式两端左乘以xH可得,再取共轭转置得.,由引理知：,推论：,（1）Hermite矩阵的特征值都是实数；,（2）反Hermite矩阵的特征值为零或纯虚数。,例：设矩阵,估计A的特征值的界,因为,所以，由,则A的任一特征值 满足：,关于实矩阵特征值虚部的界，还有更精确的估计式,定理：设,则A的任一特征值 满足：,证明略,在上面的例子中，可进一步地有,显然，当n比较大时，此定理对于实矩阵特征值虚部界的估计仅是前面定理界的一半。,特征值的包含区域-盖尔圆,定义 设,记,称复平面,上的圆域,为矩阵A的第,i个盖尔圆,称Ri为盖尔圆Gi的半径。,盖尔圆定理：矩阵 的全体特征值都在它的n个盖尔圆构成的并集之中.,证明：设A的属于 的单位特征向量为x,记,则有,由于,则,即,从而有,也就是,因此 在A的盖尔圆构成的并集之中.,注意到:A与AT的特征值相同,因此A的全体特征值也都在AT的n个盖尔圆构成的并集之中,称AT的盖尔圆为A的列盖尔圆.,例:估计A的特征值的分布范围,A的4个盖尔圆为:,故A的特征值都在 之中.,连通部分:在矩阵A的盖尔圆中,相交在一起的盖尔圆构成的最大连通区域称为一个连通部分.(孤立的一个盖尔圆也是一个连通部分).,盖尔圆定理2:若矩阵A的某一连通部分由A的k个盖尔圆构成,则其中有且仅有A的k个特征值(盖尔圆相重时按重数记数,特征值相同时也重复记数),说明:由两个或两个以上的盖尔圆构成的连通部分,特征值的分布不一定均匀.即在连通部分的不同盖尔圆中,分布的特征值的个数可以不相同.,例:估计 的特征值的分布范围.,A有两个盖尔圆,故A的特征值都在 之中.,容易求得A的特征值为,由于,所以A的两个特征值都在G1中.,