数值分析第5章矩阵分析基础.ppt
第五章,矩阵分析基础,5.1 向量和矩阵的范数,1向量的范数,定义1：设X R n，表示定义在Rn上的一个实值函数，称之为X的范数，它具有下列性质：,（3）三角不等式：即对任意两个向量X、Y R n，恒有,(1)非负性：即对一切X R n，X 0,0,(2)齐次性：即对任何实数a R，X R n，,设X=(x1,x2,xn)T，则有,（1）,（2）,（3）,三个常用的范数：,范数等价:设A 和B是R上任意两种范数，若存在 常数 C1、C2 0 使得,则称 A 和B 等价。,定理1：定义在Rn上的向量范数 是变量X分量的 一致连续函数。,推论：Rn上定义的任何两个范数都是等价的。,对常用范数，容易验证下列不等式：,定义2：设给定Rn中的向量序列，即,其中,若对任何i(i=1,2,n)都有,则向量,称为向量序列 的极限，或者说向量序列 依坐标收敛于向量，记为,定理3：向量序列Xk依坐标收敛于X*的充要条件是,向量序列依范数收敛与依坐标收敛是等价的。,2矩阵的范数,定义3：设A为n 阶方阵，Rn中已定义了向量范数，则称 为矩阵A 的算子范数或模，记为。即,矩阵范数的基本性质：,（1）当A=0时，0，当A 0时，0,（2）对任意实数k 和任意A，有,（3）对任意两个n阶矩阵A、B有,（5）对任意两个n阶矩阵A、B，有,（4）对任意向量XRn，和任意矩阵A，有,例5:,设A(aij)M.定义,证明：这样定义的非负实数不是相容的矩阵范数.,证明：设,从而,定理4：设n 阶方阵A=(aij)nn，则,（）与 相容的矩阵范数是,（）与 相容的矩阵范数是,其中1为矩阵ATA的最大特征值。,（）与 相容的矩阵范数是,上述三种范数分别称为矩阵的1-范数、2-范数和-范数。,可以证明,对方阵 和，有,注：（1）,（2）,矩阵的Frobenius范数不是算子范数。,3矩阵的范数与特征值之间的关系,定理5：矩阵A 的任一特征值的绝对值不超过A的范数，即,定义4：矩阵A 的诸特征值的最大绝对值称为A的谱半径，,记为：,并且如果A为对称矩阵，则,注:Rnn中的任意两个矩阵范数也是等价的。,定义5：设|为Rnn上的矩阵范数，A,BRnn,称|A-B|为A与B之间的距离。,定义6：设给定Rnn中的矩阵序列，若,则称矩阵序列 收敛于矩阵A，记为,定理6 设BRnn，则由B的各幂次得到的 矩阵序列Bk,k=0,1,2)收敛于零矩阵（）的充要条件 为。,4.矩阵的条件数,定义5 设矩阵,为非奇异矩阵，则称,对矩阵 的任意一个算子范数,有,(2)cond(kA)=cond(A),k 为非零常数;,(3)若，则,常用条件数有：,cond(A)2,特别地，若 A 对称，则,5.2 初等矩阵,初等矩阵对线性方程组的研究起着重要的作用，本节介绍一般形式的初等矩阵，它是矩阵计算的基本工具。,5.2.1 初等矩阵,定义6 设向量,，则形如,为初等下三角阵。,定理 初等下三角阵,具有如下性质：,(1)；,5.2.2 初等下三角矩阵,定义7 令向量,则称矩阵,对角阵和若干个下三角阵的乘积。,初等下三角阵在矩阵的满秩分解、三角分解以及解线性代数方程组的直接解法中起着重要的作用。,(2),为单位下三角阵；,5.2.3 Householder矩阵,定义8 设向量,，且,，称形如,为Householder矩阵，或称Householder变换、反射矩阵。,(1)矩阵,是对称阵，即；,定理 对任意的非零向量,，可以适当选择合适的,其中，,是实数，并且,定义9 将,阶单位阵,改变第,行和第,列的四个,元素得到矩阵,5.2.4 Givens旋转矩阵,称为Givens旋转矩阵，或称Givens变换，,为旋转角。,，,其中，,，可得,5.2.5 Hessenberg矩阵,定义10 若实矩阵,的次对角线以下元素均为零，即,时，,，称形如,的矩阵,为上Hessenberg（海森伯格）阵，或拟上三角阵。,不可约的上Hessenberg阵。,为上Hessenberg阵。,5.2.6 对角占优阵,定义12 设矩阵,，若,定理（对角优势定理）若矩阵,为严格对角占优阵，,或者为不可约且弱对角占优阵，则,若,历史与注记,阿尔斯通豪斯霍德(Alston Scott Householder，19041993)Householder 1904 年生于美国伊利诺州的洛克福特。1937 年取得了芝加哥大学博士学位之后他获得洛克菲勒基金会的资助，在芝加哥大学从事研究，1944年被提升为数学和生物物理学的副教授。二战后他为美国海军研究实验室作数学顾,问，他的研究兴趣转向数值计算，不久，他又转移到位于Oak Ridge，Tennessee 的著名的国家实验室，从事与原子能和武器有关的并行计算的研究。他于19541956年间出任ACM的主席，19631964年又出任工业与应用数学学会SIAM的主席。豪斯霍德1969年获Harry Goode奖，他是美国艺术和科学院院士。1980 年获得计算机先驱奖。,Householder 的主要贡献在数据处理技术方面，他的研究领域主要是数值分析、数值代数、生物数学，尤其是计算机在生物医学和生理学方面的应用。1958年，他发明了“矩阵反演”(matrix inversion)，可用以当圆锥曲线(也就是二次曲线)在n维空间中其坐标轴发生旋转时找出其基本不变式。,而在用最小二乘法(1eastsquares)对矩阵进行近似计算时，目前常用到的一种变换法也是由豪斯霍德创造的，因而被称为Householder transformation”。此外，Householder 还是系统使用“范数”作为数值方法分析理论工具的先驱者。,关于范数的概念各种中文著作和文献都有详细的介绍，条件数的概念是20世纪40年代由图灵提出，详细资料参见文献1,条件数估计的概论参见文献2，Turnbull和埃特金Aitken)在1932年就已经使用过初等反射，即现在的Householder变换，是1958年由Householder发表的。1965年，Golub在求解最小二乘问题中使用Householder方法，可参见文献3。,
