数值线性代数答案.docx
习题11.求下三角阵的逆矩阵的详细算法。解设下三角矩阵L的逆矩阵为T我们可以使用待定法,求出矩阵T的各列向量。为此我们将T按列分块如下:注意到我们只需运用算法111,逐一求解方程便可求得 注意考虑到内存空间的节省,我们可以置结果矩阵T的初始状态为单位矩阵。这样,我们便 得到如下具体的算法: 算法(求解下三角矩阵L的逆矩阵T,前代法)预置步置丁 = Z扣 f j-nfor 先二 1:照一 1T3 = T3(L(")优 +1: 5 = T +1:心-T(kJ)Lj + 1: end网d3.证明:如果璋二'一痔反是一个Gauss变换,则以二'+4殊也是一个Gauss变换.解按Gauss变换矩阵的定义,易知矩阵'+ L气是Gauss变换.下面我们只需证明它是Gauss变换临=1感的逆矩阵。事实上U S +俱)=I+渣;T忒-4阳忒t-M或注意到.=底,则显然有°从而有4 .确定一个Gauss变换L,使-2 -2 -3=74g解比较比较向量寄用和(2工幻可以发现Gauss变换L应具有功能:使向量区&矿的第二行 加上第一行的2倍;使向量R&4尸的第三行加上第一行的2倍。于是Gauss变换如下IL= 2 12 0 15.证明:如果Ae贮'有三角分解,并且是非奇异的,那么定理112中的L和U都是唯一的。(完整版)数值线性代数答案证明设=二1口1 =上弓,其中L, A都是单位下三角阵,*耳都是上三角阵。因为A非奇异的,于是注意到,单位下三角阵的逆仍是单位下三角阵,两个单位下三角阵的乘积仍是单位下三角阵;上三角阵的逆仍是上三角阵,两个上三角阵的乘积仍是上三角阵。因此,上述等将是一个单位下三角阵与一个上三角阵相等,故此,它们都必是单位矩阵。即i,从而即A的1。分解是唯一的。17.证明定理131中的下三角阵L是唯一的。证明因A是正定对称矩阵,故其各阶主子式均非零,因此A非奇异。为证明L的唯一性,不 妨设有和A使那么注意到:L和心是下三角阵,4和E为上三角阵,故它们的逆矩阵也分别是下三角阵和上三角 阵。因此,i匕和£;( 1只能是对角阵,即从而= LXD, 0;尸二(££:)-1, O = 尸S LT】于是得知19.若四= ££是A的Cholesky分解,试证L的i阶顺序主子阵4正好是A的i阶顺序主子阵在的Cholesky因子.证明将A和L作如下分块其中:舛11,知为矩阵A和L的i阶顺序主子阵。Ai 思一扇。件d知 El A 121_A1 22 _21 亳I.。_A1A1 A121 A222_t4 =故有41 =如玲。即41是11的Colicky分解.23.设-16484-32-41084L 268S1210,寸一3844101230龙=用平方根法证明A是正定的,并给出方程组 解由Colicky分解可得A = LL其中显然,L是非奇异矩阵。因此,对"口澎七以羊D.于是kF = xTLlFx= xf x > 0所以R是正定的。由方程组质二5,解得?=(&登,1)了,再由方程组C = y,解得应=(1,1,侦).习题2二匣+成。2.2证明:当且仅当工和/线性相关且乏o时,才有k+证明因为对任意的于是,当且仅当由等式(E2.1)可知,孩当且仅当云荒(叫-区叫)'=°,即,对任意的。企顶二M七,此式成立不外乎二种情形:或A = 0 ;或尸二°;或 四+伽且同+1牛。即工和丁线性相关。2。3证明:如果应二%,%,是按列分块的,那么K = lk】L+lkJL+-+kJ"证明因为MB MBMI>ZM =£"| =工| 叽BJL】1J-1。24证明:回叩IJ%和网产皿雁证明 记月二展山广山,那么,根据第3题的结果我们有根据Frobenius范数定义易知,对""”卵=1同卜|钏=I理。于是.IF誓静嶂网网产间*2.5设Rm -R是由u(A) = max 丹.,A E定义的。证明方=冲是矩阵范数,并且举例说明*不满足矩阵范数的相容性。证明 (1)证明巧二w是矩阵范数。因为巧(A) =-max |矿 A E Rm(完整版)数值线性代数答案显然咒满足矩阵范数定义中的前三条:正定性、齐次性、三角不等式。下面我们证明兔还满 足“相容性”。对任意凡占£尺二记如&,服(),且a maz cl. . b = max 由寸I四"=知翳启3胡%耘宫&%.|< V& 二% (j4),% (月).招 jt-i««A =-1"=; AB =-3 2-(2)一个,不满足矩阵范数的相容性的例子。取就=:,2 1_1 1,则5 3_于是心1) = 4 W£)。,讽服)二5,从而心功项)'").2.6证明:在玲上,当且仅当M是正定矩阵时,函数/二值如少是一个向量范数。证明 由于A是正定矩阵,不妨设。'冬至石*五危是a的特征值,岩是撰&是其对应的标 准正交特征向量,即亨M产我= 1旗m显然,鼻名&是线性无关的.因此,矽 =span 上后.&.记& = %&,./,A顼祀(兀办),那么顷纯=A, R = aQ,且对任意拦R总有腥R*使 元=四。命题的充分性是很显然的。因为川)=(方涕是2上的向量范数,则由其正定性可知A必为 正定矩阵。(完整版)数值线性代数答案现在我们来证明命题的必要性。即假设h是正定矩阵,则函数=(曲 满足向量范数定 义的三条性质:正定性.由A的正定性,正定性显然成立.齐次性。对任意的,因为三角不等式。对于任意给定的,有瓦,使三角不等式。对于任意给定的,有瓦,使处 + y) = Jw+yf 绳2) = .j(.x-y)TQTAQ(x+y)何二叩3)应用习题2。1的结果,得范数,于是可证得kLT对满足:即有2。7设同是"上的一个向量范数,并且设mRg。证明:岁妙(禹=片,则kLhd是R'上的一个向量范数.证明 当r0) 二风时,如=。当且仅当兀是R”上的零向量。再由假设I冲是"上的一个向量Il II期I.正定性。事实上,对任意xer*,同L = lhH'°,而且klL = lkH 二 °当且仅当壬=口。齐次性.事实上,对所有的和廉r有回攻)KI浏却二国俱域,因此 HLM乩.三角不等式。事实上,对所有的mveR*有I国侦+列1二I国汇+AdWbM+lkM,因此 有S顷+叽2。8若四I"且11711 = 1,证明证明首先用反证法,证明尸的存在性。设Uf 奇异,则(1-A)x= 0有非零解兀,且可=如,于是°二忸域圳IN,从而国性1。这与假设矛盾。现在来证明命题中的不等式。注意到:啊T,且1=(1-)(1 -A)'1 = (I-A)-1故有2。9设同是由向量范数忡诱导出的矩阵范数。证明:若乂 eR5非奇异,则证明因为同是向量范数诱导的矩阵范数,故间二1,且对丘武*和昨R*,有件杉同御 于 是对,K,有什件用何"I网,且当同I时,有现在只需证明:存在工丘用且同1二1,使村圳= 设5且舸=1,使|炉IH心。, 示 rr-» X = 再取1 T即可。根据算子范数的定义 七/KT,显然II|工=1,且我们不妨假综合(E2.2)和(E2.3)得2。12证明对任意的矩阵范数都有II7!-1,并由此导出证明由定理2.1.6 (1)可知,对任意矩阵范数都有-,而心1于是牛1,从而砸)=1此胭闫I妒牛I牛1.2.13若R和A + E都是非奇异的,证明证明因为(R + 迎)T R-1 = (R + 占)-1 (J (且 + 占)R-1)二(工 + 占)-1 曲T所以,根据矩阵范数的相容性可得寸山)-惘|"|。习题31 .设用正则化方法求对应的LS问题的解.解由定理3。1。4可知,LS问题的解就是下列正则化方程组解:解得:"(T,1)2.设-1 3 1 f2 0 0 0,b =110 0 0一LA =求对应的LS问题的全部解.解由定理3.1.4可知,LS问题的解就是下列正则化方程组解:3 1 f与3 9 3 3313 1113 11_晚_一L经初等行变换得其同解方程组从而即金1iL15 33其中芯3。设*二(1 ° 4 6*4),求一个Householder变换丑和一个正数口使得fe = (l 4 6 0 0)r解由于2范数具有正交不变性,故同L=ll版IL。于是a = Vl2 +42 + 62 +32 +42 -l2-42 -62 = 5.于是5 4 6 0 0),令v =(0 -10 0 3 4)Jric° -10 0 3 矿那么,反=1-版"可以验证满足该题的要求。4. 确定。=顷舛和"的白使得解由2范数具有正交不变性,故于是从而'cir 512-1_ i_512 一Pl京b2-516912-5(完整版)数值线性代数答案10.设且存在XeW 使得对每一个兴Rl =妙均极小化区-虬。证明:AXA = AAX)t = at.解由矩阵奇异值分解定理知,设AeRk的秩南,则存在/阶正交阵R和用阶正交气=M儿羽点->0是妒A的非零特征值全体。龙=qdpt其中:可以证明矩阵八W,且事实上,A 一Qrb=PL3 一注一_0_0_0_ATAXh= PDQrQDPTPE'10Qrb =由定理3.1。4可知,对任一兴R'k二密是I盅一虬二min.的解.另外,于是我们有AXA= A, (AX-)t = AT.12.利用等于|j4(x + cew) 一占;二 |j4z一圳:+ 2c(yvrAr- b) + a2 Aw证明:如果z义炬,那么疽压=泌及证明令泛函/二恤-M;如果券L,那么对且隗二l当共氏且同充分小时,处+蝴 U(z),从而由/(为连续 性有由心舟的任意性,则必有疽(虫-占,即泌压=泌习题41。设方程组如二右的系数矩阵为A2 =证明:对攻来说,Jacobi迭代不收敛,而G-S迭代收敛;而对其 来说,Jacobi迭代收敛, 而G-S迭代不收敛。解对于囚,则有从而,于是从而,即有D 二L =0-11212012-G由定理4。2.1知,Jacobi迭代法不收敛;G-S迭代收敛。0-0 -2 厂"陌顷,L=-1 0,u=0 -1-2-2 00从而一 0-22-'0-22 -10-12-3-2-202B =进而det(AZ- 5) = det(G) = A(A-2)2显然,凯与=2.故由定理4.2. 1知,Jacobi迭代法收敛;G-S迭代不收敛.2.设BW 满足胃(切二°,证明对任意的片空,迭代格式#网)+ k= 0,1,.最多迭代用次就可得方程组k=既+g的精确解。证明由于月0) = 0,故召的所有特征值均为零。于是存在正交矩阵产及矩阵0 学0 %J 二° %-1使B = P*,注意到尸=。.于是: =尹一顼¥=。.另一方面,记:,的二舟)一”二妃齐从而,仲酣7二*邪",即舟)=/.3。考虑线性代数方程组Ax = b这里(1)律为何值时,R是正定的?(2) 口为何值时,Jacobi迭代收敛?为何值时,GS迭代收敛?解(1)对称矩阵R正定的充分必要条件是其特征值均为正数。而R的特征多项式为det(AZ-.4) =(A-1)3= (Z-1)(A-1-ck)(A-1 + k)于是R的特征值为:舄二L右二1 + % 私二1-皿欲使它们均大于零,I。"*.(2)由于Jacobi迭代矩阵为00 - ct5= 000-a 00召的特征多项式为det(X 占)=定k3A = a)(Z + ct)其特征值为:& 二°,冬=¥ 从二-仪,于是£谱半径Q=回。由定理4.2. 1可知,Jacobi 迭代收敛当且仅当夙为二同E.从而当权时,Jacobi迭代收敛.(3)由于GS迭代矩阵为0 0 a:G= 0 000 0 -a2其特征多项式为配 c?)=寸3 成)特征值为:&二为二S为二/.从而日(宁)二"|故由定理4。2。1可知,当""时,G-S 迭代收敛。注意:(2)和(3)中的点可以是复数。5. 若R是严格对角占优的或不可约对角占优的,则GS迭代法收敛。证明若H是严格对角占优的或不可约对角占优的,则必有殉k °,因此D-L非奇异。现在来证明:G-S迭代矩阵&=(口-£尸口的谱半径小于1。假设国占J 则由R的假设知,D-L-U1 也是严格对角占优或不可约对角占优的,因此电- E - !力河,如口 _ &尸泠口而由于-3 =加顿-(。-£) -F)=如"(O - £尸侦-£ - ! I?=2H det(D- Z)-1)det(r)- Z -1?7)箕 0这说明迭代矩阵&=-£)-】口不存在模大于等于1的特征值。因此,从而GS迭 代收敛。8. 若存在对称正定阵P,使B= P-Hi PH为对称正定阵,试证迭代法汇由 二肱只+ &,花=0,1,2.收敛。证明设人是丑的任一特征值v宅。是H关于人的特征向量,于是=vTPv-vrHrPHv = (l-A3>rFv因旦尹都是正定阵,故(1-万)。,即国。由人的任意性得知瓜丑)1,故迭代法收敛。9. 对J acob i方法引进迭代参数0,即或者f i=E -剪-项+站-勺(完整版)数值线性代数答案称为Jacobi松驰法(简称JOR方法).证明:当如=卜的Jacobi方法收敛时,JOR方法对 0 必1收敛.证明对于敬=b,-口,则Jacob i迭代矩阵召和JOR迭代矩阵乩分别是B = D-L + U') = I-D-XA, 虬=I-cdDA.由于Jacobi迭代收敛当且仅当”伊)1,即日的任一特征值国ul.现设儿是Jacobi迭代矩阵召的一个特征值,非零向量v是其对应的特征向量,则有Av = Bv = VD lAv即有(-X)v = DlAv进而= T- Av二(1 侦1 即若人是Jacobi迭代矩阵月的一个特征值,则(1-或1-招)便是乩的一个特征值.当取定:De£1,并假定瓦三密+成,成+歹、1,注意到1 - |1 -由(1-其)=1- (1- £U(1 -C)3 + £成-1 - 1 - ck)十折(1 _ 住) + tu2/?2=2 (1 一 皿)一折 + 2cto)- (cs2 + 伊) 2 口(1 一 一 2静 += 2 a?(l - £2?) 0即乩的所有特征值模小于1,从而凯EQ',即j or迭代收敛.10. 证明:若R是具有正对角元的实对称矩阵,则JOR方法收敛的充分必要条件是R及 2D-A均为正定对称矩阵.证明由于只的对角元都是正数,故D二成瞄(吐广成仲)的对角元为正数,故 _1 1虬二-应)-1 A 二_ 血F显然,矩阵U-近以膏)与乩相似,两者有相同的特征值。同时,它与A有着相同的实对称 性。因此,两个矩阵的特征值都是实数。1 1- .必要性.设JOR迭代收敛,即点方I.那么,矩阵的特征值在区间(T)内, _1 _1 _1 _1于是得出虻如-项的特征值位于区间牡2)内,这就是说虻如一项是正定的,而它与H具有相同 的正定性,因此也是正定的.另外,实对称矩阵-志AD弓的特征值完全由(1-AD弓的特征值所生成,所以 (湖的特征值将全部位于区间(°,2)内,因此是正定的。注意到_11 _i_i_2U AD =或£> 0因此矩阵2D-A也是正定的。充分性.一方面,因为1_1_ J. _1。电J-虬)口一亍二所以虬)与且一样是正定矩阵。即)的特征值均大于0.即况的特征值均小于1 .另一方面,由于2小盘-打正定,而且_1 _1 1_1二 Dp +三所以,矩阵什+虬)是正定的,即特征值全部为正数,即乩的特征值均大于一1.结合两方面的结果,得知:Q(风)1,即J OR迭代收敛.11. 证明:若系数矩阵R是严格对角占优的或不可约对角占优的,且松驰因子由丘(叫),则SOR 收敛。证明若矩阵R是严格对角占优的或不可约对角占优的,则必有屈>°,因此D非奇异。 现假定某个复数国占I则矩阵土 + 0 1)口 人位0也是严格对角占优的或不可约对角占优的。 不妨假设乳=仪+敏,且或+仔乏1,于是就有X + (D- 1|3 一 |刃'次=0 +由一 I)2 + 妒一 flj2(CK2 + 妒)=成_服(1_或+(1_或?十尸=(1 - £Da)(ct2 + P2')- 2q(1- m)+ (1 - a?)2=(1 fl?)cs2 + 伊 + £2?(CK2 + 矿)2cs+ 1 07二(1 一 西(G -I)2 +/?2+2+/?2-1)> 0.从而|A H- oj- 12 > |Ap a?2 > a?2因此得到|X + a? -1| > |A|fy > a?.于是由H的严格对角占优或不可约严格对角占优可知0 +虹实-淄-命也是严格对角 占优或不可约对角占优的。因此,0 +虹询_虹_血是非奇异的.而det(AZ 亳)= det(A; - (5 - gZ)-1(1 十跻十陌田)=det( D - ozL)-1) det(Z + a? - 1) - 尺oZ -U) w 0.因此,九不是SOR迭代矩阵亳的特征值。由又的任意可知,孔的特征值都将满足风心,于是 力幻)匚1,从而sOR迭代收敛。习题51。证明等式(5.1.4).证明考虑砂二工了虫- 2工在方程组如=右的解向量而处的Taylor展式,则有如=标+叩福(.f +如Mr.注意到:办=也,于是上式可写为风二)+h =(Z-_ 行)3.试证明当最速下降法在有限步求得极小值时,最后一步迭代的下降方向必是R的一个特征向量.证明假定在十1步迭代后,得到了精确解电1二七,即从而有,土稣记土,整理可得即是说尢是A的一个特征值,昨是其对应的特征向量.了5 .设对称正定的,""kf 是互相共轭正交的,即孔明-="IJ.证明咨."上是 线性无关的.证明若有一组数叫满足则对一切,=L一定有注意到忒相 部,由此得出:% 顼即所有的叫=0 .因此,孔是线性无关的.习题65 .设 歹.求A的特征值部。的条件数.解显然好月都是单特征值.对于有来说,显然* =(项)'是R关于有的一个模1特征向量.同时,容易求得尸=(卬)了是R关于有 的满足/1 = 1的左特征向量,故由特征值条件数的定义得知对于来说,解方程对于来说,解方程得到H关于°的特征向量得到H关于°的特征向量cand (ct) = 1.0.再由方程/=时可解得”关于力的左特征向量、=(。",£葺,令工=1,则得出从而由特征值条件数的定义知7.分别应用幂法于矩阵并考察所得序列的特性.解我们不妨设兀 G .对于矩阵即初始向量:=(ir,迭代如下:_z+r吼二时如二PlA球十1巧二血 a ?+1, m2 = max(/2) = A + - 3 n2 =y2/m2= 尢Il J兀十1Ll十2光:二也1一般地,显然对于矩阵S =取初始向量:。="了,则迭代得到尹 1 =阻=(K 十 1 一尤尸,= max(乃)=A 十 1,敦=L - -由此我们可以看出,迭代数列:防,和向量序列:均不收敛.但它们都各对应地存在两个 收敛子列.即当脚标为奇数时当脚标为偶数时,14.应用基本的QR迭代于矩阵并考察所得的矩阵序列的特点,并判断该矩阵序列是否收敛?解用Givens正交变换实现QR迭代: 第1步:7 ”项,二云由上面的两步迭代,即已说明对该矩阵进行QR迭代,其矩阵序列由两个矩阵构成其奇数项和偶 数项,因此该矩阵序列不收敛.习题7