线性代数LinearAlgebra刘鹏.ppt

《线性代数LinearAlgebra刘鹏.ppt》由会员分享，可在线阅读，更多相关《线性代数LinearAlgebra刘鹏.ppt（43页珍藏版）》请在三一办公上搜索。

1、线 性 代 数Linear Algebra刘鹏,复旦大学通信科学与工程系光华楼东主楼1109 Tel:65100226,问题：非齐次线性方程组 AX=b 的所有解向量 是否构成 Rn 上的线性空间？,否，因为对线性运算不封闭：,设 X1 X1 是解向量，则,对加法运算不封闭，因此不能构成 Rn 上的 线性空间.,三、过渡矩阵与坐标变换公式,定义 4.6:设 1,2,.,n 和 1,2,.,n 是 n 维线性空间 V 中的两个基，且有：,则称矩阵 M 为由基1,2,.,n 到 基1,2,.,n 的过渡矩阵(transition matrix).,定理 4.3:设 1,2,.,n 和1,2,.,n

2、 是 n 维线性空间 V 中的两个基，且有：,则,(1)过渡矩阵 M 是可逆的；,(2)若 V，且在基 1,2,.,n 和 1,2,.,n 下的坐标分别为 x1,x2,.,xn T 和 x1,x2,.,xn T，则有,四、线性子空间的维数与基,基/维数/坐标等概念也可以应用到线性子空间,定理 4.4:设1,2,.,l 与 1,2,.,s 是线性空间 V 中的两个向量组。,(1)L(1,2,.,l)=L(1,2,.,s)的充分必要条件是 1,2,.,l 与 1,2,.,s 等价;,(2)L(1,2,.,l)的维数等于向量组 1,2,.,l 的秩.,4.3 欧几里德(Euclid)空间,一、欧几里

3、德空间的定义及基本性质,定义 4.7:引入内积后的有限维实线性空间 就是欧氏空间.,常定义内积(inner/dot/scalar product)如下,实数,内积的基本性质：,(1)(,)=(,)；,(2)(k,)=k(,)；,(3)(+,)=(,)+(,)；,(4)(,)0，当且仅当=0 时(,)=0.,对称性,(2、3)线性性,恒正性,二、向量的长度与夹角,有了内积的定义，可以进一步给出欧氏空间内 向量的长度与向量间夹角的定义.,定义 4.8:设是欧氏空间 V 的一个向量，称非负实数,为向量的长度(length)或模或范数(norm，2范数)，记为:,长度为1的向量:单位向量.,有了范数就

4、可以度量：度量向量间距离的远近，度量向量的长度，度量误差的大小.,长度的基本性质：,(3)三角不等式:|+|+|.,(1)正定性:|0;且|=0=;,(2)齐次性:|k|=|k|(kR);,定理 4.5:柯西施瓦茨不等式(Cauchy-Schwartz Inequality):,对于欧氏空间 V 中任意两个向量，恒有,当且仅当 与 线性相关时等号成立.,定义,的夹角为,定义 4.9:设,是欧氏空间中的两个非零向量,定义 4.10:若(,)=0,即=/2,则称与 正交或垂直，记为.,三、内积的坐标表示,设 V 是一个 n 维欧氏空间，在 V 中任意取定 一个基 1,2,.,n，对 V 中任意两个

5、向量，有,有了内积的定义，线性空间中的基、维数、坐标等概念也可以应用于欧氏空间.,由内积的性质,利用矩阵可表示为,其中,矩阵 A 称为基 1,2,.,n 的 度量矩阵(metric matrix).,由定义，度量矩阵是实对称阵，,度量矩阵的对角线元素恒正.,A 是基中各个向量的内积构成的，度量矩阵确定 后，V 中任意两个向量的内积可由它们的坐标决定.,例：设1,2,3，4 是欧氏空间V 中的一个基，其度量矩阵为,且V 中两个向量,求|2|和(，).,解：由度量矩阵的定义,由(3.8)式,如果基中向量两两正交，度量矩阵变为对角阵；,如果基中向量不仅两两正交，而且长度为1 度量矩阵变为单位阵 内积

6、计算大大简化.,四、标准正交基,线性空间内任一向量可由基和坐标线性表示；,基作为度量标准，首先必需满足：(1)组成向量线性无关；(2)空间中任一向量都可由基线性表示.,基作为度量标准，本身应该尽可能简洁。,普通基不满足：表示不方便，计算不方便，计算不稳定.,而标准正交基类似于几何空间中的直角坐标系：表示方便，计算方便，计算稳定.,后面我们会看到，在标准正交基下，内积、范数、度量矩阵等都具有简单的形式；,标准正交基是基的一种，所以任一向量，总能用标准正交基线性表示.,例如：（1 0 0）（1 1 0）（1 1 1）与（1 0 0）（0 1 0）（0 0 1）,定义 4.11 在欧氏空间 V 中，

7、一组非零向量，如果它们两两正交(mutually orthogonal)，就称它为正交向量组。,例如 R n 的标准基(e1,e2,.,en),例如,12 1,1 1 1,10 1,证明：作正交向量组1,2,m的线性组合，使得,用 j 对等式作内积，因为,定理 4.6 设1,2,m(mn)是 n 维欧氏空间 V 中的一组正交向量，则1,2,m 线性无关。,故必有 j=0,所以向量组1,2,m 线性无关.,特别地，只有一个非零向量构成的向量组 也称为正交向量组,因为在此向量组中找不到两个向量不正交.,dimV=n 时，V中两两正交的向量不会 超过 n 个,如平面上找不到3个两两正交的向量，空间中

8、找不到4个两两正交的向量.,定义 4.12 在 n 维欧氏空间 V 中，由 n 个两两正交的非零向量所构成的正交向量组称为正交基；,由单位向量构成的正交基称为标准正交基。,例如,12 1,1 1 1,10 1,例：证明向量组：,是欧氏空间R3 的一个标准正交基.,解：由于,且,由定义知 1，2，3 是一组正交基.,若1,2,.,n 是 n 维欧氏空间 V 中的一个 标准正交基，由定义4.12有,标准正交基的度量矩阵为单位阵.,利用度量矩阵，两个向量的内积变得非常简单,因此向量组的正交化非常必要:从内积空间（如欧几里得空间）中的一组线性无关向量出发，得到同一子空间上两两正交的向量组(基).,定理

9、 4.7 任一 n 维欧氏空间(n1)都必有 正交基(orthogonal basis)。,证明：设向量组1,2,n是n 维欧氏空间的任意一个基，我们可以由它构造一个正交基,先取,显然1 0,令,使2与1 正交，即,于是系数,而且2 0,否则 1,2 线性相关，与假设矛盾.,施密特正交化过程(Schmidts Orthonormalization Process),此时2与1 已正交；,我们再令,并且使3 与2、1 都正交，故,于是系数,同理，由,因此，有,且3 0,否则 1,2,3线性相关，与假设矛盾.,此时3、2、1 已两两正交.,重复上述步骤，可得,且n 0,此时 1,2,.,n 两两正

10、交，即为 所求正交基.,Schmidt 正交化提供了正交化方法：通过子空间的一个基 得出子空间的一个正交基，,并可进一步求出对应的标准正交基.,几何解释：设,Rn,且与 线性无关,求常数 k 使+k 与 正交.,解(1)：几何方法,与 同方向，所以,施密特正交化的几何解释,定义(投影)若 与 是 n 维内积空间中的向量，则 到 的标量投影(scalar projection)为,则 到 的向量投影(vector projection)为,由前例-.,Schmidt 正交化基本思路就是利用投影原理，在已有正交基的基础上构造一个新的正交基。,具体的说，从其中一个向量所张成的一维子空间 开始，重复扩

11、展构造直到 n 维空间：,Erhard Schmidt,(1876.1.13-1959.12.6)德国数学家,哥廷根大学博士，师从希尔伯特,拉普拉斯和柯西更早发现这一正交化方法，但没有达到施密特的高度.,主要工作在积分方程和希尔伯特空间方面，,创立了泛函分析。,现代数学的奠基人之一。,实际数值计算中，Schmidt正交化并不稳定，误差累积会使得正交性越来越差，,常用的是 Householder 变换 或 Givens旋转.,4.7推论 任一 n 维欧氏空间(n1)都有一个标准正交基(orthonormal basis)。,只要将定理4.7中的正交基单位化即得.,1,2,.,n 即为 所求标准正

12、交基.,标准正交基 正交矩阵 线性方程组求解,正交基带来的好处：,计算的方便性和稳定性,例：已知欧氏空间 R4 的向量组：,试求：(1)生成子空间 L(1，2，3)的一个标准正交基；(2)将此标准正交基扩充成 R4 的一个标准正交基.,解:(1)先求向量组的秩，得到一组基,向量组的秩 r=2，dim L(1，2，3)=2，取 1，2 为基.,将 1，2 正交化，令,再标准化，得,即为生成子空间 L(1，2，3)的一个标准正交基.,(2)将此标准正交基扩充成 R4 的一个标准正交基.,设向量=x 1，x 2，x 3，x 4 R4，且 1，2，即,求齐次线性方程组的基础解系，得,将 4，5 正交化

13、，令,再标准化，得,向量组 1，2，3，4 就是 R4 的一个标准正交基.,练习：考虑 Px3 中定义的内积,求 Px3 的一组标准正交基.,提示:不妨从标准基出发，先正交化，再单位化,(1)正交化，令,(2)单位化：,选择系数，令 n(1)=1 n 阶勒让德多项式：,40,例：令矩阵,试求：A 的列空间的一组标准正交基；,解:显然 A 的3个列向量线性无关，它们构成 R4 的3 维子空间的一组基，可以使用施密特正交化过程,正交化、标准化同时进行，令,令,令,向量组 q1，q2，q3 就是 A 的列空间的一组标准正交基.,定理(QR分解)若 A 是一秩为 n 的 mn 阶矩阵，则A 可以分解为乘积 QR,其中 Q 为列正交的mn 阶矩阵，R 为对角线元素均为正的 nn 阶上三角阵。,例中的 QR 分解为,