四章节关系系统及其查询优化.ppt

2006年4月12日,1,第四章 关系系统及其查询优化,2006年4月12日,2,第四章 关系系统及其查询优化,4.1 关系系统4.2 关系系统的查询优化4.3 小结,2006年4月12日,3,关系系统,能够在一定程度上支持关系模型的数据库管理系统是关系系统。由于关系模型中并非每一部分都是同等重要的并不苛求一个实际的关系系统必须完全支持关系模型。,2006年4月12日,4,关系系统与关系模型,关系数据结构域及域上定义的关系关系操作并、交、差、广义笛卡尔积、选择、投影、连接、除等 关系完整性实体完整性、参照完整性、用户自己定义的完整性,2006年4月12日,5,关系系统的定义,一个数据库管理系统可定义为关系系统，当且仅当它至少支持：1.关系数据库（即关系数据结构）系统中只有表这种结构2.支持选择、投影和（自然）连接运算 对这些运算不要求用户定义任何物理存取路径对关系系统的最低要求,2006年4月12日,6,关系系统的定义,不支持关系数据结构的系统显然不能称为关系系统仅支持关系数据结构，但没有选择、投影和连接运算功能的系统仍不能算作关系系统。原因：不能提高用户的生产率支持选择、投影和连接运算，但要求定义物理存取路径，这种系统也不能算作真正的关系系统原因：就降低或丧失了数据的物理独立性选择、投影、连接运算是最有用的运算,2006年4月12日,7,4.1.2 关系系统的分类,分类依据：支持关系模型的程度分类 表式系统：支持关系数据结构(即表)(最小)关系系统 支持：关系数据结构 选择、投影、连接关系操作,关系完备的系统 支持：关系数据结构 所有的关系代数操作 全关系系统 支持：关系模型的所有特征 特别是:数据结构中域的概念,（a）表式系统(b)（最小）关系的(c）关系完备的(d)全关系的,2006年4月12日,8,关系系统的分类（续）,2006年4月12日,9,第四章 关系系统及其查询优化,4.1 关系系统4.2 关系系统的查询优化4.3 小结,2006年4月12日,10,4.2 关系系统的查询优化,4.2.1 查询优化概述4.2.2 查询优化的必要性4.2.3 查询优化的一般准则4.2.4 关系代数等价变换规则4.2.5 关系代数表达式的优化算法4.2.6 优化的一般步骤,2006年4月12日,11,4.2.1 查询优化概述,查询优化的必要性查询优化极大地影响RDBMS的性能。查询优化的可能性关系数据语言的级别很高，使DBMS可以从关系表达式中分析查询语义。,2006年4月12日,12,由DBMS进行查询优化的好处,用户不必考虑如何最好地表达查询以获得较好的效率系统可以比用户程序的优化做得更好(1)优化器可以从数据字典中获取许多统计信息，而用户程序则难以获得这些信息,2006年4月12日,13,由DBMS进行查询优化的好处,(2)如果数据库的物理统计信息改变了，系统可以自动对查询重新优化以选择相适应的执行计划。在非关系系统中必须重写程序，而重写程序在实际应用中往往是不太可能的。(3)优化器可以考虑数百种不同的执行计划，而程序员一般只能考虑有限的几种可能性。(4)优化器中包括了很多复杂的优化技术,2006年4月12日,14,查询优化目标,查询优化的总目标 选择有效策略，求得给定关系表达式的值实际系统的查询优化步骤1.将查询转换成某种内部表示，通常是语法树2.根据一定的等价变换规则把语法树转换成标准（优化）形式,2006年4月12日,15,实际系统的查询优化步骤,3.选择低层的操作算法对于语法树中的每一个操作计算各种执行算法的执行代价选择代价小的执行算法4.生成查询计划(查询执行方案)查询计划是由一系列内部操作组成的。,2006年4月12日,16,代价模型,集中式数据库单用户系统总代价=I/O代价+CPU代价多用户系统总代价=I/O代价+CPU代价+内存代价分布式数据库 总代价=I/O代价+CPU代价+内存代价+通信代价,2006年4月12日,17,4.2.2 查询优化的必要性,例：求选修了课程2的学生姓名SELECT Student.SnameFROM Student,SCWHERE Student.Sno=SC.SnoAND SC.Cno=2;,2006年4月12日,18,查询优化的必要性（续）,假设1：外存：Student:1000条,SC:10000条,选修2号课程:50条假设2：一个内存块装元组:10个Student,或100个SC,内存中一次可以存放:5块Student元组,1块SC元组和若干块连接结果元组假设3：读写速度：20块/秒假设4：连接方法：基于数据块的嵌套循环法,2006年4月12日,19,执行策略1,1 name(Student.Sno=SC.Sno SC.Cno=2(StudentSC)StudentSC 读取总块数=读Student表块数+读SC表遍数*每遍块数=1000/10+(1000/(105)(10000/100)=100+20100=2100 读数据时间=2100/20=105秒,2006年4月12日,20,不同的执行策略,考虑I/O时间,中间结果大小=1000*10000=107(1千万条元组)写中间结果时间=10000000/10/20=50000秒读数据时间=50000秒总时间=1055000050000秒=100105秒=27.8小时,2006年4月12日,21,查询优化的必要性（续）,2.2 name(SC.Cno=2(Student SC)读取总块数=2100块读数据时间=2100/20=105秒中间结果大小=10000（减少1000倍）写中间结果时间=10000/10/20=50秒读数据时间=50秒总时间1055050秒205秒=3.4分,2006年4月12日,22,查询优化的必要性（续）,3.2 Sname(Student SC.Cno=2(SC)读SC表总块数=10000/100=100块读数据时间=100/20=5秒中间结果大小=50条 不必写入外存读Student表总块数=1000/10=100块读数据时间=100/20=5秒 总时间55秒10秒,2006年4月12日,23,查询优化的必要性（续）,4.2 name(Student SC.Cno=2(SC)假设SC表在Cno上有索引，Student表在Sno上有索引 读SC表索引=读SC表总块数=50/1001块读数据时间中间结果大小=50条 不必写入外存,2006年4月12日,24,查询优化的必要性（续）,读Student表索引=读Student表总块数=50/10=5块读数据时间 总时间10秒,2006年4月12日,25,4.2.3 查询优化的一般准则,选择运算应尽可能先做 目的：减小中间关系在执行连接操作前对关系适当进行预处理按连接属性排序在连接属性上建立索引投影运算和选择运算同时做目的：避免重复扫描关系将投影运算与其前面或后面的双目运算结合目的：减少扫描关系的遍数,2006年4月12日,26,查询优化的一般准则（续）,某些选择运算在其前面执行的笛卡尔积=连接运算 例：Student.Sno=SC.Sno(StudentSC)Student SC提取公共子表达式,2006年4月12日,27,4.2.4 关系代数等价变换规则,关系代数表达式等价指用相同的关系代替两个表达式中相应的关系所得到的结果是相同的上面的优化策略大部分都涉及到代数表达式的变换,2006年4月12日,28,常用的等价变换规则,设E1、E2等是关系代数表达式，F是条件表达式 l.连接、笛卡尔积交换律E1 E2 E2E1E1 E2E2 E1 E1 F E2E2 F E1,2006年4月12日,29,关系代数等价变换规则（续）,2.连接、笛卡尔积的结合律(E1E2)E3 E1(E2E3)(E1 E2)E3 E1(E2 E3)(E1 E2)E3 E1(E2 E3)F F F F,2006年4月12日,30,关系代数等价变换规则（续）,3.投影的串接定律 A1,A2,An(B1,B2,Bm(E)A1,A2,An(E)假设：1)E是关系代数表达式2)Ai(i=1，2，n),Bj(j=l，2，m)是属性名3)A1,A2,An构成Bl，B2，Bm的子集,2006年4月12日,31,关系代数等价变换规则（续）,4.选择的串接定律 F1（F2（E）F1 F2(E)选择的串接律说明 选择条件可以合并这样一次就可检查全部条件。,2006年4月12日,32,关系代数等价变换规则（续）,5.选择与投影的交换律(1)假设:选择条件F只涉及属性A1，An F(A1,A2,An(E)A1,A2,An(F(E)(2)假设:F中有不属于A1,An的属性B1,Bm A1,A2,An(F(E)A1,A2,An(F(A1,A2,An,B1,B2,Bm(E),2006年4月12日,33,关系代数等价变换规则（续）,6.选择与笛卡尔积的交换律(1)假设：F中涉及的属性都是E1中的属性 F(E1E2)F(E1)E2(2)假设：F=F1F2，并且F1只涉及E1中的属性，F2只涉及E2中的属性 则由上面的等价变换规则1，4，6可推出：F(E1E2)F1(E1)F2(E2),2006年4月12日,34,关系代数等价变换规则（续）,(3)假设：F=F1F2，F1只涉及E1中的属性，F2涉及E1和E2两者的属性 F(E1E2)F2(F1(E1)E2)它使部分选择在笛卡尔积前先做,2006年4月12日,35,关系代数等价变换规则（续）,7.选择与并的交换假设：E=E1E2，E1，E2有相同的属性名F(E1E2)F(E1)F(E2)8.选择与差运算的交换假设：E1与E2有相同的属性名F(E1-E2)F(E1)-F(E2),2006年4月12日,36,关系代数等价变换规则（续）,9.投影与笛卡尔积的交换假设：E1和E2是两个关系表达式，A1，An是E1的属性，B1，Bm是E2的属性 A1,A2,An,B1,B2,Bm（E1E2)A1,A2,An（E1)B1,B2,Bm(E2),2006年4月12日,37,关系代数等价变换规则（续）,l0.投影与并的交换假设：E1和E2 有相同的属性名 A1,A2,An(E1E2)A1,A2,An(E1)A1,A2,An(E2),2006年4月12日,38,小结,1-2:连接、笛卡尔积的交换律、结合律3：合并或分解投影运算4：合并或分解选择运算5-8：选择运算与其他运算交换5，9，10：投影运算与其他运算交换,2006年4月12日,39,4.2 关系系统的查询优化,4.2.1 查询优化概述4.2.2 查询优化的必要性4.2.3 查询优化的一般准则4.2.4 关系代数等价变换规则4.2.5 关系代数表达式的优化算法4.2.6 优化的一般步骤,2006年4月12日,40,4.2.5 关系代数表达式的优化算法,算法：关系表达式的优化输入：一个关系表达式的语法树。输出：计算该表达式的程序。方法：（1）分解选择运算 利用规则4把形如F1 F2 Fn(E)变换为 F1(F2(Fn(E),2006年4月12日,41,关系代数表达式的优化算法(续),（2）通过交换选择运算，将其尽可能移到叶端 对每一个选择，利用规则48尽可能把它移到树的叶端。（3）通过交换投影运算，将其尽可能移到叶端对每一个投影利用规则3，9，l0，5中的一般形式尽可能把它移向树的叶端。,2006年4月12日,42,关系代数表达式的优化算法(续),（4）合并串接的选择和投影，以便能同时执行或在一次扫描中完成利用规则35把选择和投影的串接合并成单个选择、单个投影或一个选择后跟一个投影。使多个选择或投影能同时执行，或在一次扫描中全部完成尽管这种变换似乎违背“投影尽可能早做”的原则，但这样做效率更高。,2006年4月12日,43,关系代数表达式的优化算法(续),（5）对内结点分组把上述得到的语法树的内节点分组。每一双目运算(，-)和它所有的直接祖先为一组(这些直接祖先是，运算)。如果其后代直到叶子全是单目运算，则也将它们并入该组，但当双目运算是笛卡尔积()，而且其后的选择不能与它结合为等值连接时除外。把这些单目运算单独分为一组。,2006年4月12日,44,关系代数表达式的优化算法(续),（6）生成程序生成一个程序，每组结点的计算是程序中的一步。各步的顺序是任意的，只要保证任何一组的计算不会在它的后代组之前计算。,2006年4月12日,45,4.2 关系系统的查询优化,4.2.1 查询优化概述4.2.2 查询优化的必要性4.2.3 查询优化的一般准则4.2.4 关系代数等价变换规则4.2.5 关系代数表达式的优化算法4.2.6 优化的一般步骤,2006年4月12日,46,4.2.6 优化的一般步骤,1把查询转换成某种内部表示2代数优化：把语法树转换成标准（优化）形式3物理优化：选择低层的存取路径4生成查询计划，选择代价最小的,2006年4月12日,47,优化的一般步骤(续),（1）把查询转换成某种内部表示例：求选修了课程2的学生姓名SELECT Student.SnameFROM Student,SCWHERE Student.Sno=SC.SnoAND SC.Cno=2;,2006年4月12日,48,（1）把查询转换成某种内部表示,语法树,结果,project(Sname),select(SC.Cno=2),join(Student.Sno=SC.Sno),Student,SC,2006年4月12日,49,关系代数语法树,2006年4月12日,50,（2）代数优化,利用优化算法把语法树转换成标准（优化）形式,2006年4月12日,51,（3）物理优化：选择低层的存取路径,-优化器查找数据字典获得当前数据库状态信息选择字段上是否有索引连接的两个表是否有序连接字段上是否有索引然后根据一定的优化规则选择存取路径 如本例中若SC表上建有Cno的索引，则应该利用这个索引，而不必顺序扫描SC表。,2006年4月12日,52,（4）生成查询计划，选择代价最小的,在作连接运算时，若两个表(设为R1，R2)均无序，连接属性上也没有索引，则可以有下面几种查询计划：对两个表作排序预处理 对R1在连接属性上建索引 对R2在连接属性上建索引 在R1，R2的连接属性上均建索引对不同的查询计划计算代价，选择代价最小的一个。在计算代价时主要考虑磁盘读写的I/O数，内存CPU处理时间在粗略计算时可不考虑。,2006年4月12日,53,第四章 关系系统及其查询优化,4.1 关系系统4.2 关系系统的查询优化4.3 小结,2006年4月12日,54,4.3 小结,关系系统关系系统的定义一个数据库管理系统可定义为关系系统，当且仅当它至少支持：1 关系数据库（即关系数据结构）2 支持选择、投影和（自然）连接运算，且不要求用户定义任何物理存取路径,2006年4月12日,55,小结关系系统的定义：一个系统可定义为关系系统，当且仅当它支持：1关系数据库。即从用户观点看，数据库是由表构成的，并且 只有表这种结构。2支持选择、投影和（自然）连接运算。对这些运算不必要求 定义任何物理存取路径。关系系统分类（a）表式系统(b)（最小）关系的(c）关系完备的(d)全关系的,2006年4月12日,56,小结（续）,关系系统的查询优化代数优化：关系代数表达式的优化关系代数等价变换规则关系代数表达式的优化算法物理优化：存取路径和低层操作算法的选择,2006年4月12日,57,查询优化的总目标是：选择有效的策略。求得给定的关系表达式 的值优化的一般策略：1选择运算应尽可能先做。2在执行连接前对文件适当地预处理，预处理方法主要又两种，对文件排序和在连接属性上建立索引。3把投影运算和选择运算同时进行。4把投影同其前或后的双目运算结合起来。5 把某些选择同在它前面要执行的笛卡儿积结合起来成为一个 连接字段。6找出公共子表达式。,2006年4月12日,58,关系代数等价变换规则：两个关系表达式E1和E2是等价的，可记为E1 E21连接、笛卡儿积的交换律 设E1和 E2是关系代数表达式，F是连接运算的条件，则有：E1 E2 E2 E1 E1 E2 E2 E1 E1 E2 E2 E1 F F 2连接、笛卡儿积的结合律 设E1，E2，E3是关系表达式，F1和F2是连接运算的条件，则有：（E1E2）E3 E1（E2E3）（E1 E2）E3（E1 E2）E3(E1 E2)E3 E1(E1 E2)3投影的串接定律 A1,A2,An(B1,B2,Bm(E)A1,A2,An(E)这里，E是关系代数表达式，Ai（i=1,2,n),Bj(j=1,2,m)是,2006年4月12日,59,属性名且A1,A2,An构成B1,B2,Bm 的子集.4选择的串接定律 F1（F2（E）F1F2（E）这里，E是关系代数表达式，F1，F2是选择的条件。选择的串接律 说明条件可以合并。这样一次就可以检查全部条件。5选择和投影的交换律 F(A1,A2,An(E)A1,A2,An(F(E)这里,选择条件F只涉及属性A1,A2,An。若F中有不属于属性B1,B2,Bm 则有更一般的规则 A1,A2,An(F(E)A1,A2,An(F(A1,A2,An,B1,B2,Bm(E)6选择与笛卡儿积的交换律 如果F中涉及的属性都是E1中的属性，则 F（E1 E2）F（E1）E2 如果F=F1F2，并且F1只涉及E1中的属性，F2只涉及E2中的属性，则由上面的1,4,6 可推出：F（E1 E2）F 1（E1）F2（E2）,2006年4月12日,60,若F1只涉及E1中的属性，F2涉及E1和E2两者的属性，则仍有：F（E1 E2）F 2（F1（E1）E2）它使部分选择在笛卡儿积前先做。7选择与并的交换 设E=E1E2，E1、E2有相同的属性名，则 F（E1 E2）F（E1）F（E2）8选择与差运算的交换 若 E1，E2有相同的属性名，则 F（E1 E2）F（E1）F（E2）9投影与笛卡儿积的交换 设E1和E2是两个关系表达式，A1,A2,An 是E1的属性，B1,B2,Bm是E2的属性，则 A1,A2,An,B1,B2,Bm(E1 E2)A1,A2,An（E1）B1,B2,Bm（E2）10投影与并的交换 设E1，E2有相同的属性名，则A1,A2,An（E1 E2）A1,A2,An（E1）A1,A2,An（E2）,2006年4月12日,61,关系代数表达式的优化算法算法：关系表达式的优化。输入：一个关系表达式的语法树。输出：计算该表达式的程序。方法：1利用规则（4）把形如F1F2 Fn（E）变换为 F1（F2（Fn（E）2对每一个选择使用规则（4）（8）尽可能把它移到树的叶端。3对每一个投影利用法则（3）,（9）,（10）,（5）中的一般形式 尽可能把它移向树的叶端。注意，法则（3）使一些投影消失，而一般形式的规则（5）把一个投影分裂为两个，其中一个有可 能被移向树的叶端。4利用法则（3）（5）把选择和投影的串接合并成单个选择，单个投影或一个选择后跟一个投影，使多个选择或投影能同时执 行，或在一次扫描中全部完成，尽管这种变换似乎违背投影尽 可能早做的原则，但这样做效率更高。,2006年4月12日,62,5把上述得到的语法树的内结点分组。每一双目运算（,)和它所有的直接祖先为一组(这些直接祖先是,运算)。如果其后代直到叶子全是单目运算法则也将它们并入该组，但 当双目运算是笛卡儿积（），而且其后的选择不能与它结合 为等值连接体时除外。把这些单目运算单独分为一组。6生成一个程序，每组结点的计算时程序中的一步。各步的顺序 是任意的，只要保证任何一组的计算不会在它的后代组之前计 算。,