《数据库学习》PPT课件.ppt
高 级 数 据 库 技 术数据恢复技术,范昭赋中山大学计算机科学系,本课件由汤娜老师编制,系统篇,数据库完整性数据库恢复技术并发控制数据库安全性,数据库恢复技术,1 事务的基本概念2 数据库恢复概述3 故障的种类4 恢复的实现技术5 恢复策略6 具有检查点的恢复技术7 数据库镜像8 小结,事务,事务(Transaction)是用户定义的一个数据库操作序列,这些操作要么全做,要么全不做,是一个不可分割的工作单位事务的ACID特性:原子性(Atomicity)一致性(Consistency)隔离性(Isolation)持续性(Durability),事务的特性,保证事务ACID特性是事务处理的任务破坏事务ACID特性的因素多个事务并行运行时,不同事务的操作交叉执行事务在运行过程中被强行停止,第七章 数据库恢复技术,1 事务的基本概念2 数据库恢复概述3 故障的种类4 恢复的实现技术5 恢复策略6 具有检查点的恢复技术7 数据库镜像8 Oracle的恢复技术9 小结,2 数据库恢复概述,故障是不可避免的计算机硬件故障系统软件和应用软件的错误操作员的失误恶意的破坏故障的影响运行事务非正常中断,但不会破坏数据库破坏数据库,数据库恢复概述(续),数据库管理系统对故障的对策保证故障发生后,能把数据库中的数据从错误状态恢复到某种逻辑一致的状态保证事务ACID DBMS提供恢复子系统恢复技术是衡量系统优劣的重要指标恢复算法正常事务处理时,采取措施保证有足够的数据用于故障恢复故障发生后,将数据库内容恢复到某个保证数据库一致性、原子性及持久性的状态,数据库恢复技术,1 事务的基本概念2 数据库恢复概述3 故障的种类4 恢复的实现技术5 恢复策略6 具有检查点的恢复技术7 数据库镜像8 小结,3 故障的种类,事务故障系统故障介质故障,一、事务故障,什么是事务故障某个事务在运行过程中由于种种原因未运行至正常终止点就夭折了事务故障的常见原因输入数据有误运算溢出违反了某些完整性限制某些应用程序出错并行事务发生死锁。,事务故障的恢复,发生事务故障时,夭折的事务可能已把对数据库的部分修改写回磁盘处理方法预期故障:通过在程序中加判断条件来实现。执行回滚(ROLLBACK)语句来撤销事务。非预期的故障:如由于死锁、运算溢出而被迫撤销的事务等,由系统来撤销事务事务故障的恢复的本质:撤消事务(UNDO),3 故障的种类,事务故障系统故障介质故障,二、系统故障,什么是系统故障整个系统的正常运行突然被破坏所有正在运行的事务都非正常终止内存中数据库缓冲区的信息全部丢失外部存储设备上的数据未受影响,系统故障的常见原因,操作系统或DBMS代码错误操作员操作失误特定类型的硬件错误(如CPU故障)突然停电,系统故障的恢复,清除尚未完成的事务对数据库的所有修改系统重新启动时,恢复程序要强行撤消(UNDO)所有未完成事务将缓冲区中已完成事务提交的结果写入数据库系统重新启动时,恢复程序需要重做(REDO)所有已提交的事务,3 故障的种类,事务故障系统故障介质故障,三、介质故障,硬件故障使存储在外存中的数据部分丢失或全部丢失介质故障比前两类故障的可能性小得多,但破坏性大得多,介质故障的常见原因,硬件故障磁盘损坏磁头碰撞操作系统的某种潜在错误瞬时强磁场干扰,介质故障的恢复,装入数据库发生介质故障前某个时刻的数据副本重做自此时始的所有成功事务,将这些事务已提交的结果重新记入数据库,数据库恢复技术,1 事务的基本概念2 数据库恢复概述3 故障的种类4 恢复的实现技术5 恢复策略6 具有检查点的恢复技术7 数据库镜像8 小结,恢复操作的基本原理,恢复操作的基本原理:冗余利用存储在系统其它地方的冗余数据来重建数据库中已被破坏或不正确的那部分数据恢复的实现技术:复杂一个大型数据库产品,恢复子系统的代码要占全部代码的10%以上,4 恢复的实现技术,恢复机制涉及的关键问题1.如何建立冗余数据数据转储(backup)登录日志文件(logging)2.如何利用这些冗余数据实施数据库恢复,4.1 数据转储(备份),一、什么是转储二、转储的用途三、转储方法,一、什么是转储,转储是指DBA将整个数据库复制到磁带或另一个磁盘上保存起来的过程。这些备用的数据文本称为后备副本或后援副本。,二、转储方法,1静态转储与动态转储2海量转储与增量转储3转储方法小结,1静态转储,在系统中无运行事务时进行转储转储开始时数据库处于一致性状态。转储期间不允许对数据库的任何存取、修改活动优点:实现简单缺点:降低了数据库的可用性转储必须等用户事务结束新的事务必须等转储结束,动态转储,转储操作与用户事务并发进行转储期间允许对数据库进行存取或修改优点不用等待正在运行的用户事务结束不会影响新事务的运行动态转储的缺点不能保证副本中的数据正确有效,动态转储,利用动态转储得到的副本进行故障恢复需要把动态转储期间各事务对数据库的修改活动登记下来,建立日志文件后备副本加上日志文件才能把数据库恢复到某一时刻的正确状态,2海量转储与增量转储,海量转储:每次转储全部数据库增量转储:只转储上次转储后更新过的数据海量转储与增量转储比较,3转储方法小结,转储方法分类,3 恢复的实现技术,3.1 数据转储3.2 登记日志文件,3.2 登记日志文件,一、日志文件的内容三、登记日志文件的原则,一、日志文件的内容,1.什么是日志文件日志文件(log)是用来记录事务对数据库的更新操作的文件2.日志文件的格式以记录为单位的日志文件以数据块为单位的日志文件,日志文件的内容(续),3.日志文件内容各个事务的开始标记(BEGIN TRANSACTION)各个事务的结束标记(COMMIT或ROLLBACK)各个事务的所有更新操作日志文件中的一个日志记录(log record),4.基于记录的日志文件,更新操作日志记录的内容事务标识操作类型(插入、删除或修改)操作对象(记录ID、Block NO.)更新前数据的旧值(对插入操作而言,此项为空值)更新后数据的新值(对删除操作而言,此项为空值),二、登记日志文件的原则,为保证数据库是可恢复的,登记日志文件时必须遵循两条原则登记的次序严格按并行事务执行的时间次序必须先写日志文件,后写数据库写日志文件操作:把表示这个修改的日志记录 写到日志文件(在磁盘上)写数据库操作:把对数据的修改写到数据库中,登记日志文件的原则(续),为什么要先写日志文件写数据库和写日志文件是两个不同的操作在这两个操作之间可能发生故障如果先写了数据库修改,而在日志文件中没有登记下这个修改,则以后就无法恢复这个修改了如果先写日志,但没有修改数据库,按日志文件恢复时只不过是多执行一次不必要的UNDO操作,并不会影响数据库的正确性,利用静态转储副本进行恢复,利用动态转储副本进行恢复,第七章 数据库恢复技术,1 事务的基本概念2 数据库恢复概述3 故障的种类4 恢复的实现技术5 恢复策略6 具有检查点的恢复技术7 数据库镜像8 小结,5 恢复策略,5.1 事务故障的恢复5.2 系统故障的恢复5.3 介质故障的恢复,5.1 事务故障的恢复,事务故障:事务在运行至正常终止点前被中止恢复方法由恢复子系统应利用日志文件撤消(UNDO)此事务已对数据库进行的修改事务故障的恢复由系统自动完成,不需要用户干预,事务故障的恢复步骤,1.反向扫描文件日志(即从最后向前扫描日志文件),查找该事务的更新操作。2.对该事务的更新操作执行逆操作。即将日志记录中“更新前的值”(Befor Image,BI)写入数据库。插入操作,“更新前的值”为空,则相当于做删除操作删除操作,“更新后的值”为空,则相当于做插入操作若是修改操作,则用BI 代替 AI(After Image)3.继续反向扫描日志文件,查找该事务的其他更新操作,并做同样处理。4.如此处理下去,直至读到此事务的开始标记,事务故障恢复就完成了。,5.2 系统故障的恢复,系统故障造成数据库不一致状态的原因一些未完成事务对数据库的更新已写入数据库一些已提交事务对数据库的更新还留在缓冲区没来得及写入数据库恢复方法1.Undo 故障发生时未完成的事务2.Redo 已完成的事务系统故障的恢复由系统在重新启动时自动完成,不需要用户干预,系统故障的恢复步骤,1.正向扫描日志文件(即从头扫描日志文件)Redo队列:在故障发生前已经提交的事务 T1,T3,T8.Undo队列:故障发生时尚未完成的事务 T2,T4,T5,T6,T7,T9.,系统故障的恢复步骤,2.对Undo队列事务进行UNDO处理 反向扫描日志文件,对每个UNDO事务的更 新操作执行逆操作 T2,T4,T5,T6,T7,T9 3.对Redo队列事务进行REDO处理 正向扫描日志文件,对每个REDO事务重新 执行登记的操作 T1,T3,T8.,5.3 介质故障的恢复,1.重装数据库,使数据库恢复到一致性状态2.重做已完成的事务,5.3 介质故障的恢复,恢复步骤1.装入最新的后备数据库副本,使数据库恢复到最近一次转储时的一致性状态。对于静态转储的数据库副本,装入后数据库即处于一致性状态对于动态转储的数据库副本,还须同时装入转储时刻的日志文件副本,才能将数据库恢复到一致性状态。,介质故障的恢复(续),2.装入有关的日志文件副本,重做已完成的事务。首先扫描日志文件,找出故障发生时已提交的事务的标识,将其记入重做队列。然后正向扫描日志文件,对重做队列中的所有事务进行重做处理。即将日志记录中“更新后的值”写入数据库。,介质故障的恢复(续),介质故障的恢复需要DBA介入DBA的工作重装最近转储的数据库副本和有关的各日志文件副本执行系统提供的恢复命令具体的恢复操作仍由DBMS完成,第七章 数据库恢复技术,1 事务的基本概念2 数据库恢复概述3 故障的种类4 恢复的实现技术5 恢复策略6 具有检查点的恢复技术7 数据库镜像8 小结,6 具有检查点的恢复技术,一、问题的提出二、检查点技术三、利用检查点的恢复策略,一、问题的提出,两个问题搜索整个日志将耗费大量的时间REDO处理:重新执行,浪费了大量时间,解决方案,具有检查点(checkpoint)的恢复技术在日志文件中增加检查点记录(checkpoint)增加重新开始文件恢复子系统在登录日志文件期间动态地维护日志,二、检查点技术,检查点记录的内容1.建立检查点时刻所有正在执行的事务清单2.这些事务最近一个日志记录的地址重新开始文件的内容记录各个检查点记录在日志文件中的地址,在检查点 维护日志文件,1.将当前日志缓冲区中的所有日志记录写入磁盘的日志文件上。2.在日志文件中写入一个检查点记录。3.将当前数据缓冲区的所有数据记录写入磁盘的数据库中。4.把检查点记录在日志文件中的地址写入一个重新开始文件。,建立检查点,定期按照预定的一个时间间隔不定期按照某种规则,如日志文件已写满一半建立一个检查点,三、利用检查点的恢复策略,当事务T在一个检查点之前提交 T对数据库所做的修改已写入数据库在进行恢复处理时,没有必要对事务T执行REDO操作,利用检查点的恢复策略(续),利用检查点的恢复步骤,1.从重新开始文件中找到最后一个检查点记录在日志文件中的地址2 由该地址在日志文件中找到最后一个检查点记录,利用检查点的恢复策略(续),2.由该检查点记录得到检查点建立时刻所有正在执行的事务清单ACTIVE-LIST建立两个事务队列UNDO-LIST REDO-LIST 把ACTIVE-LIST暂时放入UNDO-LIST队列,REDO队列暂为空。,利用检查点的恢复策略(续),3.从检查点开始正向扫描日志文件,直到日志文件结束如有新开始的事务Ti,把Ti暂时放入UNDO-LIST队列如有提交的事务Tj,把Tj从UNDO-LIST队列移到REDO-LIST队列4.对UNDO-LIST中的每个事务执行UNDO操作,对REDO-LIST中的每个事务执行REDO操作,第七章 数据库恢复技术,1 事务的基本概念2 数据库恢复概述3 故障的种类4 恢复的实现技术5 恢复策略6 具有检查点的恢复技术7 数据库镜像8 小结,7 数据库镜像,介质故障是对系统影响最为严重的一种故障,严重影响数据库的可用性介质故障恢复比较费时为预防介质故障,DBA必须周期性地转储数据库提高数据库可用性的解决方案数据库镜像(Mirror),数据库镜像(续),数据库镜像DBMS自动把整个数据库或其中的关键数据复制到另一个磁盘上DBMS自动保证镜像数据与主数据的一致性(图5a),数据库镜像的用途,出现介质故障时DBMS自动利用镜像磁盘数据进行数据库的恢复,不需要关闭系统和重装数据库副本(图5b)没有出现故障时可用于并发操作(图5a)一个用户对数据加排他锁修改数据其他用户可以读镜像数据库上的数据,数据库镜像(续),数据库镜像(续),由于采用复制数据实现镜像,而频繁复制会导致较低系统运行效率。因此实际应用只针对关键数据和日志文件进行镜像,而不是整个数据库,第七章 数据库恢复技术,1 事务的基本概念2 数据库恢复概述3 故障的种类4 恢复的实现技术5 恢复策略6 具有检查点的恢复技术7 数据库镜像8 小结,8 小结,如果数据库只包含成功事务提交的结果,就说数据库处于一致性状态。保证数据一致性是对数据库的最基本的要求。事务是数据库的逻辑工作单位DBMS保证系统中一切事务的原子性、一致性、隔离性和持续性,小结(续),DBMS必须对事务故障、系统故障和介质故障进行恢复恢复中最经常使用的技术:数据库转储和登记日志文件恢复的基本原理:利用存储在后备副本、日志文件和数据库镜像中的冗余数据来重建数据库,小结(续),常用恢复技术事务故障的恢复按照日志文件对发生故障的事务所作的更新操作做UNDO。整个恢复过程由系统自动完成系统故障的恢复按照日志文件,对在系统故障发生时已经提交的事务作REDO;对故障时还没有提交的事务作UNDO。重新启动计算机后,整个恢复过程由系统自动完成介质故障的恢复重装备份并恢复到一致性状态后按照日志文件对在介质故障发生时已经提交的事务作REDO。此恢复过程中重装备份等操作需要人工干预,具体的对事务的Redo操作也由系统自动完成,小结(续),提高恢复效率的技术检查点技术可以提高系统故障的恢复效率可以在一定程度上提高利用动态转储备份进行介质故障恢复的效率镜像技术镜像技术可以改善介质故障的恢复效率,Oracle的恢复技术,1.转储2.登记日志文件,8 Oracle的恢复技术:转储,转储后备副本的方法文件拷贝EXPORT实用程序用SQL命令SPOOL自己编程实现,重装后备副本的方法,文件拷贝IMPORT实用程序SQL*LOADER实用程序自己编程实现,登记日志文件,ORACLE V.7及以上版本:REDO日志+回滚段,Oracle v.7以上版本的恢复技术(续),REDO日志文件:已提交事务的更新数据的前像和后像回滚段(Rollback Segment):记录尚未完成的更新事务的更新数据的前像事务故障恢复根据回滚段中的数据,撤消该事务的操作,Oracle V.7 的恢复技术(续),系统故障恢复根据回滚段中的数据,撤消未正常提交的事务的操作再扫描REDO日志文件,重做所有操作优点:只需要扫描日志文件一遍,Oracle的恢复技术(续),ORACLE V.7的恢复技术(续)介质故障恢复重装数据库后备副本文件,恢复到转储时的数据库一致性状态利用在此之后转储的REDO日志文件副本将数据库恢复到最近点,