信息融合技术ppt课件.ppt

信息融合技术,概 述信息融合的分类和结构 信息融合的一般方法 信息融合的实例,第一节 概 述,融合(fusion)的概念开始出现于70年代初期，当时称之为多源相关、多源合成、多传感器混合或数据融合(DataFusion)，现在多称之为信息融合 (InformationFusion)或数据融合。融合是指采集并集成各种信息源、多媒体和多格式信息，从而生成完整、准确、及时和有效的综合信息过程。数据融合技术结合多传感器的数据和辅助数据库的相关信息以获得比单个传感器更精确、更明确的推理结果。信息融合是对多种信息的获取、表示及其内在联系进行综合处理和优化的技术。传感器信息融合技术从多信息的视角进行处理及综合，得到各种 信息的内在联系和规律，从而剔除无用的和错误的信息，保留正确的和有用的成分，最终实现信息的优化。,一、概念,定义：将经过集成处理的多传感器信息进行合成，形成一种对外部环境或被测对象某一特征的表达方式。单一传感器只能获得环境或被测对象的部分信息段，而多传感器信息经过融合后能够完善地、准确地反映环境的特征。它也为智能信息处理技术的研究提供了新的观念。经过融合的多传感器信息具有以下特征：信息的冗余性、互补性、协同性、实时性以及低成本性。多传感器信息融合与经典信号处理方法之间存在本质的区别，其关键在于信息融合所处理的多传感器信息具有更为复杂的形式，而且可以在不同的信息层次上出现。,二、国外信息融合技术的发展,美国国防部三军实验室理事联席会（JDL）的对信息融合技术的定义为：信息融合是一个对从单个和多个信息源获取的数据和信息进行关联、相关和综合，以获得精确的位置和身份估计，以及对态势和威胁及其重要程度进行全面及时评估的信息处理过程；该过程是对其估计、评估和额外信息源需求评价的一个持续精练（refinement）过程，同时也是信息处理过程不断自我修正的一个过程，以获得结果的改善。后来，JDL将该定义修正为：信息融合是指对单个和多个传感器的信息和数据进行多层次、多方面的处理，包括：自动检测、关联、相关、估计和组合。,信息融合技术自1973年初次提出以后，经历了20世纪80年代初、90年代初和90年代末三次研究热潮。各个领域的研究者们都对信息融合技术在所研究领域的应用展开了研究，取得了一大批研究成果，并总结出了行之有效的工程实现方法。美国在该项技术的研究方面一直处于世界领先地位，1973年，在美国国防部资助开发的声纳信号理解系统中首次提出了数据融合技术，1988年，美国国防部把数据融合技术列为90年代重点研究开发的20项关键技术之一。据统计，1991年美国已有54个数据融合系统引入到军用电子系统中去，其中87%已有试验样机、试验床或已被应用。目前已进入实用阶段。,应用人工智能技术（专家系统、神经网络等）解决目标识别、战场态势关联与估计处于应用试验阶段；信息融合仿真试验、测试与评估技术目前正在向适应联合作战需求的方向发展，效能评估处于建模阶段。上述技术所形成的信息融合产品已装备在某些战术、战略系统中。如全球网络中心监视与瞄准（GNCST）系统是美国空军的新型情报信息融合处理系统，该系统对信息源几乎没有限制，可接收无人机（UAV）、E-8C、RC-135等平台上光电、合成孔径雷达、信号情报侦察装置等各种传感器的近实时信息，将它们消化处理成对作战官兵有用的信息，并以很快的速度和很高的精度发送给用户。,英国BAE系统公司还开发一种被称作分布式数据融合 （DecentralizedDataFusion，DDF）的信息融合新技术。这项技术的独特之处在于它采用的是分布式数据融合技术，而传统的数据融合都是集中式的，即所有的信息在一个中心节点完成综合和融合。这样，一旦中心节点遭到攻击，就会破坏整个系统。但采用DDF技术的系统就不存在这样的问题，因为综合和融合是在网络中的任何节点上进行的。若一个节点脱离网络，其他部分仍会继续工作并共享、综合和融合信息。 BAE系统公司已成功验证了将地面和空中的分散的传感器组网互联并融合其信息的技术。使传感器网络中的全部数据都被实时地综合和融合到了一幅单一的作战空间态势图中。该公司在试验中成功在8个节点之间进行了组网互联，这8个节点包括2架自主式UAV、1台战场监视雷达、1台武器定位雷达、2名带有电子式双眼望远镜及掌上电脑的士兵和2名乘坐吉普车在试验场上机动的士兵。整个网络可以动态地进行重新布局。一旦武器定位雷达检测到敌火炮开火，自主式UAV可立刻得到相关信息，并迅速飞往有关区域进行调查；战场侦察雷达可跟踪地面机动目标，即使该目标离开了视线，该雷达仍可对目标保持虚拟跟踪或虚拟警戒；一旦某架UAV飞越了一个不同的传感器，它将把该传感器引入这个网络，从而使单一态势图中的信息更为完备和准确。,三、信息融合的关键技术,数据融合是一种多层次、多方位的处理过程，需要对多种来源数据进行检测、相关和综合以进行更精确的态势评估。数据（或信息）融合系统的根本目标是将传感器得到的数据（如信号、图像、数量和矢量信息等）、人的输入信息以及已有的原始信息转化成关于某种状态和威胁的知识。多传感器数据融合通过信号处理技术、图像处理技术、模式识别技术、估计技术以及自动推理技术等多种技术提高状态感知能力。该技术广泛用于自动目标识别、敌/我/中立方识别（IFFN）处理以及自动状态评估等应用领域，相关的关键技术有：多目标跟踪的信息融合技术多假定跟踪和相关技术随机数据关连虑波（PDAF）技术交互式复合建模(IMM)技术目标机动信息处理技术（自适自噪声模型等）非线性滤波技术融合结构技术（集中式结构与分布式结构）相似传感器融合技术（结构、算法和方法）不相似的传感器融合技术传感器对准技术（包括各种类型的对准难题及其解决技术）特征融合技术（识别/分类、证明推算、专家系统、神经网络、模糊逻辑、贝斯网络等）,四、意义及应用,信息融合技术的实现和发展以信息电子学的原理、方法、技术为基础。信息融合系统要采用多种传感器收集各种信息，包括声、光、电、运动、视觉、触觉、力觉以及语言文字等。信息融合技术中的分布式信息处理结构通过无线网络、有线网络，智能网络，宽带智能综合数字网络等汇集信息，传给融合中心进行融合。除了自然(物理)信息外，信息融合技术还融合社会类信息，以语言文字为代表，涉及到大规模汉语资料库、语言知识的获取理论与方法、机器翻译、自然语言解释与处理技术等，信息融合采用分形、混沌、模糊推理、人工神经网络等数学和物理的理论及方法。它的发展方向是对非线性、复杂环境因素的不同性质的信息进行综合、相关，从各个不同的角度去观察、探测世界。,1、在信息电子学领域,2、在计算机科学领域,在计算机科学中，目前正开展着并行数据库、主动数据库、多数据库的研究。信息融合要求系统能适应变化的外部世界，因此，空间、时间数据库的概念应运而生，为数据融合提供了保障。空间意味着不同种类的数据来自于不同的空间地点，时间意味着数据库能随时间的变化适应客观环境的相应变化。信息融合处理过程要求有相应的数据库原理和结构，以便融合随时间、空间变化了的数据。在信息融合的思想下，提出的空间、时间数据库，是计算机科学的一个重要的研究方向。,3、在自动化领域,以各种控制理论为基础，信息融合技术采用模糊控制、智能控制、进化计算等系统理论，结合生物、经济、社会、军事等领域的知识，进行定性、定量分析。按照人脑的功能和原理进行视觉、听觉、触觉、力觉、知觉、注意、记忆、学习和更高级的认识过程，将空间、时间的信息进行融合，对数据和信息进行自动解释，对环境和态势给予判定。目前的控制技术，已从程序控制进入了建立在信息融合基础上的智能控制。智能控制系统不仅用于军事，还应用于工厂企业的生产过程控制和产供销管理、城市建设规划、道路交通管理、商业管理、金融管理与预测、地质矿产资源管理、环境监测与保护、粮食作物生长监测、灾害性天气预报及防治等涉及宏观、微观和社会的各行各业。,三、优点,增加了系统的生存能力扩展了空间覆盖范围扩展了时间覆盖范围提高了可信度降低了信息的模糊度改善了探测性能提高了空间分辨率增加了测量空间的维数,第二节 信息融合的分类和结构,1、组合：由多个传感器组合成平行或互补方式来获得多组数据输出的一种处理方法，是一种最基本的方式，涉及的问题有输出方式的协调、综合以及传感器的选择。在硬件这一级上应用。2、综合：信息优化处理中的一种获得明确信息的有效方法。例：在虚拟现实技术中，使用两个分开设置的摄像机同时拍摄到一个物体的不同侧面的两幅图像，综合这两幅图像可以复原出一个准确的有立体感的物体的图像。3、融合：当将传感器数据组之间进行相关或将传感器数据与系统内部的知识模型进行相关，而产生信息的一个新的表达式。4、相关：通过处理传感器信息获得某些结果，不仅需要单项信息处理，而且需要通过相关来进行处理，获悉传感器数据组之间的关系，从而得到正确信息，剔除无用和错误的信息。相关处理的目的：对识别、预测、学习和记忆等过程的信息进行综合和优化。,一、信息融合分类,5、由于信息融合研究内容的广泛性和多样性，目前还没有统一的关于融合过程的分类。 (1)按照信息表征层次的分类系统的信息融合相对于信息表征的层次相应分为三类：数据层融合、特征层融合和决策层融合。数据层融合通常用于多源图像复合、图像分折与理解等方面，采用经典的检测和估计方法。特征层融合可划分为两大类：一类是目标状态信息融合，目标跟踪领域的大体方法都可以修改为多传感器目标跟踪方法；另一类是目标特性融合，它实质上是模式识别问题，具体的融合方法仍是模式识别的相应技术。决策层融合是指不同类型的传感器观测同一个目标，每个传感器在本地完成处理，其中包括顶处理、特征抽取、识别或判决，以建立对所观察目标的初步结论。然后通过关联处理、决策层触合判决，最终获得联合推断结果。,图1 信息融合层次,(2)JDL模型(Joint Directors of Laboratories，JDL)和-JDL模型 该模型将融合过程分为四个阶段：信源处理，第一层处理(即目标提取)、第二层处理(即态势提取)、第三层提取(即威胁提取)和第四层提取(即过程提取)。模型中的每一个模块都可以有层次地进一步分割，并且可以采用不同的方法来实现它们。-JDL模型为JDL模型的简化，把0层包含进了1层，4层融人其他各层中。,图2 JDL模型 图3 -JDL模型,(3) 按照数据流融合的位置进行分类,多传感器融合系统中的一个关键问题是在何处对数据流进行融合。按照融合位置的不同可以将融合结构分为以下三种类 型：集中式融合、分布式多传感器融合和无中心融合结构。对于特定的信息融合应用不可能找到一种最优的融合结构，结构的选择必须综合考虑计算资源、可用的通信带宽、精度要求、传感器能力等。,多传感器信息融合之所以被广泛地研究是由于它与单一传感器信息利用相比具有如下特点： （1）容错性。在单一传感器出现误差或失效的情况下，系统仍能正常可靠地工作。 （2）互补性。各传感器除提供对象的共性反映外，还提供与各传感器本身有关的特性反映，因而利用信息融合就能实现不同传感器之间的信息互补，从而提高信息的利用率、减少系统认识的不正确性。 （3）实时性。能以较少的时间获取更多的信息。大大提高系统的识别效率。,二、信息融合的结构,信息融合的结构分为串联和并联两种,Sn,S2,S1,Y1,Y2,Yn,C1,C2,Cn,Y,S,C1,C2,Cn,(a) 串联,(b) 并联,C1，C2，Cn表示n个传感器S1,S2,，Sn表示来自各个传感器信息融合中心的数据y1，y2，yn表示融合中心。,三、信息融合系统结构的实例,一种雷达测量的信息融合结构,外部逻辑,传感器信号,传感器信号,先验信息,修正信息,先验信息,修正信息,传感器故障检测系统,第三节 信息融合的一般方法,由多种传感器所获得的客观环境(即被测对象)的多组数据就是客观环境按照某种映射关系形成的像，信息融合就是通过像求解原像，即对客观环境加以了解。用数学语言描述就是，所有传感器的全部信息，也只能描述环境的某些方面的特征，而具有这些特征的环境却有很多，要使一组数据对应惟一的环境(即上述映射为一一映射)，就必须对映射的原像和映射本身加约束条件，使问题能有惟一的解。嵌入约束法最基本的方法：Bayes估计和卡尔曼滤波,嵌入约束法、证据组合法、人工神经网络法,一、嵌入约束法,1.Bayes估计,是融合静态环境中多传感器低层数据的一种常用方法。其信息描述为概率分布，适用于具有可加高斯噪声的不确定性信息。假定完成任务所需的有关环境的特征物用向量f表示，通过传感器获得的数据信息用向量d来表示，d和f都可看作是随机向量。信息融合的任务就是由数据d推导和估计环境f。假设p(f，d)为随机向量f和d的联合概率分布密度函数，则,(f|d)表示在已知d的条件下，f关于d的条件概率密度函数p(f|d)表示在已知f 的条件下，d关于f的条件概率密度函数p(d)和p(f)分别表示d和f的边缘分布密度函数,已知d时，要推断f，只须掌握p(f|d)即可，即,上式为概率论中的Bayes公式，是嵌入约束法的核心。,信息融合通过数据信息d做出对环境f的推断，即求解p(f|d)。由Bayes公式知，只须知道p(f|d)和p(f)即可。因为p(d)可看作是使p(f|d)p(f)成为概率密度函数的归一化常数，p(d|f)是在已知客观环境变量f的情况下，传感器得到的d关于f的条件密度。当环境情况和传感器性能已知时，p(f|d)由决定环境和传感器原理的物理规律完全确定。而p(f)可通过先验知识的获取和积累，逐步渐近准确地得到，因此，一般总能对p(f)有较好的近似描述。在嵌入约束法中，反映客观环境和传感器性能与原理的各种约束条件主要体现在p(f|d) 中，而反映主观经验知识的各种约束条件主要体现在p(f)中。在传感器信息融合的实际应用过程中，通常的情况是在某一时刻从多种传感器得到一组数据信息d，由这一组数据给出当前环境的一个估计f。因此,实际中应用较多的方法是寻找最大后验估计g，即,即最大后验估计是在已知数据为d的条件下，使后验概率密度p(f)取得最大值得点g，根据概率论，最大后验估计g满足当p(f)为均匀分布时，最大后验估计g满足 此时，最大后验概率也称为极大似然估计。当传感器组的观测坐标一致时，可以用直接法对传感器测量数据进行融合。在大多数情况下，多传感器从不同的坐标框架对环境中同一物体进行描述，这时传感器测量数据要以间接的方式采用Bayes估计进行数据融合。间接法要解决的问题是求出与多个传感器读数相一致的旋转矩阵R和平移矢量H。,在传感器数据进行融合之前，必须确保测量数据代表同一实物，即要对传感器测量进行一致性检验。常用以下距离公式来判断传感器测量信息的一致：,式中x1和x2为两个传感器测量信号，C为与两个传感器相关联的方差阵，当距离T小于某个阈值时，两个传感器测量值具有一致性。这种方法的实质是剔除处于误差状态的传感器信息而保留“一致传感器”数据计算融合值。,2.卡尔曼滤波(KF),用于实时融合动态的低层次冗余传感器数据，该方法用测量模型的统计特性，递推决定统计意义下最优融合数据合计。如果系统具有线性动力学模型，且系统噪声和传感器噪声可用高斯分布的白噪声模型来表示，KF为融合数据提供惟一的统计意义下的最优估计，KF的递推特性使系统数据处理不需大量的数据存储和计算。KF分为分散卡尔曼滤波(DKF)和扩展卡尔曼滤波(EKF)。DKF可实现多传感器数据融合完全分散化，其优点：每个传感器节点失效不会导致整个系统失效。而EKF的优点：可有效克服数据处理不稳定性或系统模型线性程度的误差对融合过程产生的影响。嵌入约束法传感器信息融合的最基本方法之一，其缺点：需要对多源数据的整体物理规律有较好的了解，才能准确地获得p(d|f)，但需要预知先验分布p(f)。,二、证据组合法,证据组合法认为完成某项智能任务是依据有关环境某方面的信息做出几种可能的决策，而多传感器数据信息在一定程度上反映环境这方面的情况。因此，分析每一数据作为支持某种决策证据的支持程度，并将不同传感器数据的支持程度进行组合，即证据组合，分析得出现有组合证据支持程度最大的决策作为信息融合的结果。证据组合法是对完成某一任务的需要而处理多种传感器的数据信息，完成某项智能任务，实际是做出某项行动决策。它先对单个传感器数据信息每种可能决策的支持程度给出度量(即数据信息作为证据对决策的支持程度)，再寻找一种证据组合方法或规则，在已知两个不同传感器数据(即证据)对决策的分别支持程度时，通过反复运用组合规则，最终得出全体数据信息的联合体对某决策总的支持程度。得到最大证据支持决策，即信息融合的结果。,证据组合法较嵌入约束法优点：(1)对多种传感器数据间的物理关系不必准确了解，即无须准确地建立多种传感器数据体的模型；(2)通用性好，可以建立一种独立于各类具体信息融合问题背景形式的证据组合方法，有利于设计通用的信息融合软、硬件产品；(3)人为的先验知识可以视同数据信息一样，赋予对决策的支持程度，参与证据组合运算。,常用证据组合方法：,概率统计方法Dempster-Shafer证据推理,利用证据组合进行数据融合的关键在于：,选择合适的数学方法描述证据、决策和支持程度等概念建立快速、可靠并且便于实现的通用证据组合算法结构,1.概率统计方法,假设一组随机向量x1，x2，xn分别表示n个不同传感器得到的数据信息，根据每一个数据xi可对所完成的任务做出一决策di。xi的概率分布为pai(xi)，ai为该分布函数中的未知参数，若参数已知时，则xi的概率分布就完全确定了。用非负函数L(ai，di)表示当分布参数确定为ai时，第i个信息源采取决策dj时所造成的损失函数。在实际问题中，ai是未知的，因此，当得到xi时，并不能直接从损失函数中定出最优决策。先由xi做出ai的一个估计，记为ai(xi)，再由损失函数L ai(xi),di决定出损失最小的决策。其中利用xi估计ai的估计量ai(xi) 有很多种方法。概率统计方法适用于分布式传感器目标识别和跟踪信息融合问题,2.Dempster-Shafer证据推理(简称D-S推理),假设F为所有可能证据所构成的有限集，为集合F中的某个元素即某个证据，首先引入信任函数B(f)0，1表示每个证据的信任程度：,从上式可知，信任函数是概率概念的推广，因为从概率论的知识出发，上式应取等号。,引入基础概率分配函数m(f)0，1,由基础概率分配函数定义与之相对应的信任函数：,当利用N个传感器检测环境M个特征时，每一个特征为F中的一个元素。第i个传感器在第k-1时刻所获得的包括k1时刻前关于第j个特征的所有证据，用基础概率分配函数表示，其中i=1，2，m。第i个传感器在第k时刻所获得的关于第j个特征的新证据用基础概率分配函数表示。由和可获得第i个传感器在第k时刻关于第j个特征的联合证据。类似地，利用证据组合算法，由和可获得在k时刻关于第j个特征的第i个传感器和第i+1个传感器的联合证据。如此递推下去，可获得所有N个传感器在k时刻对j特征的信任函数，信任度最大的即为信息融合过程最终判定的环境特征。D-S证据推理优点：算法确定后，无论是静态还是时变的动态证据组合，其具体的证据组合算法都有一共同的算法结构。但其缺点：当对象或环境的识别特征数增加时，证据组合的计算量会以指数速度增长。,证据理论是建立在辨识框架基础上的推理模型，其基本思想如下： 建立辨识框架； 建立初始信任度分配； 根据因果关系，计算所有命题的信任度； 证据合成； 根据融合后的信任度进行决策。,三、人工神经网络法,通过模仿人脑的结构和工作原理，设计和建立相应的机器和模型并完成一定的智能任务。神经网络根据当前系统所接收到的样本的相似性，确定分类标准。这种确定方法主要表现在网络权值分布上，同时可采用神经网络特定的学习算法来获取知识，得到不确定性推理机制。神经网络多传感器信息融合的实现，分三个重要步骤：根据智能系统要求及传感器信息融合的形式，选择其拓扑结构；各传感器的输入信息综合处理为一总体输入函数，并将此函数映射定义为相关单元的映射函数,通过神经网络与环境的交互作用把环境的统计规律反映网络本身结构；对传感器输出信息进行学习、理解，确定权值的分配，完成知识获取信息融合，进而对输入模式做出解释，将输入数据向量转换成高层逻辑(符号)概念。,基于神经网络的传感器信息融合特点：具有统一的内部知识表示形式，通过学习算法可将网络获得的传感器信息进行融合，获得相应网络的参数，并且可将知识规则转换成数字形式，便于建立知识库；利用外部环境的信息，便于实现知识自动获取及并行联想推理；能够将不确定环境的复杂关系，经过学习推理，融合为系统能理解的准确信号；由于神经网络具有大规模并行处理信息能力，使得系统信息处理速度很快。,人工神经网络具有分布式存储和并行处理方式、自组织和自学习的功能以及很强的容错性和鲁棒性等优点。将神经网络用于多传感器信息融合技术，首先要根据系统的要求以及传感器的特点选择合适的神经网络模 型，然后再对建立的神经网络系统进行离线学习。确定 网络的联接权值和联接结构，最后把得到的网络用于实际的信息融合当中。小波分析具有良好的信号时域局部化特征，能处理信号的局部特征信息。将小波分析引入遥感数据融合，是目前正在探索的课题之一。 由于处理对象和处理过程的复杂性，而且每种方法都有自己的适用范围，目前还没有一套系统的方法可以很好地解决多传感器融合中出现的所有问题。比较理想的解决方案就是多种融合方法的综合使用。,第四节 信息融合的实例,一. 信息融合的民事应用领域,工业过程监视及工业机器人遥感与金融系统空中交通管制与病人照顾系统船舶避碰与交通管制系统生物特征的身份识别,二. 信息融合技术军事上的应用,采用多传感器的自主式武器系统和自备式运载器情报收集系统采用多传感器进行截获、跟踪和指挥制导的火控系统军事力量的指挥和控制站敌情指示和预警系统,三.传感器信息融合的实例,1.机器人中的传感器信息融合,控制和信息融合计算机,自主移动装配机器人,装配机械手,力觉传感器,触觉传感器,视觉传感器,超声波传感器,激光测距传感器,多传感器信息融合自主移动装配机器人,2.舰船上的传感器信息融合,行扫描处理器,红外探测器,直流偏压AGC,搜索器万向支架,惯性导航系统,图像摄像机万向支架,图像处理,共享存储器,数据融合处理器,环境控制,显示记录,人机界面,图像摄像机,传感器,海军舰船传感器信息融合系统,四.发展方向,虽然信息融合的应用研究已是如此广泛，但至今仍未形成基本的理论框架和有效的广义融合模型及算法。正在进行的研究有新算法的形成、己有算法的改进以及如何综合这些技术 以形成统一的结构用于多样的信息融合应用。建立融合系统的关键技术和难点是如何获得可 靠的隶属度和基本概率赋值等。另外，信息融合学科一直缺少对算法的严格的测试或评价，以及如何在理论和应用之间进行转换。数据融合团体需要使用高标准的算法、测试和评估准则、标准测试的产生和适于实际应用的技术的系统评价。 交叉学科的交流和研究将进一步促进信息融合技术的发展，人工智能和神经网络方法将继续成为信息融合研究的热点。神经网络会在目标识别和鲁棒多传感器系统两个领域里发挥重要的作用。,