基于神经网络的自适应噪声抵消技术.docx

《基于神经网络的自适应噪声抵消技术.docx》由会员分享，可在线阅读，更多相关《基于神经网络的自适应噪声抵消技术.docx（101页珍藏版）》请在三一办公上搜索。

1、基于神经网络的自适应噪声抵消技术大学学士学位论文 摘 要 自适应噪声抵消技术是自适应滤波器最普遍的应用之一，它是一种在未知信号和噪声的先验知识条件下，能够很好地消除背景噪声影响的信号处理技术，具有很高的应用价值;但是，在很多情况下，噪声环境非常复杂，往往是非线性的，而目前所使用的自适应滤波器均属线性滤波器，滤波后会使原始信号产生失真;由于神经网络具有非线性等优点，可以很好的逼近非线性函数，所以采用基于神经网络的自适应噪声抵消器。 本文主要主要研究了自适应噪声抵消技术，阐述了噪声抵消技术的原理和算法，并结合自适应滤波器深入分析了自适应噪声抵消性能。其中主要研究了BP神经网络，在对四层BP神经网络

2、算法分析的基础上，结合自适应噪声抵消系统的基本原理，建立了一个基于神经网络的自适应噪声抵消滤波器。利用MATLAB对其进行了仿真得到了误差变化曲线和函数逼近曲线，经过多次训练之后误差变化曲线收敛，而函数逼近曲线与目标曲线基本重合可以看出训练后的网络有较好拟合性。仿真结果表明神经网络自适应滤波器具有较为理想的自适应噪声抵消能力。 关键词:自适应噪声抵消;自适应滤波;神经网络;BP网络 I 大学学士学位论文 Abstract Adaptive noise cancellation technique is one of the most common application of adaptive

3、 filter. It is a very well signal processing technique which can eliminate the effects of background noise when priori knowledge of the noise and signal is unknown. So it has veryhigh application value. In many cases,noise environment is very complex and often nonlinear though most adaptivefilters u

4、sed in the presentare all linear. The original signal will be distorted after filtering by these filters. Neural network can approximate to nonlinear functions verywell as its.nonlinear advantage, etc. So,in this paper,a neural network is applied in a adaptive noise canceller. Noise can be cancelled

5、 effectively,which is proved by simulation. This paper mainly studies the technique of adaptive noise cancellation,and expounds the principle and algorithm of noise cancellation technologies,combined with the adaptive filter in-depth analysis of adaptive cancellation performance of the system. Mainl

6、y studies the BP neural network,the analysis of four layer BP neural network algorithm,on the basis of combining the basic principle of adaptive noise cancellation system,set up a neural network based adaptive noise cancellation system. Using MATLAB to the simulation got the error change curve and a

7、pproximation of function curve,after repeated training beginning convergence error change curve, and the function approximation curves are essentially coincident with the target curve can be seen that after training the network has a better fitting. Look from the results of neural network adaptive f

8、ilter is a kind of ideal adaptive noise cancellation system. Keywords: adaptive noise cancellation; adaptive filtering; neural network; BP network II 大学学士学位论文 目 录 1 绪论 1 1.1 引言 1 1.2 自适应噪声抵消技术的发展与现状 2 1.2.1 国内外研究现状 2 1.2.2 自适应滤波器简介 2 1.2.3 自适应算法的研究 3 1.3 神经网络的研究现状及发展趋势 4 1.3.1 神经网络的研究现状 4 1.3.2 神经网络

9、的特点 6 1.3.3 人工神经网络的应用 7 1.4 本文研究的主要内容 8 2 自适应噪声抵消技术分析与研究 10 2.1 自适应滤波器 10 2.1.1 自适应滤波器原理 10 2.1.2 横向自适应滤波器 11 2.2 自适应噪声抵消系统的基本原理 13 2.3 自适应抵消算法 16 2.3.1 最小均方自适应算法 16 2.4 自适应抵消系统能力分析 17 2.4.1 模平方相干函数 17 2.4.2 衡量ANC系统抵消能力的指标 20 2.4.3 两路噪声的统计相关特性 21 2.4.4 自适应滤波器的性能与ANC系统的抵消能力 23 2.5 自适应滤波器参数的选择 25 2.5.

10、1 滤波器介数的选择 25 2.5.2 步长参数的选择 26 3 基于神经网络噪声抵消模块设计 27 3.1 神经网络简介 27 3.2 人工神经元模型 27 3.3 神经网络结构及工作方式 29 3.4 神经网络自适应噪声抵消系统 32 3.4.1 神经网络自适应噪声抵消系统原理 32 3.4.2 神经网络结构的确定 32 3.5 BP网络理论 33 3.5.1 BP网络结构 33 3.5.2 BP网络的学习规则 34 3.5.3 BP网络模型建立 35 3.5.4 基于神经网络工具箱的BP网络学习和训练 36 4 基于神经网络的自适应抵消分析与仿真 37 III 大学学士学位论文 4.1

11、MATLAB简介 37 4.1.1 MATLAB语言简介 37 4.1.2 神经网络工具箱 38 4.2 噪声抵消系统的仿真 38 5 结 论 49 致 谢 50 参考文献 51 附录A 英文原文 53 附录B 汉语翻译 60 IV 大学学士学位论文 1 绪论 1.1 引言 近年来，数字通信技术得到了迅猛发展和广泛应用，成为信息学科中最为活跃的领域之一。噪声消除是信号处理的核心问题之一，通常实现最优滤波的滤波器为维纳滤波器和卡尔曼滤波器，两者均要求已知信号和噪声的先验知识，但是在许多实际应用中往往无法预先得知，于是发展了自适应滤波器。自适应噪声抵消技术是一种能够很好的消除背景噪声影响的信号处理

12、技术，应用自适应噪声抵消技术，可在未知外界干扰源特征、传递途径不断变化、背景噪声和被检测对象声波相似的情况下，能够有效地消除外界声源的干扰获得高信噪比的对象信号，这一技术在信号处理中有着广泛的应用。如:(1)用来消除心电图中的电源干扰;(2)用来检测心音，而将母亲的心音及背景干扰去除;(3)用来在有其他人讲话的背景中提取某人的讲话;(4)用来作为天线阵的自适应旁瓣抑制器。 自适应噪声抵消(Adpative Noies cnacellation，ANC)系统的基本要求和主要特点是其两路输入噪声必须统计相关，它们可以是线性相关的，使用线性相关ANC系统的自适应滤波器是线性滤波器，在这种情况下，对于

13、平衡的输入噪声，自适应滤波器的稳态性能近似于维纳滤波器，但是当两路输入噪声间是非线性相关时，使用线性系统就有了困难，如果线性自适应算法用线性变换逼近非线性变换，为了达到足够高的精度，用于估计的权系数向量的维数将会爆炸性增长，自适应滤波器的估计速度必然会大为降低，其性能大幅下降，难以达到实时应用的目的。这时为了有效得进行噪声抵消，就必须采用自适应非线性系统作滤波器。神经网络是模仿和延伸人脑智能、思维、意识等功能的非线性自适应系统:具有全新的信息表达方式、高度平行分布处理、联想、自学习和自组织能力及极强的非线性映射能力，这就为自适应非线性滤波提供了一种全新的方法1。 1 大学学士学位论文 1.2

14、自适应噪声抵消技术的发展与现状 1.2.1 国内外研究现状 噪声消除是信号处理的核心问题之一，通常实现最优滤波的滤波器为维纳滤波器与卡尔曼滤波器。它们均要求已知信号和噪声的先验知识，但在许多实际应用中往往无法预先得知，为此发展了自适应滤波器。XX年美国斯坦福大学建成了第一个自适应噪声抵消系统。随着计算机技术与集成电路技术的进步，新的自适应算法不断涌现出来，自适应噪声抵消在理论和应用上都得到了很大的发展。自适应噪声抵消技术是一种能够很好地消除背景噪声影响的信号处理技术2。应用自适应噪声抵消技术，可在未知外界干扰源特征、传递途径不断变化，以及背景噪声和被测对象声波相似的情况下，有效地消除外界声源的

15、干扰获得高信噪比的对象信号。这一技术可为机械元件的噪声、振动等动态信号在测试环境不太理想的工作现场做测试分析和故障诊断时，提供有效地方法和依据，具有一定的理论意义和应用价值。 1.2.2 自适应滤波器简介 滤波器是电子设备的最基本的部件，人们对其己进行了广泛的研究。Winner奠定了关于最佳滤波器的基础。维纳Winner根据最小均方误差准则求得了最佳线性滤波器的参数.这种滤波器被称为维纳滤波器，它获得了极其广泛的应用。在 Winner研究的基础上，人们还根据最大输出信噪比准则等，获得了其他的最佳线性滤波器。要实现维纳滤波，要求(l)输入过程是广义平稳的;(2)输入过程的统计特性是己知的。根据其

16、他最佳准则的滤波器亦有同样要求。然而，由于输入过程取决于外界的信号、干扰环境，这种环境的统计特性常常是未知的，变化的，因而不能满足上述两个要求。这就促使人们研究自适应滤波器。自适应滤波器是在输入过程的统计特性未知时，或输入过程的统计特性变化时，能够调整自己的参数，以满足某种最佳准则，即具有学习和跟踪能力，包括时域和空域滤波等。自适应噪声抵消的最早的一些工作，是XX年到XX年间，Howells和Applebaum以及他们的同事在通用电气公司完成的。他们使用取自一个辅助天线的参考输入和一个简单的两权的自适应滤波器，设计并制造了天线旁瓣对消系2 大学学士学位论文 统。在这些早期年代里，只有少数人对自

17、适应系统感兴趣。而多权自适应滤波器的研制则刚刚开始。XX年，Widrow和Hoff在斯坦福大学证明了最小均方(LMS)自适应算法和模式识别方案，称之为Adatin(代表自适应线性门逻辑元件)。就在当时，罗森布拉特在康奈尔宇航实验室建造了他的模拟人类视觉神经控制系统的电子设备。在苏联，莫斯科自动学和遥控力学研究所的艾日曼及其同事们，也在制造一种自动梯度搜索机器。英国，D.加布尔和他的助手们则在研制自适应滤波器.在六十年代初期和中期，关于自适应系统的工作加强了3。文献中出现了数百篇关于自适应控制，自适应滤波和自适应信号处理的文章。自适应滤波在数字通信中的重要商业应用是这一时期勒凯在贝尔实验室的工作

18、形成的。 自适应噪声对消系统，于XX年在斯坦福大学建成。这个系统的目的在于对消心电放大器和记录输出端的60赫兹干扰。XX年，Widrow，Grriffiths等人就自适应干扰对消原理和应用作了总结。自此以后自适应噪声对消器的研究不断深入，理论方面它的算法和结构不断丰富。XX年提出的卡尔曼滤波算法，XX年的最小二乘格形自适应算法，对自适应技术的发展起了重要的推动作用。并行算法在自适应滤波领域有着巨大的应用潜力在实际应用中，自适应技术已广泛用于通信，语音信号处理、医学、雷达、声纳、遥感、控制等领域。自适应噪声抵消器己成功应用于心电图干扰抵消，长途电话传输线上的回声抵消，语音信号处理中的语音增强等领

19、域。 1.2.3 自适应算法的研究 最小均方算法(LMS):出的最小均方(LMS)算法对自适应技术的发展起了极大的作用。由于LMS算法简单和易于实现，它已被广泛应用。对LMS算法的性能和改进算法已作了相当多的研究，并且至今仍然是一个重要的研究课题。Widrow在假定输入信号和加权系数统计独立的前提下证明了平均权的收敛性，而这一假设在很多的时候不能成立。有不少文献对此进行了研究进一步的研究工作涉及这种算法在非平稳，相关输入时的性能研究4。 XX年Hassibi等证明了LMS算法在H准则下最佳，因而在理论上证明了LMS算法具有坚实性。这是算法研究的一个重要发展。 当输入相关矩阵的特征值分散时，LM

20、S算法的收敛性变差。为了改善LMS算法的收敛性，文献中己提出了包括步长算法在内的很多改进算法。在这些算法中，由等人提出的归一化LMS算法得到了较广泛的应用。 3 大学学士学位论文 LMS算法属于随梯度算法类。属于这一类的还有梯度格形和其他一些梯度算法。但是LMS算法是最重要和应用最广泛的算法。 (2)二乘(LS)算法:LS算法早在XX年由高斯提出。但是直接利用LS算法运算量大。且每一新输入数据必须对所有数据处理一次，因而在自适应滤波中应用有限。递推最小二乘(RLS)算法通过递推方式寻找最佳解，复杂度比直接LS算法小，获得了广泛的应用。许多学者推导了RLS，其中包括XX年Plaeket的工作XX

21、年sayed和K抓kailath建立了Kalman滤波和RLS算法的对应关系。这不但使人们对RLS算法有了进一步的理解，而且Kalman的大量研究成果可对应于自适应滤波处理。对自适应滤波技术起了重要的推动作用。 XX年Mcwhirter提出了一种可用Kung的systolie处理结构实现的RlS算法。这一方法由Ward等和Mcwhirter进一步发展为用于空域自适应滤波的QR分解Ls算法。该算法不是针对输入数据的相关矩阵进行递推，而是直接针对输入数据相关矩阵进行递推，有很好的数据稳定性，而且可用Systolic处理结构高效地实现，因而在空域处理中获得广泛应用5。 (3)采样矩阵求递(sMD)算

22、法:SMI算法又称为直接矩阵求递(DMI)算法。XX年，Reed等人首先系统地讨论了SMI算法.SMI算法可以实现很高的处理速度，因而在雷达等系统中获得了广泛应用。K.Teitleibaum在其关于林肯实验室RST雷达的文中叙述了基于直接对数据矩阵进行处理的SMI算法.该算法同样也采用Systolic处理结构进行处理。 最小方差无失真响应(MVDR)算法属于另一类重要的自适应算法。XX年，capon在研究高分辨率测向的论文中讨论了在保证信号方向增益条件下，使自适应阵输出方差最小的准则，即最小方差无失真响应(MVDR)准则.此论文是研究算法的最早工作之一。 1.3 神经网络的研究现状及发展趋势

23、1.3.1 神经网络的研究现状 人工神经网络的发展经历了大约半个世纪，从20世纪XX年代初到XX年代，神经网络的研究经历了低潮与高潮几起几落的发展过程。 早在XX年，心理学家W.McCulloch和数学家W.Pitts合作，从数理逻辑的角度，提出了神经元和神经网络最早的数学模型，标志着神经网络研究的开始。4 大学学士学位论文 但由于受到当时研究条件的限制，很多工作不能模拟，在一定程度上影响了MP模型的发展。尽管如此，MP模型对后来的各种神经元模型及网络模型都有很大的启发作用，在此之后的XX年，D.O.Hebb从心理学角度提出了至今仍对神经网络有着重要影响的Hebb学习法则。 XX年，F.Ros

24、enblatt首次引进了模拟人脑感知和学习能力的感知器概念，引起了人们的极大兴趣。感知器由简单的阀值性神经元构成初，步具备了诸如学习，并行处理，分布存储等神经网络的一些基本特征，从而确立从系统角度进行人工神经网络研究的基础。XX年，B.Widrow和M.Hoff提出了主要适用于自适应系统的自适应现行原件网络，采用了比感知器更复杂的学习程序。Widrow-Hoff技术被称为最小均方误差学习规则6。从此神经网络的发展进入了一个高潮。 的确，在一有限范围内，感知器有较好的功能，并且感知器收敛定理得到证明。单层感知器能通过学习把那些线性可分的模式分开，但对象XOR这样简单的非线性问题却无法求解，这一定

25、使人们大失所望，甚至开始怀疑神经网络的价值与潜力。XX年，美国麻省理工学院着名的人工智能专家M.Minsky和S.Papert出版了颇有影响的Perceptron一书，从数学角度上剖析了简单的神经网络的功能和局限性，并且指出多层感知器还不能找到也有效的计算方法，由于M.Minsky在学术界的地位和影响，其悲观的结论，被大多数人不做进一步分析而接受；加之当时以逻辑推理为研究基础的人工智能和数字计算机的辉煌成就，大大降低了人们对神经网络的研究热情，故使神经网络的研究在其后的若干年内处于低潮。尽管如此，神经网络的研究并未完全停顿下来，仍有不少学者在极其艰难的条件下致力于这一研究。XX年T.Kohon

26、en和J.A.Carpenter不约而同地提出具有联想记忆功能的新神经网络；XX年，S.Grossberg与G.A.Carpenter提出了自适应共振理论，并在以后的若干年内发展了ART1、ART2、ART3这3种神经网络模型，从而为神经网络研究的发展奠定了理论基础7。 进入20世纪XX年代，特别是XX年代末期，对神经网络的研究从复兴很快转入了新的热潮。这主要是因为：一方面经过十几年迅速发展的逻辑符号处理能力为主的人工智能理论和冯.诺依曼计算机在处理诸如视觉、听觉、形象思维，联想记忆，、等智能信息处理问题上收到了挫折；另一方面，并行分布处理的神经网络本身的研究成果，使人们看到了新的希望。XX年

27、美国加州工学院的的物理学家J.Hoppfield提出了HNN模型，并首次引入了网络能量函数概念，使网5 大学学士学位论文 络稳定性研究有了明确的判据，其电子电路实现为神经计算机的研究奠定了基础，同时开拓了神经网络用于联想记忆和优化计算的新途径。XX年，K.Fukushima等提出了神经认知机网络理论；XX年，D.H.Ackley，G.E.Hinton和T.J.Sejnowski讲模拟退火概念系列移植到Boltzmann机模型的学习之中，以保证网络能收敛到全局最小值。XX年，D.Rumelhart和J.McCelland等提出的PDP理论则致力于认知微观结构的探索，同时发展了多层网络的BP算法，

28、使BP网络成为目前应用最广的网络。XX年，T.Kohonen提出了自组织映射。XX年，美电气和电子工程师学会IEEE在圣地亚哥召开了盛大规模的神经网络国际学术会议，国际神经网络会也随之诞生8。XX年，学会的正式杂志Neural Networks创刊；从XX年开始，国际神经学会和IEEE每年联合召开一次国际学术会；XX年IEEE神经网络会创刊问世，各种期刊的神经网络特刊层出不穷，神经网络的理论研究和实际应用进入了一个蓬勃发展时期。 1.3.2 神经网络的特点 神经网络的主要特点是： 分布式储存信息。其信息主要存储分布在不同的位置，神经网络是用大量神经元之间的连接及对各连接权值的分布来表示特定的信

29、息，从而是网络在局部网络受损或输入信号因各种原因发生部分畸变时，仍然能够保证网络的正常输出，提高网络的容错性和鲁棒性。 并行协同处理信息:神经网络中的每个神经元都可根据接收到的信息进行独立的运算和处理，同一层中的每个神经元的输出结果可被同时计算出来，然后传输给下一层做进一步处理，这体现了神经网络并行运算的特点，这一特点是网络具有非常强的实时性。虽然单个神经元的结构及其简单，功能有限，但大量神经元构成的网络系统所能实现的行为是及其丰富多彩的。 信息处理与存储合二为一。神经网络的每个神经元都兼有信息处理和存储功能，神经元之间连接强度的变化，既反映了对信息的记忆，同时又与神经元对激励的响应一起反映了

30、对信息的处理。 对信息的处理具有自组织，自学习的特点，便于联想，综合和推广。神经网络的神经元之间的连接强度用权值大小来表示，这种权值可以通过对训练样本的学习而不断变化，而且随着训练样本量增加和反复学习，这些神经元之间连接强度会不断增加，从而提高神经元对这些样本特征的反应灵敏度9。 6 大学学士学位论文 1.3.3 人工神经网络的应用 人工神经网络的应用领域极其广泛，神经网络在人工智能，自动控制，计算机科学，信息处理，机器人，模式识别等方面都有重要的应用。随着人工神经网络技术的发展，及其用途日益广泛，应用领域也在不断拓展，已在各工程领域中得到广泛的应用。 神经网络比较擅长的应用领域如下。 模式识

31、别：神经网络经过训练可有效的提取信号、语音、图像、雷达、声纳等感知模式的特征，并能解决现有启发模式识别系统不能很好解决的不变量探测，自适应，抽象或概括等问题。这方面的主要应用有：图形、符号、手写体及语音识别，雷达及声纳等目标识别，药物构效关系等化学模式信息辨识，机器人视觉，听觉，各种最近相邻模式聚类及识别分类，遥感、医学图像分析，计算机视觉，计算机输入装置等。神经网络可应用于模式识别的各个环节：特征提取、聚类分析、边缘检测、信号增、噪声抑制、数据压缩以及各种变换、分类判决等。模式识别是人工神经网络特别适宜求解的一类问题，神经网络模式识别技术在各领域中的广泛应用是神经网络技术发展的一个重要侧面。

32、 人工智能：专家系统是人工智能领域研究时间最长，应用最成功的技术，但人们在应用专家系统解决诸如语音识别、图像处理和机器人控制等这类类似于人脑的形象思维的问题时，却遭到很大的困难。神经网络的问世为人工智能开辟了一条崭新的途径，成为人工智能研究领域中国的后起之秀，它具有的自学习能力是传统专家系统望尘莫及的。神经王略技术能对不完整信息进行补全，根据已学会的只是和处理问题的经验对复杂问题作出合理的判断决策，给出较满意的解答，或对未来过程作出有效地预测和估计，从而使之在人工智能领域获得广泛的应用。这方面的主要应用有：自然语言处理、市场分析、预测估值、系统诊断、事故检查、密码破译。语言翻译。逻辑推理、知识

33、表达、智能机器人、模糊评判等。 控制工程：神经网络在诸如机器人运动控制、工业生产中的过程控制等复杂控制问题方面有独到之处。较之基于传统数字计算机的离散控制方式，神经网络更适宜于组成快速实时自适应控制系统。这方面的主要应用有：多变量自适应控制、变节够优化控制、并行分布控制、智能及鲁棒控制等10。 优化计算和联想记忆：由于并行、分布式的计算结构，神经网络在求解诸7 大学学士学位论文 如组合优化(NP完备问题)、非线性优化等一系列问题上表现出告诉的集体计算能力。在VLSL自动排版、高速通信开关控制、航班分配、货物调度、路径选择、组合编码、排序、系统规划、交通管理以及图论中各类问题的计算等方面得到了成

34、功应用。 联想记忆的作用是用一个不完整或模糊的信息联想出存储在记忆中的某个完整、清晰的模式来。如何提高模式存储量和联想质量仍是神经网络的热点之一。目前在这方面的应有内容寻址器、人脸识别器、知识数据库等。 (5) 信号处理:神经网络的自学习和自适应能力使其成为对各类信号进行多用途加工处理的一种天然工具，主要用于解决信号处理中的自适应和非线性问题、包括自适应均衡、自适应滤波回波抵消。自适应波束形成、自适应编码等自适应问题和各种非线性问题，如非线性区域的横式分类、系统辨识和高维非线性系统的检测、估计等问题，还可对病态问题进行求解。神经网络在弱信号检测、通信、自适应滤波等方面的应用尤其引人入目，并已在

35、许多行业得到应用。 虽然神经网络在许多领域都有成功的实用案例，但神经网络也不是尽善尽美的。目前神经网络的理论研究和实际应用都在进一步的探索之中，相信随着人工网络研究的进一步深入，其应用领域会更广，用途会更大。 1.4 本文研究的主要内容 本文针对信号波形恢复的问题，在对四层BP神经网络算法分析的基础上，结合自适应噪声抵消系统的基本原理，建立了一个基于神经网络的自适应噪声抵消系统，充分发挥了神经网络的很多优点。克服了传统自适应噪声抵消存在的两路输入噪声必须统计相关，当两路输入噪声间是非线性相关时，使用自适应噪声抵消系统就遇到了困难的缺点，该设计方法可有效地节省大量的学习和计算时间，同时提高了信噪

36、比，通过计算机仿真表明，该自适应噪声抵消器具有很好的实时性，对于微弱信号的提取和处理具有重要的实用价值。其主要内容如下: 第一章:全面分析了自适应噪声抵消的意义，综述了其发展历史、研究现状，以及神经网络的研究现状及发展趋势，并对神经网络做了简单的介绍，进一步研究了神经网络的现状及发展趋势，最后指出了本文所要做的主要工作。 第二章主要介绍了自适应噪声抵消技术研究了自适应滤波器中的横向滤波器。全面分析了自适应噪声抵消系统的原理、结构、算法，并对自适应噪声抵消系统的性能做了进一步的分析。最后对自适应滤波器的一些参数进行了研究。 8 大学学士学位论文 第三章对神经网络进行了介绍描述了人工神经网络模型同神经网络进行那个了对比，对神经网络结构和工作方式进行了深入研究同时对BP网络进行了研究并把神经网络和自适应抵消技术进行了研究。 第四章对自适应噪声抵消技术进行了MATLAB的仿真。 9 大学学士学位论文 2 自适应噪声抵消技术分析与研究 噪