神经网络的MATLAB实现苏析超.ppt
主要内容,BP神经网络编程BP神经网络工具箱RBP网络工具箱GRNN网络工具箱,BP神经网络通常是指基于误差反向传播算法(BP算法)的多层前向神经网络。该网络的主要特点是信号向前传递，误差反向传播。向前传递中，输入信号从输入层经隐含层逐层处理，直至输出层。每一层的神经元状态只影响到下一层神经元状态。如果输出层得不到期望输出，则转入反向传播，根据预测误差调整网络权值和阈值，从而使BP神经网络预测输出不断逼近期望输出。,1.BP神经网络原理,神经网络的MATLAB实现,神经网络的MATLAB实现,神经网络的MATLAB实现,神经网络的MATLAB实现,%清空环境变量clcclear%训练数据预测数据提取及归一化%下载四类语音信号load data1 c1load data2 c2load data3 c3load data4 c4,%从1到2000间随机排序k=rand(1,2000);m,n=sort(k);%输入输出数据input=data(:,2:25);output1=data(:,1);,%四个特征信号矩阵合成一个矩阵data(1:500,:)=c1(1:500,:);data(501:1000,:)=c2(1:500,:);data(1001:1500,:)=c3(1:500,:);data(1501:2000,:)=c4(1:500,:);,神经网络的MATLAB实现,%随机提取1500个样本为训练样本，500个样本为预测样本input_train=input(n(1:1500),:);output_train=output(n(1:1500),:);input_test=input(n(1501:2000),:);output_test=output(n(1501:2000),:);%输入数据归一化inputn,inputps=mapminmax(input_train);,神经网络的MATLAB实现,%网络结构初始化innum=24;midnum=25;outnum=4;%权值初始化w1=rands(midnum,innum);b1=rands(midnum,1);w2=rands(midnum,outnum);b2=rands(outnum,1);,w2_1=w2;w2_2=w2_1;w1_1=w1;w1_2=w1_1;b1_1=b1;b1_2=b1_1;b2_1=b2;b2_2=b2_1;%学习率xite=0.1;%alfa=0.01;,神经网络的MATLAB实现,%网络训练for ii=1:10 E(ii)=0;for i=1:1:1500%网络预测输出 x=inputn(:,i);%隐含层输出 for j=1:1:midnum I(j)=inputn(:,i)*w1(j,:)+b1(j);Iout(j)=1/(1+exp(-I(j);end%输出层输出 yn=w2*Iout+b2;,神经网络的MATLAB实现,%权值阀值修正%计算误差 e=output_train(:,i)-yn;E(ii)=E(ii)+sum(abs(e);%计算权值变化率 dw2=e*Iout;db2=e;,神经网络的MATLAB实现,for j=1:1:midnum S=1/(1+exp(-I(j);FI(j)=S*(1-S);end for k=1:1:innum for j=1:1:midnum dw1(k,j)=FI(j)*x(k)*(e(1)*w2(j,1)+e(2)*w2(j,2)+e(3)*w2(j,3)+e(4)*w2(j,4);db1(j)=FI(j)*(e(1)*w2(j,1)+e(2)*w2(j,2)+e(3)*w2(j,3)+e(4)*w2(j,4);end end,神经网络的MATLAB实现,w1=w1_1+xite*dw1;b1=b1_1+xite*db1;w2=w2_1+xite*dw2;b2=b2_1+xite*db2;w1_2=w1_1;w1_1=w1;w2_2=w2_1;w2_1=w2;b1_2=b1_1;b1_1=b1;b2_2=b2_1;b2_1=b2;endend,神经网络的MATLAB实现,%语音特征信号分类inputn_test=mapminmax(apply,input_test,inputps);for ii=1:1 for i=1:500%1500%隐含层输出 for j=1:1:midnum I(j)=inputn_test(:,i)*w1(j,:)+b1(j);Iout(j)=1/(1+exp(-I(j);end fore(:,i)=w2*Iout+b2;endend,神经网络的MATLAB实现,%结果分析%根据网络输出找出数据属于哪类for i=1:500 output_fore(i)=find(fore(:,i)=max(fore(:,i);end%BP网络预测误差error=output_fore-output1(n(1501:2000);%画出预测语音种类和实际语音种类的分类图figure(1)plot(output_fore,r)hold onplot(output1(n(1501:2000),b)legend(预测语音类别,实际语音类别),神经网络的MATLAB实现,%画出误差图figure(2)plot(error)title(BP网络分类误差,fontsize,12)xlabel(语音信号,fontsize,12)ylabel(分类误差,fontsize,12),神经网络的MATLAB实现,k=zeros(1,4);%找出判断错误的分类属于哪一类for i=1:500 if error(i)=0 b,c=max(output_test(:,i);switch c case 1 k(1)=k(1)+1;case 2 k(2)=k(2)+1;case 3 k(3)=k(3)+1;case 4 k(4)=k(4)+1;end endend,神经网络的MATLAB实现,%找出每类的个体和kk=zeros(1,4);for i=1:500 b,c=max(output_test(:,i);switch c case 1 kk(1)=kk(1)+1;case 2 kk(2)=kk(2)+1;case 3 kk(3)=kk(3)+1;case 4 kk(4)=kk(4)+1;endend%正确率rightridio=(kk-k)./kk,newff,函数newff用来生成一个BP网络,net=newff(PR,S1 S2.SN,TF1 TF2.TFN,BTF,BLF,PF),PR:一个R2矩阵,由R维输入向量的每维最小值和最大值组成,Si:第i层的神经元个数,TFi:第i层的传递函数,默认为tansig,BTF:训练函数,默认为trainlm,BLF:学习函数,默认为learngdm,PF:性能函数,默认为mse,net=newff(0,10;-1,2,5,1,tansig,purelin,trainlm);,%生成一个两层BP网络,隐层和输出层神经的个数为5和1,传递函数分别为tansig和purelin,训练函数为trainlm,其他默认,BP神经网络工具箱,MATLAB神经网络工具箱对常规BP算法进行改进,提供了一系列快速算法,以满足不同问题的需要,BP神经网络工具箱,利用已知的”输入目标”样本向量数据对网络进行训练,采用train 函数来完成.训练之前,对训练参数进行设置,net=train(net,P,T),BP神经网络工具箱,网络层数,已经证明,单隐层的BP网络可以实现任意非线性映射.BP网络的隐层数一般不超过两层.,输入层的节点数,输入层接收外部的输入数据,节点数取决于输入向量的维数,输出层的节点数,输出层的节点数取决于输出数据类型和该类型所需的数据大小.,对于模式分类问题,节点数为,BP神经网络工具箱,隐层的节点数,隐层的节点数与求解问题的要求,输入输出单元数多少有关.对于模式识别/分类的节点数可按下列公式设计,传递函数,隐层传递函数采用S型函数,输出层采用S型函数或线性函数,训练方法及其参数选择,针对不同应用,BP网络提供了多种训练学习方法.,其中,为隐层节点数,为输入节点数,为110之间的整数,BP神经网络工具箱,采用动量梯度下降算法训练BP网络.训练样本,%定义训练样本p=-1-1 3 1;-1 1 5-3;t=-1-1 1 1;%创建一个新的BP网络net=newff(minmax(p),3 1,tansig,purelin,traingdm);%设置训练参数=1000;=0.001;=50;=0.05;=0.9;%动量因子，缺省为0.9net=train(net,p,t);%训练网络A=sim(net,p)%网络仿真,BP神经网络工具箱,目标线,训练误差变化曲线,BP神经网络工具箱,
