基于BP神经网络的手写数字识别ppt课件.ppt

基于BP神经网络的手写数字识别,内容,1,2,3,4,背景介绍,神经网络分类器设计,实例讲解,小结,手写数字识别是光学字符识别技术（OCR）的一个分支,研究如何利用计算机自动辨认手写在纸张上的数字。手写体数字的随意性很大,字体大小、倾斜、笔画的粗细等都会对识别结果造成影响。下面是一些样例：,研究背景,图像标准化处理,输入：白底黑字的二值图像 处理办法：把图像中每10*10的点进行划分相加，进 行相加成一个点,统计每个小区域中图像 象素所占百分比作为特征数据输出：5*7=35个网格特征,待测图片标准化,人工神经网络概况,人工神经网络(Artificial Neural Networks，ANN)： 简称神经网络。,模拟人脑神经细胞的工作特点：,与目前按串行安排程序指令的计算机结构截然不同。,* 单元间的广泛连接；* 并行分布式的信息存贮与处理；* 自适应的学习能力等。,人工神经元,人工神经元：生物神经元的简化模拟。,人工神经元间的互连：信息传递路径轴突-突触-树突的简化；,连接的权值：两个互连的神经元之间相互作用的强弱。,人工神经元模型,接收的信息(其它神经元的输出),互连强度,作比较 的阈值,n维输入向量X,输出,激活函数,神经元的动作：,激活函数 f：,阈值型,S型,分段线性型,输出值：,设 ，点积形式：,式中，,BP神经网络,网络拓扑结构：,1、BP神经网络具 有三层或三层以 上的多层神经网络2、每一层都由若干个神经元组成3、左右各层之间神经元实现全连接，同层神经元无连接,神经网络之梯度下降法,确定参数,1、输入向量 X=X1,X2,X3,.,Xn2、输出向量 Y=Y1,Y2,Y3,.,Yn 希望输出向量 O=O1,O2,O3,.,On3、隐含层输出向量 B=b1,b2,b3,.,bpT4、输入层到隐含层权值 Wji=wj1,wj2,.,wjt,.,wjn5、隐含层到输出层权值 Vkj=vk1,vk2,.,vkj.,vkp,输入模式顺传播：,1、计算隐含层各神经元的激活值 激活函数采用S型函数，即 2、隐含层j单元的输出值 同理，可以求得输出端的激活值和输出值,神经网络之梯度下降法,3、计算输出层第k个单元的激活值4、计算输出层第k个单元的 实际输出值,输入模式顺传播：,神经网络之梯度下降法,输出误差的逆传播：,1、输出层的校正误差 2、隐含层各单元校正误差3、连接权值以及校正量,神经网络之梯度下降法,循环记忆训练：,为了让网络的输出误差趋于极小值，一般需要进行数百次甚至上万次循环记忆，不断的反复循环上面介绍的步骤,神经网络之梯度下降法,实例详解,图片库mnist样例:(09)500*(28*28),待测试图片：,实例详解1,实例详解2,小结,1、神经网络可以有效对手写数字进行分类2、需要尽可能的添加手写数字到样品库3、神经网络有可能会陷入局部极小值，导致错分,结束,