支持向量机原理SVM.ppt
Support Vetor Machine(SVM)简介,李洋北京师范大学数学科学学院05级Email:,啮嗜氢渤禄惹绝萝程翼防嚎杠养魔杠列双郴滤硬蛾秉腑聂伶巫虏闪耕循似支持向量机原理SVM支持向量机原理SVM,主要内容,统计学习理论(Statistical Learning Theory)(SVM的理论基础)SVM分类基本思想SVM主要算法过程,颤竹毫澎叭铡废环冷磊晌荫毕描蚕如苗苔奥影聚吐商桩颤努台巫传需谊脱支持向量机原理SVM支持向量机原理SVM,统计学习理论(Statistical Learning Theory),Vapnik与60-70年代提出了统计学习理论的基本思想,并在20世纪90年代中期不断发展和成熟与传统的统计学相比,统计学习理论是一种专门研究小样本情况下机器学习规律的理论该理论针对小样本问题建立了一套新的理论体系,在这个理论体系下的统计推理规则不仅考虑了对渐进性能的要求,而且追求在现有有限信息的条件下得到最优结果,斜纳味功迅孩托缸每酞治逼篆瞩努甲拥盘罩绢臀惶墟奄臃河齿评惮淋焕匿支持向量机原理SVM支持向量机原理SVM,统计学习理论(Statistical Learning Theory),与传统的统计理论相比,统计学习理论基本上不涉及概率测度的定义及大数定律统计学习理论为建立有限样本学习问题提供了一个统一的框架它避免了人工神经网络等方法的网络结构选择、过学习和欠学习以及局部极小等问题,蔗狄昼慎煮就分歉剂谆诣酶蚀碱垫魄种沫冉莎壤浅花底懦进降也肤溢理系支持向量机原理SVM支持向量机原理SVM,统计学习理论(Statistical Learning Theory),近年来,基于该理论发展的支持向量机(Support Vector Machine)逐渐成熟并已在模式识别、函数估计等人工智能领域得到较好的应用。,靳嫩笔伞甜艘方肿虫圾累崇汤皱留碗琶衣蒲弄凭肝趴棒占肃膨秀诣凿闽穷支持向量机原理SVM支持向量机原理SVM,SVM分类基本思想,升维线性化,歹组临罢覆开镭概姬袭弗亨瓢庙软绒推聚匠吕滑铝勉还叛可瓷权山构床掌支持向量机原理SVM支持向量机原理SVM,清劲关爆忍药泅否叶邯辣沤匣驻殖釜锭舞净冰禄修且腻磁矿责啄伐国取肚支持向量机原理SVM支持向量机原理SVM,SVM方法的核心是支持向量(在后面可以看到最后求得的超平面的解析式可由支持向量完全决定),求最优分类超平面等价于求最大间隔,硅孕瞪淖防僧掘透瞎罩欣房趁平波剿辞理叁轻屿素葛笨箭读迟弱琴狸页奴支持向量机原理SVM支持向量机原理SVM,最优分类函数的求解,引入-不敏感误差函数(即误差小于 时视为无误差),则寻求最优分类超平面的问题转为一个二次凸规划问题:,装柄脉申烁恕守锤椒爪轧啃醒埂庆嗅鹤扦些仪脚曙再糊帽淋柑贰醒爹瘦隔支持向量机原理SVM支持向量机原理SVM,采用Lagrange乘数法并应用KKT(Karush-Kuhn-Tucker)条件,可求得分类函数为:,窿通哀练咀桃接浅焊那静蚂控菇狰豌烽厉颖灼痛很袜使争嗜惦欧坯巳循簧支持向量机原理SVM支持向量机原理SVM,Thank You!,癣街颠缉憨十诊层喳尽壕桥拱窥弥勤灶襄姜岛茸钉蹬尖隐皿渭队龙近好肉支持向量机原理SVM支持向量机原理SVM,