文本挖掘与web数据挖掘课件.ppt
《文本挖掘与web数据挖掘课件.ppt》由会员分享,可在线阅读,更多相关《文本挖掘与web数据挖掘课件.ppt(81页珍藏版)》请在三一办公上搜索。
1、2023/3/21,第8章 文本挖掘与Web 数据挖掘,文本挖掘 Web数据挖掘案例五:跨语言智能学术搜索系统案例六:基于内容的垃圾邮件识别,8.1 文本挖掘,8.1.1 分词8.1.2 文本表示与词权重计算8.1.3 文本特征选择8.1.4 文本分类8.1.5 文本聚类8.1.6 文档自动摘要,2023/3/21,8.1.1 分词,分词(词切分)是指将连续的字序列按照一定的规范重新组合成词序列的过程英文:单词之间以空格作为自然分界符,容易中文:词没有一个形式上的分界符,难中文分词极具挑战性的问题歧义切分问题:研究/生物;学生会|学生会玩魔方未登录词问题:新词(木有、凡客体),人名等分词法主要
2、分为以下三大类:基于词典的方法、基于统计的方法、基于语法分析的方法,2023/3/21,基于词典的分词法,正向最大匹配从左开始算起,最大是指从一个设定的长度开始匹配,直到第一个匹配成功就切分成为一个词逆向最大匹配与正向最大匹配相似,区别在于从右至左匹配例子:研究生命起源正向匹配结果:研究生/命/起源逆向匹配结果:研究/生命/起源特点:简单,易实现;正确率受词典大小限制,2023/3/21,基于统计的分词法,假设:词是稳定的单字组合,直观地,在上下文中,相邻的字同时出现的次数越多,就越有可能构成一个词只需对语料中的字组频度进行统计,不需要切分词典,因而又叫做无词典(统计)分词法基于统计模型的分词
3、方法是研究热点,如基于隐马尔可夫的方法、基于最大熵的方法特点:精度高、词性标注、命名实体识别;需要语料作支撑,2023/3/21,基于中文语法的分词方法,通过让计算机模拟人对句子的理解,达到识别词的效果其基本思想就是在分词的同时进行句法、语义分析,利用句法和语义信息来处理歧义现象包括三个部分:分词子系统、句法语义子系统、总控部分特点:由于汉语语言知识的笼统、复杂性,基于理解的分词系统还处在试验阶段,2023/3/21,常见分词工具,ICTCLAS中国科学院计算技术研究所开发采用层叠隐马尔可夫模型中文分词,词性标注,命名实体识别,新词识别支持C/C+/C#/Delphi/Java等主流开发语言i
4、mdict-Chinese-analyzerICTCLAS中文分词程序基于Java的重新实现采用基于隐马尔科夫模型的方法直接为Lucene搜索引擎提供简体中文分词支持,2023/3/21,常见分词工具(续),IKAnalyzer采用特有的“正向迭代最细粒度切分算法”基于Java语言开发的轻量级开源分词工具包60万字/秒的高速处理能力简易中文分词系统SCWShightman 个人开发采用标准C开发提供 C接口、PHP扩展(源码、WIN32的DLL文件),2023/3/21,常见分词工具(续),盘古分词基于.net Framework的中英文分词组件中文未登录词识别、人名识别、多元分词等功能支持英
5、文专用词识别、英文原词输出、英文大小写同时输出等单线程分词速度为390 KB/s,双线程分词速度为690 KB/s(Core Duo 1.8 GHz)其它 Paoding(庖丁解牛分词)、HTTPCWS、MMSEG4J以及CC-CEDICT等,2023/3/21,8.1.2 文本表示与词权重计算,目前文本表示主要是采用向量空间模型(Vector Space Model,VSM)每个文本被表示为在一个高维词条空间中的一个向量词条权重wi,j一般采用TFIDF方法来计算得到,2023/3/21,8.1.3 文本特征选择,文本特征选择是根据某种准则从原始特征中选择部分最有区分类别能力的特征主要分为无
6、监督和有监督的方法常用的方法有以下几种文档频率(Document Frequency,DF)单词权(Term Strength,TS)信息增益(Information Gain,IG)互信息(Mutual Information,MI)期望交叉熵(Expected Cross Entropy,ECE),2023/3/21,基于文档频率的方法,文档频率是指所有训练文本中出现某个特征词的频率是一种无监督的方法通常会分别设置一个小的阈值和大的阈值来过滤一些低频词和频数特别高的词特点优点:简单、易行缺点:低频词有时能很好反映类别信息;忽略了特征词在文档中出现的次数,2023/3/21,基于信息增益的方
7、法,根据某个特征词t在一篇文档中出现或者不出现的次数来计算为分类所能提供的信息量,并根据该信息量大小来衡量特征词的重要程度,进而决定特征词的取舍信息增益是最常用的文本特征选择方法之一特点:该方法只考察特征词对整个分类的区分能力,不能具体到某个类别上,2023/3/21,8.1.4 文本分类,文本自动分类(简称“文本分类”)是在预定义的分类体系下,根据文本的特征(词条或短语),将给定文本分配到特定一个或多个类别的过程基本步骤可以分为三步:将预先分过类的文本作为训练集输入构建分类模型对新输入的文本进行分类常见的算法包括:线性分类器、k最近邻分类器、朴素贝叶斯、决策树、支持向量机分类器,2023/3
8、/21,朴素贝叶斯分类器,贝叶斯分类算法有两种模型:多变量伯努利事件模型和多项式事件模型多变量伯努利事件模型特征词在文本中出现则权重为1,否则权重为0。不考虑特征词的出现顺序,忽略词出现的次数多项式事件模型一篇文档被看作是一系列有序排列的词的集合,2023/3/21,常用基准语料,Reuters-21578是最常用的公开英文语料库21578篇新闻报道135个类别20 Newsgroups是重要的公开英文语料库大致20000篇新闻组文档6个不同的主题以及20个不同类别的新闻组TanCorp是公开的中文基准语料库收集文本14150篇分为两个层次。第一层12个类别,第二层60个类别,2023/3/2
9、1,常用基准语料(续),复旦大学中文文本分类语料库测试语料共9833篇文档,训练语料共9804篇文档包含20个类别其它语料库还包括OHSUMED、WebKB、TREC系列和TDT系列等,2023/3/21,模型评估,文本自动分类通常是不平衡的分类任务,常用的分类准确率(Accuracy)指标并不合适一般使用每个类的F-measure值以及全部类F-measure值的平均来评估算法的性能其中,r表示每个类的召回率(Recall),p表示每个类的精度(Precision),通常取值为1,也就是经常被使用到的F1值,2023/3/21,模型评估(续),语料上的整体性能,通常采用微平均和宏平均方法微平
10、均是根据所有类准确划分文本个数和错误划分文本个数来计算精度和召回率宏平均则是计算每个类别得到的精度和召回率的平均值在不平衡数据分类上,宏平均方法更能反映出分类器的性能。,2023/3/21,8.1.5 文本聚类,自动化程度较高的无监督机器学习方法,不需要预先对文档手工标注类别主要任务是把一个文本集分成若干个称为簇的子集,然后在给定的某种相似性度量下把各个文档分配到与最其相似的簇中相似性度量方法在此过程起着至关重要的作用,2023/3/21,文本相似度计算,方法主要分为两大类:基于语料库统计的方法和基于语义理解的方法基于语料库统计的方法:基于汉明距离和基于空间向量模型的方法汉明距离用来描述两个等
11、长码字对应位置的不同字符的个数,从而计算出两个码字的相似度基于空间向量模型方法是一种简单有效的方法,2023/3/21,文本相似度计算(续),基于语义理解的方法:考虑语义信息的文本相似度计算方法该方法主要分为三大类:词语相似度、句子相似度、段落相似度计算词语相似度往往需要一部语义词典作为支持,目前使用频率最高的语义词典是知网句子相似度计算要通过利用语法结构来分析汉语句子机构相当复杂,段落相似度计算更复杂,2023/3/21,文本聚类过程,以K-means算法详细介绍文本聚类的过程任意选择k个文本作为初始聚类中心Repeat 计算输入文本与簇之间的相似度,将文本分配到最相似的簇中 更新簇质心向量
12、Until 簇质心不再发生变化,2023/3/21,评估指标,外部质量准则的聚类熵、聚类精度文本分类方法的召回率、精度、F-measure值文本聚类算法整体性能的评估宏平均或微平均F-measure值聚类熵,2023/3/21,8.1.6 文档自动摘要,文档自动摘要,简称自动文摘,是指利用计算机自动地从原始文档中提取全面准确地反映该文档中心内容的简单连贯的短文处理过程大致可分为三个步骤:文本分析过程信息转换过程重组源表示内容,生成文摘并确保文摘的连贯性,2023/3/21,文档自动摘要的类型,按不同标准,文档自动摘要可分为不同类型:根据文摘的功能划分,指示型文摘、报道型文摘和评论型文摘根据输入
13、文本的数量划分,单文档文摘和多文档文摘根据原文语言种类划分,单语言文摘和跨语言文摘根据文摘和原文的关系划分,摘录型文摘和理解型文摘根据文摘的应用划分,普通型文摘和面向用户查询文摘,2023/3/21,相关技术,文档自动摘要技术主要有以下几种类型自动摘录法最大边缘相关自动文摘法基于理解的自动文摘基于信息抽取的自动文摘基于结构的自动文摘基于LSI语句聚类的自动文摘,2023/3/21,相关技术(续),自动摘录法将文本看成是句子的线性排列,将句子看成词的线性排列,然后从文本中摘录最重要的句子作为文摘句最大边缘相关法从文本中挑选出与该文本最相关的,同时与已挑选出的所有代表句最不相关的句子作为下一个代表
14、句基于理解的方法利用语言学知识获取语言结构,更重要的是利用领域知识进行判断、推理,得到文摘的语义表示,从语义表示中生成摘要,2023/3/21,相关技术(续),基于信息抽取的方法首先根据领域知识建立该领域的文摘框架,然后使用信息抽取方法先对文本进行主题识别,再对文本中有用片段进行有限深度的分析,最后利用文摘模板将文摘框架中内容转换为文摘输出基于结构的方法将文章视为句子的关联网络,与很多句子都有联系的中心句被确认为文摘句,句子间的关系可通过词间关系、连接词等确定,2023/3/21,相关技术(续),基于LSI语句聚类的方法利用潜在语义索引LSI(Latent Semantic Indexing)
15、,获得特征项和文本的语义结构表示。在语义空间考虑特征项权重不是依赖于单纯的词频信息,而是考虑到特征项对于文本主题的表现能力以及在整个文本集中使用的模式。,2023/3/21,相关技术(续),以上方法普遍会面临以下三个关键问题的挑战文档冗余信息的识别和处理重要信息的辨认生成文摘的连贯性,2023/3/21,性能评估,自动文摘包含标准文摘的信息比率是内部测评中对文摘内容完整性的一种重要测评几个主流的评价方法:单文档文摘评价系统(Summary Evaluation Environment)ROUGEPyramidBE(Basic Elements)方法,2023/3/21,8.2 Web数据挖掘,
16、8.2.1 Web内容挖掘8.2.2 Web使用挖掘8.2.3 Web结构挖掘,2023/3/21,8.2.1 Web内容挖掘,Web内容挖掘是从Web页面的文本、图像、视频和组成页面的其它内容中提取信息的过程Web内容挖掘在Web搜索、垃圾邮件过滤、敏感信息过滤、情报分析、数字图书馆建设、网络舆情监控等方面有着重要的应用价值文本挖掘技术可应用于Web页面的文本挖掘中图像和视频等内容的挖掘是多媒体数据挖掘中的重要部分主要方法也是数据预处理、分类、聚类、关联规则,2023/3/21,8.2.2 Web使用挖掘,Web使用挖掘通过挖掘Web日志记录,发现用户访问Web页面的模式可以识别电子商务的潜
17、在客户增强对最终用户的因特网信息服务的质量和交互改进Web服务器系统性能,2023/3/21,数据收集,Web使用记录挖掘中的主要数据来源是服务器日志文件,主要可分为以下四种类型数据使用记录数据:首要的数据来源内容数据:由文字材料和图片组成结构数据:从设计者的角度所看到的网站内容组织结构用户数据:包括注册用户人口统计信息(如性别、年龄、职业等)、用户对各种对象的访问率、用户的购买记录或历史访问记录等,2023/3/21,预处理,2023/3/21,Web使用模式的发现和分析,会话及访问者分析在已预处理的会话数据中,发现访问者行为的知识使用记录聚类分析用户聚类:用户聚类的目的是对具有相同浏览模式
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 文本 挖掘 web 数据 课件
链接地址:https://www.31ppt.com/p-3767010.html