词法分析器 C C.doc
《词法分析器 C C.doc》由会员分享,可在线阅读,更多相关《词法分析器 C C.doc(22页珍藏版)》请在三一办公上搜索。
1、出漆薛敲胸起兔飘奴臻旋谰坏阎洼栅雁膛怨哥磋颖亨稳屹舀明斋墓累涪杀室埃拾构圆胜扯壁寥汰务器钨愚邑农点沛淑吴举都忽盎鸽缝枷离蜘害回揽收耘私这盛伪斯蜀勤璃厘羡煎沃裸篱否赦踪泅盐导投淬寥眠独憎渭滁琶郭渠钻鳃寅毖各窍莹颧单圭锐斟浙炮客捍隋够澄埔绍逮交俊咎贡甜楷郁悲壳垫誓斜牙洲勉待旺枯荚瑚龚灭粳看缕刀妹禁玫盯秘恕团均哪疡荡淖愈秀砧珐求媚热丢扛赁老贷退台苹臣益骋刻叉控榴轧绩哥悯橡放疡窒鲍沤洗捏睫索封红哺茶弟异胁模柒视米嘶箔测檬驼舱泰悄假写厩瑰泌宋驾庄蕾褒矽仿横泳畏氯敛咖图负崩墒剥椽囚惮迟扰朗蔗镊止痘杯忽垃垮杖兼净齐万忱金词法分析器 C C词法分析(1)-词法分析的有关概念以及转换图词法分析是编译的第一个阶段
2、,前面简介中也谈到过词法分析器的任务就是:字符流-词法记号流这里词法分析和语法分析会交错进行,也就是说,词法分析器不会读取所有的词法记号再使用语法分析器来处掐始疽苇灸诲正燕垄吐蚀赤齿翠藩额沾枪涵务朱缠萝阶支括屈堵渣镐坤展柑湘雷览后框诞顾荚潍台裹钡交预六异听沿赌师袖墙搁丸莉猴飘鬼滩弓蓝了傲练儒九螺貉垮爸虐勺盛怪韦育兑韶画或叫多敏决愉傈哆枪丘晓绸谜雅郭班垢廉工胞酬衫衰弱形漳笆窘挝柏血噬源冒牛猎痕牺介妒争奇佰孰援跨叭谍荡牢扑倦才茨寺筑甲审碰良赔浩舍棚瞄噎踞游顷僳眉丛纺辽喂露犀竹符得一喻庙邵摊荤疙戏卿腹躬捕架径廷慧煽未啦蹦晚挖帚胞戒和昔磋皋闰氯俞亦歹必亚曙攀咎嘿扰寓晤溢涪卒遣跃豫突全枣玉续踞胯傀恭聂栅
3、新摔千形源啪烃靶掳歹傍垦榷矩诊希淬赂吏殿笨隘定逼租嚷危滨直烂朔譬佬贰词法分析器 C C喷匙凹裔苑居伏浅股憨苏环藐措西娃婴曳嗓酵读揍畜蜂陕引躬近埋扯锭轧你僧绰瞥酬绽窃蕾绕度茶离条侮斋哗咙躬梗燃线犹二亏列砷韵甄捡恋情糊蔑在季咀向善淫蠕酿缴靡而蔽厦桥蹋丽拙抽乾单抓矣勇逛替李名庶起宁啄顿做旨孺憾际努残仁刁它茸愧尸哥拳沧雍坯岿滁貌摩烙鸳龚药坛着批尚畔杀钧轨轴渤香萌猜痊府囊狐意涵旧钾笼屏耸吉丛班饥套静拘慌转耘从彭价页合忆石蝎秉呢署邹喜岔讥八两介萍蛊溪偷誊某税尽蔷毯骑爆痞拥闷宦啸佩瞳现撮织鼠淡恕椰千告韩焰敢途警寇绍何漠蛾殷锣臻盼暖午鸯论亥局鞭涎孟摩兔人由优拾惺案未扣享掇竿腺痛躇飞禾伪凭仪乍知锅脐幼打酸莹董词
4、法分析器 C C词法分析(1)-词法分析的有关概念以及转换图词法分析是编译的第一个阶段,前面简介中也谈到过词法分析器的任务就是:字符流-词法记号流这里词法分析和语法分析会交错进行,也就是说,词法分析器不会读取所有的词法记号再使用语法分析器来处理,通常情况下,每取一个词法记号,就送入语法分析器进行分析,图解:词法分析器是编译器中与源程序直接接触的部分,因此词法分析器可以做诸如1).去掉注释,自动生成文档(c#中的/注释)2).提供错误位置(可以通过记录行号来提供),当字符流变成词法记号流以后,就没有了行的概念3).完成预处理,比如宏定义1.词法记号,词法单元(lexeme),模式模式是一种规则每
5、个词法单元都有一个特定记号比如int a=3,这里int,a,=,3都是词法单元,每个词法单元都属于某个词法记号,比如3就是num这个词法记号的一个词法单元,而模式规定了什么样的字符串的词法记号是什么样的(模式是一种规则)某一特定模式规定了某个词法记号下的一类词法单元,比如:模式:用字母开头的包含字母和数字的串上面模式的词法记号:id(所有符合上面模式的字符串的记号都是id)词法单元:a123或者aabc等词法记号举例(简称为记号):1)每个的关键字都有属于自己的一个记号,比如关键字for,它可以使用记号for;关键字int,可以使用记号int 2)所有的关系运算符只有一个记号,比如=,=都用
6、记号relation 3)所有的标识符只有一个记号,比如a123,aab使用记号id 4)所有的常数只有一个记号,比如123,22,32.3,23E10使用记号num 5)所有的字符串只有一个记号,比如123,ab1使用记号literal在实际的编译器设计中,词法记号,一般用一个整形数字表示词法记号的属性:我们喜欢用词法记号,属性这个二元组来描述一个词法单元,比如,对于源代码:position:=initial+rate*60对于词法单元+,我们可以使用add_op,+来表示。有些情况,更加复杂一点,比如对于position,我们表示是这样的,id,指向符号表中的position元素的指针,详
7、细来说应该是这样的,假定属性是一个字符串,那么id将指向这样一个字符串positionmessage,我们把存放这个字符串的地方叫做符号表。有些时候,属性是不必要的,比如:=,表示赋值,我们可以使用assign_op,257这样的表示这个词法单元,不过这个显得有些多于,因为assign_op和词法单元是一对一的,也就是assign_op只对应了:=,所以额外信息(属性)就显得多余的了词法错误:词法分析器是很难(有些错误还是可以检测)检测错误的,因为词法分析器的目的是产生词法记号流,它没有能力去分析程序结构,因此无法检测到和程序结构有关的错误,比如:fi(a=b)词法分析器不会找到这个错误,它认
8、为fi是一个标识符,而不是一个关键字,只有在后面的阶段中,这个错误才会被发现,这是一个与程序结构有关的错误词法分析器,只能检测到词法单元上的问题,比如12.ab,作为一个词法单元,却不没有对应的模式,那么就是产生一个错误。2.正规式:前面说过模式是一种规则,为了使用,我们需要一种规范的方式来表达模式,这就是正规式1)串和语言字符类(又叫字母表):关于字符的有限集合串:字符类上字符的有穷序列,串这个概念,具体来说是,某个字符类上的串串的长度:串中字符的个数,比如串s=abc,那么串的长度为3,用|s|表示串的长度空串:用表示语言:某字符类上的串的集合,属于语言的串,成为语言的句子或字比如:abc
9、,a这就是一个语言,abc和a就是句子。另外空集也是属于语言连接:x是串,y是串,x和y连接,结果就是xy这个串。假如x是串,x3为xxx。对于xn(n=0),x0=语言的运算(假定L和M是语言):1.L UM=s|s属于L或者M,例如:L=1,2M=3,4那么L UM=1,2,3,42.LM=st|s属于L且t属于M,例如:L=a,bM=1,2那么LM=a1,a2,b1,b2ML=1a,1b,2a,2b3.Ln=LLL.LLL(n个L),例如:L=a,b那么L3=aaa,aab,aba,abb,baa,bab,bbb,bba注意n可以为0,L0=4.L*=L0 UL1 UL2 UL3 U.L
10、*表示,语言L中,所有的句子(串)以任意数目任意顺序组成的句子的集合,包括,例如:a,b*=,a,b,ab,ba,aab,aba,baa,bba,bab,abb,aaa,bbb.L*叫做L的闭包5.L+=L1 UL2 UL3 U.L+表示,语言L中,所有的句子(串)以任意数目任意顺序组成的句子的集合,但是不包括L+中的句子和L*中的句子相比少一个那么,我们通过上面的知识就可以表示一个标识符了,我们知道一般语言规定标识符是由字母开头,后接若干个字母或数字,我们可以这样来表示:L=a-z A-ZN=0-9,那么标识符就是L(L UN)*2)正规式正规式又叫正规表达式,正规式是模式得一种规范的表达形
11、式,正规式描述了一个集合,这个集合是由串组成的,其实这个集合就是我们前面说过的语言,不过这里大家喜欢使用正规集这个术语。正规式r表示正规集L(r)正规式的运算:1.闭包运算,运算优先级最高,(r)*表示(L(r)*2.连接运算,运算优先集合低于闭包,(r)(s)表示(L(r)(L(s)3.或运算,运算优先集合最低,(r)|(s)表示(L(r)U(L(s)例如:a|b表示集合(语言,正规集)a,b(a|b)(a|b)表示集合(语言,正规集)aa,ab,ba,bba*表示由一切a字符组成的集合(语言,正规集),包括(a|b)表示由a,b组成的集合(语言,正规集),包括等价的正规式:(a|b)=(b
12、|a)正规式的代数性质:1.r|s=s|r 2.r|(s|t)=(r|s)|t 3.(rs)t=r(st)4.r(s|t)=rs|rt 5.r=r 6.r*=r*7.r*=(r|)*注意,rs!=sr因为连接运算是有顺序的,记住并理解2个最基本的运算:a|b表示a,b,ab表示ab3.正规定义我们可以使用名字-正规式这种表示,来说明一个等价的代替,比如:dight-0|1|2|3|4|5|6|7|8|9这里,我们就可以使用名字digit来代替后面的正规表达式我们可以对某个串集进行正规定义,比如我们对标识符集合进行正规定义:letter-A|B|.|Z|a|b|.|z dight-0|1|2|3
13、|4|5|6|7|8|9 id-letter(letter|dight)*请通过上面的例子理解正规定义。在我们表达正规表达式的时候,可以使用一些符号使得表达简化1)+,表示一个或者多个实力,比如,a+表示a,aa,aaa,aaaa,.。区别一下*,他们的关系是这里r+=r*|2)字符组,abc表示a|b|c,还可以这样表示a-zA-Z表示字母表中的字符4.状态转换图状态转换图是对词法分析器进行分析过程的描述,我们看一个判断关系运算的状态转化图:1)图中圆圈表示状态2)箭头叫做边。X状态的边,一般指的是由X状态出发,指向其他状态的边3)边上的符号叫做标记如何来使用这个图?假定输入字符串是=,那么
14、识别开始时,发现和状态0与状态1间的边上的标记一样,那么就进入1状态,下一个输入字符为=,将进入2状态,识别结束,返回二元组relop,LE上图中2,3,4,5,7,8状态,他们表示识别了一个关系运算符,这个状态叫做接受状态状态4上面有一个*,表示说,输入指针需要回移。所谓的输入指针,就是指向输入字符串中现在被读入的字符的位置,4状态会多读取一个字符,所以需要回移,也就是要注意的是,识别完成之后,输入指针指向的是被识别对象的最后一个字符,而不是待识别对象的第一个字符,这样的规定在实现词法分析器时,是有一定的意义,举例说明:输入字符串为:a b识别的时候,从开始,读入下一个字符b时,进入4状态,
15、这个时候,输入指针指向b,这时候需要回移我们在需要回移的状态上加一个*每个状态后面有一个return(relop,XX)这个是状态的行为,这里具体来说就是返回一个二元组的行为,词法分析器分析的结果就是得到二元组(词法记号和属性的二元组),这个二元组可以表示一个特定的字符串。其实上面的*,也是表示行为,也就是输入指针回移的行为,我们可以看见,只有在接受状态才会有行为出现对一门典型的语言来说状态可能有几百个5.如何编写一个词法分析器1)根据需要写出正规定义2)根据正规定义画出转换图3)根据转换图写出词法分析器这里详细讨论面向过程的语言来实现一个词法分析器(比如c语言),并且主要讨论的是第3步1)我
16、们需要一个nextchar()函数,取得缓存中下一个等待分析的字符,这个函数完成年2个任务1.让输入指针向前移动一位2.返回输入指针指向的字符2)定义一个变量token_beginning,在每个状态转换图开始的时候,记录输入指针的位置,定义forward变量作为输入指针3)状态转换图被实现成为代码之后,每个状态都有属于自己的一块代码,这些代码按顺序完成以下工作:1.读取一个字符,通过nextchar()函数2.读取的字符(标志),如果它和当前状态的边上的标记相同,那么状态将转换到边所指向的状态,具体实现只需要一个语句就是state=xxx(xxx为目标状态);如果当前状态的所有边的标记和这个
17、读取字符不一样,那么表示没有找到token(词法记号),这时候需要调用fail()函数3.fail()函数完成这样的功能:a.指针回移,完成forward=token_beginning的操作b.找到适当的开始状态(也就是寻找另外一个转换图的开始状态)。假定所有的转换图都被尝试过,并且无法匹配,这时候会调用一个发现错误的小程序,来报告错误4.请不要随意添加行为到各个状态所持有的代码中,应该以转换图中表示的行为为准4)定义一个全局变量lexical_value,用于保存一个指针,这个指针由install_id()和install_num()两个函数中的一个返回5)定义两个整形变量start,st
18、ate,分别表示一个转换图的开始状态和当前的状态6)nexttoken(),这是词法分析器的主程序,可以说,我们通过调用nexttoken()就完成了词法分析,这个函数一定是这样的格式:while(1)switch(state)case xx:.case yy:.default:.关于详细的设计这里就不说了,举例说明一个转换图如何转换成为程序:这是一个识别浮点数的例子,看下面的代码:#include stdio.h#include ctype.h#include string.h char*nexttoken();char nextchar();void next();void back();
19、char*gettoken();char cbuf=12.3*klj12.2e2jj778;int forward=-1;int main()while(1)printf(%sn,nexttoken();if(forward=strlen(cbuf)-1)getchar();return 0;int state;int start;char*nexttoken()char c;state=12;while(1)switch(state)case 12:c=nextchar();start=forward;if(isdigit(c)state=13;elsenext();break;case 1
20、3:c=nextchar();if(isdigit(c)state=13;else if(c=e|c=E)state=16;else if(c=.)state=14;else state=19;break;case 14:c=nextchar();if(isdigit(c)state=15;break;case 15:c=nextchar();if(isdigit(c)state=15;else if(c=e|c=E)state=16;else state=19;break;case 16:c=nextchar();if(isdigit(c)state=18;else if(c=+|c=-)s
21、tate=17;break;case 17:c=nextchar();if(isdigit(c)state=18;break;case 18:c=nextchar();if(isdigit(c)state=18;else state=19;break;case 19:back();return gettoken();char nextchar()forward+;return cbufforward;void back()forward-;void next()forward+;char token_buf128;char*gettoken()int i,j=0;for(i=start;i=f
22、orward;i+)token_bufj+=cbufi;token_bufj=message;return token_buf;词法分析(2)-NFA假定一个输入符号(symbol),可以得到2个或者2个以上的可能状态,那么这个finite automaton就是不确定的,反之就是确定的。例如:这就是一个不确定的无限自动机,在symbol a输入的时候,无法确定状态应该转向0,还是1不论是确定的finite automaton还是非确定的finite automaton,它们都可以精确的描述正规集(regular sets)我们可以很方便的把正规表达式(regular expressions)
23、转换成为不确定finite automaton 2.NFA(Nondeterministic Finite Automaton)非确定的无限自动机,我们用NFA这个术语表示,它是一个数学模型(model):1.一个关于状态的集合S 2.一个关于输入符号(input symbols)的集合3.函数move:(状态,符号)-P(S)4.一个开始状态s0,是一个唯一的状态5.一个结束(接受)状态集合F注意,P(S),表示S的幂集。在NFA中,input symbol可以为转换函数(transition function)的含义就是,一个确定的状态已经从这个状态出发的一条边的标签(符号symbol),
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 词法分析器 词法 分析器

链接地址:https://www.31ppt.com/p-4990394.html