三词法分析

Posted 2023-05-04

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了三词法分析相关的知识，希望对你有一定的参考价值。

词法分析

词法分析基于正则文法进行的，即识别的单词是该类文法的句子
词法分析的任务是识别单词
单词：保留字、标识符、常数、运算符、分界符
标识符是语法概念，名字是语义概念

词法分析器

词法分析器用于识别单词
词法分析程序，接受输入的源程序，输出结果是单词的种别编码和单词的属性值
扫描器所完成的任务是从字符串形式的源程序中识别出一个个具有独立含义的最小语法单位即单词
词法分析器的结构：预处理子程序、扫描缓冲区、扫描器

有限自动机

确定的有限自动机 \$DFA(Deterministic ~\\ Finite ~\\ Automata)\$

非确定的有限自动机 \$NFA(Nondeterministic ~\\ Finite ~\\ Automata)\$

\$\\star NFA\$ 和 \$DFA\$ 比较

\$DFA\$ 是 \$NFA\$ 的特殊形式
\$DFA\$ 初态唯一，\$NFA\$ 可以有多个初态
\$DFA\$ 和 \$NFA\$ 都可以有多个接受状态(终态)
\$DFA\$ 的状态转换函数是单值映射，\$NFA\$ 的状态转换函数是多值映射
\$DFA\$ 后继状态唯一，\$NFA\$ 后继状态不一定唯一
\$DFA\$ 任何状态都没有 \$ε\$ 转换，\$NFA\$ 可以有 \$ε\$ 转换

构造与某一正规式等价的DFA
解题步骤：

根据正规式画出对应状态的状态转换图
根据状态转换图画出对应状态转换矩阵
根据状态转换矩阵得到重命名的状态转换矩阵 (子集构造算法)
根据重命名状态转换矩阵得出 \$DFA\$

DFA化简(最小化)
解题步骤：

划分终态组和非终态组
若读入某个字符，得到的后继状态不在同一个集合里，就继续划分
合并等价状态
画出新的 \$DFA\$

题型

1. 设计正规式

给出下面正规式表达式

以01结尾的二进制数串
解：(0|1)*01
能被5整除的十进制整数
解：(1|2|3|4|5|6|7|8|9)(0|1|2|3|4|5|6|7|8|9)*(0|5)|(0|5)
包含奇数个1或奇数个0的二进制数串
解：0*1(0|10*1)*|1*0(1|01*0)*
不包含子串abb的由a和b组成的符号串的全体
解：b*(a|ab)*
每个1都有0直接跟在右边
解：(0|10)*

$\\star\\star\\star$2. 正规式构造 \$NFA\$ ，由 \$NFA\$ 确定化为 \$DFA\$ ，\$DFA\$ 的化简

构造下列正规式相应的NFA，确定化为 \$DFA\$ ，并且对 \$DFA\$ 化简

1(0∣1)*101
解：
\$NFA\$ :

状态转换矩阵：

I 0 1

1 \$\\emptyset\$ 2

2 2 2,3

2,3 2,4 2,3

2,4 2 2,3,5

2,3,5 2,4 2,3

重命名后的状态转换矩阵：

I 0 1

A \$\\emptyset\$ B

B B C

C D C

D B E

E D C

确定化后的 \$DFA\$ ：

1.非终态组：A,B,C,D ，终态组：E
2.A,B,C,D,E
3.A,B,C,D,E
4.A,B,C,D,E
化简后的 \$DFA\$ ：

I	0	1
1	\\(\\emptyset\\)	2
2	2	2,3
2,3	2,4	2,3
2,4	2	2,3,5
2,3,5	2,4	2,3

I	0	1
A	\\(\\emptyset\\)	B
B	B	C
C	D	C
D	B	E
E	D	C

a*(b|a)(a|b)*ba
解：
\$NFA\$ :
!

状态转换矩阵：

I a b

1 1,2 2

1,2 1,2 2,3

2 2 2,3

2,3 2,4 2,3

2,4 2 2,3

重命名后的状态转换矩阵：

I a b

A B C

B B D

C C D

D E D

E C D

确定化后的 \$DFA\$ ：
!

1.非终态组：A,B,C,D ，终态组：E
2.A,B,C,D,E
3.A,B,C,D,E

化简后的状态转换矩阵：

I a b

A B B

B B C

C D C

D B C

化简后的 \$DFA\$ ：
!

I	a	b
1	1,2	2
1,2	1,2	2,3
2	2	2,3
2,3	2,4	2,3
2,4	2	2,3

I	a	b
A	B	C
B	B	D
C	C	D
D	E	D
E	C	D

I	a	b
A	B	B
B	B	C
C	D	C
D	B	C

GCC编译器原理------编译原理三：编译过程（2-1）---编译之词法分析

二、编译

引用文档：https://blog.csdn.net/chdhust/article/details/9040647

编译过程就是把预处理完的文件进行一系列词法分析、语法分析、语义分析及优化后生成相应的汇编代码文件，这个过程是整个程序构建的核心部分，也是最复杂的部分之一。

现在版本的 GCC 把预编译和编译两个步骤合并成一个步骤，使用 cc1 的程序来完成这两个步骤。

编译过程一般分为 6 个步骤：扫描、语法分析、语义分析、源代码优化、代码生成和目标代码优化，过程如下图：

技术分享图片

2.1 词法分析

源代码程序被输入到扫描器（Scanner），扫描器对源代码进行简单的词法分析，运用类似于有限状态机（Finite State Machine）的算法可以很轻松的将源代码字符序列分割成一系列的记号（Token）。

词法分析产生的记号一般可以分为如下几类：关键字、标识符、字面量（包含数字、字符串等）和特殊符号（如加号、等号）。在识别记号的同时，扫描器也完成了其他工作，比如将标识符存放到符号表，将数字、字符串常量存放到文字表等，以备后面的步骤使用。

词法分析可以使用 lex 工具。

2.2.1 lex 介绍

Lex 是一种生成扫描器的工具。扫描器是一种识别文本中的词汇模式的程序。这些词汇模式（或者常规表达式）在一种特殊的句子结构中定义。

一种匹配的常规表达式可能会包含相关的动作。这一动作可能还包括返回一个标记。当 Lex 接收到文件或文本形式的输入时，它试图将文本与常规表达式进行匹配。它一次读入一个输入字符，直到找到一个匹配的模式。如果能够找到一个匹配的模式，Lex 就执行相关的动作（可能包括返回一个标记）。另一方面，如果没有可以匹配的常规表达式，将会停止进一步的处理，Lex 将显示一个错误消息。

Lex 和 C 是强耦合的。一个 .lex 文件（Lex 文件具有 .lex 的扩展名）通过 lex 公用程序来传递，并生成 C 的输出文件。这些文件被编译为词法分析器的可执行版本。

常规表达式是一种使用元语言的模式描述。表达式由符号组成。符号一般是字符和数字，但是 Lex 中还有一些具有特殊含义的其他标记。下面两个表格定义了 Lex 中使用的一些标记并给出了几个典型的例子。

字符	含义
A-Z，0-9， a-z	构成了部分模式的字符和数字。
.	匹配任意字符，除了。
-	用来指定范围。例如：A-Z 指从 A 到 Z 之间的所有字符。
[ ]	一个字符集合。匹配括号内的任意字符。如果第一个字符是 ^ 那么它表示否定模式。例如: [abC] 匹配 a， b，和 C中的任何一个。
*	匹配 0个或者多个上述的模式。
+	匹配 1个或者多个上述模式。
?	匹配 0个或1个上述模式。
$	作为模式的最后一个字符匹配一行的结尾。
{ }	指出一个模式可能出现的次数。例如: A{1, 3} 表示 A 可能出现1次或3次。
	用来转义元字符。同样用来覆盖字符在此表中定义的特殊意义，只取字符的本意。
^	否定。
\|	表达式间的逻辑或。
"<一些符号>"	字符的字面含义。元字符具有。
/	向前匹配。如果在匹配的模版中的"/"后跟有后续表达式，只匹配模版中"/"前面的部分。如：如果输入 A01，那么在模版 A0/1 中的 A0 是匹配的。
( )	将一系列常规表达式分组。

表达式例子

常规表达式	含义
joke[rs]	匹配 jokes 或 joker。
A{1,2}shis+	匹配 AAshis, Ashis, AAshi, Ashi。
(A[b-e])+	匹配在 A 出现位置后跟随的从 b 到 e 的所有字符中的 0 个或 1个。

Lex 中的标记声明类似 C 中的变量名。每个标记都有一个相关的表达式。（下表中给出了标记和表达式的例子。）使用这个表中的例子，我们就可以编一个字数统计的程序了。我们的第一个任务就是说明如何声明标记。

声明举例：

标记	相关表达式	含义
数字(number)	([0-9])+	1个或多个数字
字符(chars)	[A-Za-z]	任意字符
空格(blank)	" "	一个空格
字(word)	(chars)+	1个或多个 chars
变量(variable)	(字符)+(数字)(字符)(数字)*

Lex 编程可以分为三步：

以 Lex 可以理解的格式指定模式相关的动作。
在这一文件上运行 Lex，生成扫描器的 C 代码。
编译和链接 C 代码，生成可执行的扫描器。

下面给出一些高级的Lex：

yyin	FILE* 类型。它指向 lexer 正在解析的当前文件。
yyout	FILE* 类型。它指向记录 lexer 输出的位置。缺省情况下，yyin 和 yyout 都指向标准输入和输出。
yytext	匹配模式的文本存储在这一变量中（char*）。
yyleng	给出匹配模式的长度。
yylineno	提供当前的行数信息。（lexer不一定支持。）

yylex()	这一函数开始分析。它由 Lex 自动生成。
yywrap()	这一函数在文件（或输入）的末尾调用。如果函数的返回值是1，就停止解析。因此它可以用来解析多个文件。代码可以写在第三段，这就能够解析多个文件。方法是使用 yyin 文件指针（见上表）指向不同的文件，直到所有的文件都被解析。最后，yywrap() 可以返回 1 来表示解析的结束。
yyless(int n)	这一函数可以用来送回除了前?n? 个字符外的所有读出标记。
yymore()	这一函数告诉 Lexer 将下一个标记附加到当前标记后。