PHP语法分析器:RE2C BISON 总结
在这之前,我曾经尝试过一个项目,就是将我们的PHP代码自动生成so扩展,
编译到PHP中,我叫它 phptoc。
但是由于各种原因,暂停了此项目。
写这篇文章一是因为这方面资料太少,二是把自己的收获总结下来,以便以后参考,如果能明白PHP语法分析
那对PHP源码的研究会更上一层楼地 ^.^…
我尽可能写的通俗易懂些。
这个项目思路源于facebook的开源项目 HipHop .
其实我对这个项目的性能提高50%-60%持怀疑态度,从根本来讲,如果PHP用到APC缓存,它的性能是否低
于HipHop,我还没有做测试,不敢断言。
PHPtoc,我只是想把C程序员解放出来,希望能达到,让PHPer用PHP代码就可以写出接近于PHP扩展性能的一个扩展,
它的流程如下,读取PHP文件,解析PHP代码,对其进行语法分析器,生成对应的ZendAPI,编译成扩展。
进入正题
这里最难的就是语法分析器了,大家应该都知道,PHP也有自己的语法分析器,现在版本用到的是re2c 和 Bison。
所以,我自然也用到了这个组合。
如果要用PHP的语法分析器就不太现实了,因为需要修改zend_language_parser.y和 zend_language_scanner.l 并重新编译,这难度大不说,还可能影响PHP自身。
所以决定重新写一套自己的语法分析规则,这个功能就等于是重写了PHP的语法分析器,当然会舍弃一些不常用的。
re2c && yacc/bison,通过引用自己的对应文件,然后将他们统一编译成一个*.c文件,最后再gcc编译就会生
成我们自己的程序。所以说,他们从根本来讲不是语法分析程序,他们只是将我们的规则生成一个独立的c文
件,这个c文件才是真正的我们需要的语法分析程序,我更愿意叫它 语法生成器。如下图:
注:图中a.c是 扫描器生成的最终代码。。
re2c扫描器,假如我们写的扫描规则文件叫scanner.l,它会将我们写的PHP文件内容,进行扫描,然后根据
我们写的规则,生成不同的token传递给parse。
我们写的(f)lex语法规则,比如我们叫他Parse.y
会通过 yacc/bison编译成一个parse.tab.h,parse.tab.c的文件,parse根据不同的token进行不同的操作
比如我们PHP代码是 “echo 1″;
扫描其中有一个规则:
"echo" {return T_ECHO;}
扫描器函数scan会拿到”echo 1″字符串,它对这一段代码进行循环,如果发现有echo字符串,那么它就作为关键字返回token:T_ECHO,
parse.y和scanner.l会分别生成两个c文件,scanner.c和parse.tab.c,用gcc编译到一起,就成了。
下面会具体的说一说
re2c,关于它的英文文档在 http://re2c.org/manual.html,感兴趣的可以去看看,我也翻译了一个中文版本,
还么有结束,稍后我会放上来。
re2c提供了一些宏接口,方面我们使用,我简单做了翻译,英语水平不好,可能有误,需要原文的可以去上面那个地址查看。
接口代码:
不像其他的扫描器程序,re2c 不会生成完整的扫描器:用户必须提供一些接口代码。用户必须定义下面的宏或者是其他相应的配置。
YYCONDTYPE
用-c 模式你可以使用-to参数用来生成一个文件:使用包含枚举类型的作为条件。每个值都会在规则集合里面作为条件来使用。
YYCTYPE
用来维持一个输入符号。通常是 char 或者unsigned char。
YYCTXMARKER
*YYCTYPE类型的表达式,生成的代码回溯信息的上下文会保存在 YYCTXMARKER。如果扫描器规则需要使用上下文中的一个或多个正则表达式则用户需要定义这个宏。
YYCURSOR
*YYCTYPE类型的表达式指针指向当前输入的符号,生成的代码作为符号相匹配,在开始的地方,YYCURSOR假定指向当前token的第一个字符。结束时,YYCURSOR将会指向下一个token的第一个字符。
YYDEBUG(state,current)
这个只有指定-d标示符的时候才会需要。调用用户定义的函数时可以非常容易的调试生成的代码。
这个函数应该有以下签名:void YYDEBUG(int state,char current)。第一个参数接受 state ,默认值为-1第二个参数接受输入的当前位置。
YYFILL(n)
当缓冲器需要填充的时候,生成的代码将会调用YYFILL(n):至少提供n个字符。YYFILL(n)将会根据需要调整YYCURSOR,YYLIMIT,YYMARKER 和 YYCTXMARKER。注意在典型的程序语言当中,n等于最长的关键词的长度加一。用户可以在/*!max:re2c*/一次定义YYMAXFILL来指定最长长度。如果使用了-1,YYMAXFILL将会在/*!re2c*/之后调用一次阻塞。
YYGETCONDITION()
如果使用了-c模式,这个定义将会在扫描器代码之前获取条件集。这个值,必须初始化为枚举YYCONDTYPE的类型。
YYGETSTATE()
如果-f模式指定了,用户就需要定义这个宏。如果这样,扫描器在开始时为了获取保存的状态,生成的代码将会调用YYGETSTATE(),YYGETSTATE()必须返回一个带符号的整数,这个值如果是-1,告诉扫描器这是第一次执行,否则这个值等于以前YYSETSTATE(s) 保存的状态。否则,扫描器将会恢复操作之后立即调用YYFILL(n)。
YYLIMIT
表达式的类型 *YYCTYPE 标记缓冲器的结尾(YYLIMIT(-1)是缓冲区的最后一个字符)。生成的代码将会不断的比较YYCORSUR 和 YYLIMIT 以决定 什么时候填充缓冲区。
YYSETCONDITION(c)
这个宏用来在转换规则中设置条件,它只会在指定-c模式 和 使用转换规则时有用。
YYSETSTATE(s)
用户只需要在指定-f模式时定义这个宏,如果是这样,生成的代码将会在YYFILL(n)之前调用YYSETSTATE(s),YYSETSTATE的参数是一个有符号整型,被称为唯一的标示特定的YYFILL(n)实例。
YYMARKER
类型为*YYCTYPE的表达式,生成的代码保存回溯信息到YYMARKER。一些简单的扫描器可能用不到。
扫描器,顾名思义,就是对文件扫描,找出关键代码来。
扫描器文件结构:
/* #include 文件*/
/*宏定义*/
//扫描函数
int scan(char *p){
/*扫描器规则区*/
}
//执行scan扫描函数,返回token到yacc/bison中。
int yylex(){int token;char *p=YYCURSOR;//YYCURSOR是一个指针,指向我们的PHP文本内容while(token=scan(p)){//这里会移动指针p,一个一个判断是不是我们上面定义好的scanner...return token;}
}
int main(int argc,char**argv){BEGIN(INITIAL);//YYCURSOR=argv[1];//YYCURSOR是一个指针,指向我们的PHP文本内容,yyparse();
}
BEGIN 是定义的宏
#define YYCTYPE char //输入符号的类型
#define STATE(name) yyc##name
#define BEGIN(n) YYSETCONDITION(STATE(n))
#define LANG_SCNG(v) (sc_globals.v)
#define SCNG LANG_SCNG
#define YYGETCONDITION() SCNG(yy_state)
#define YYSETCONDITION(s) SCNG(yy_state)=s
yyparse函数是在yacc 中定义的,
里面有一个关键宏: YYLEX
#define YYLEX yylex()
它会执行scaner扫描器的yylex
可能会有点绕,重新缕一缕:
在scanner.l中,通过调用parse.y解析器函数yyparse,该函数调用scanner.l的yylex生成关键代码token,yylex
将扫描器返回的
token返回给parse.y,parse根据不同的token执行不同的代码.
举例:
scanner.l
#include “scanner.h”
#include “parse.tab.h”
int scan(char *p){
/*!re2c
<INITIAL>”<?php”([ \t]|{NEWLINE})? {
BEGIN(ST_IN_SCRIPTING);
return T_OPEN_TAG;
}
“echo” {return T_ECHO;
}
[0-9]+ {
return T_LNUMBER;
}
*/
}
int yylex(){
int c;// return T_STRING;
int token;
char *p=YYCURSOR;
while(token=scan(p)){
return token;
}
}int main (int argc,char ** argv){
BEGIN(INITIAL);//初始化
YYCURSOR=argv[1];//将用户输入的字符串放到YYCURSOR
yyparse();//yyparse() -》yylex()-》yyparse()
return 0;
}
这样一个简单的扫描器就做成了,
那解析器呢?
解析器我用的是flex和bison。。。
关于flex的文件结构:
%{
/*
C代码段将逐字拷贝到lex编译后产生的C源文件中
可以定义一些全局变量,数组,函数例程等…
*/
#include
#include “scanner.h”
extern int yylex();//它在scanner.l中定义的。。
void yyerror(char *);
# define YYPARSE_PARAM tsrm_ls
# define YYLEX_PARAM tsrm_ls
%}
{定义段,也就是token定义的地方}
//这就是关键 token程序是根据这是做switch的。
%token T_OPEN_TAG
%token T_ECHO
%token T_LNUMBER
%%
{规则段}
start:
T_OPEN_TAG{printf(“start\n”); }
|start statement
;
statement:
T_ECHO expr {printf(“echo :%s\n”,$3)}
;
expr:
T_LNUMBER {$$=$1;}
%%
{用户代码段}
void yyerror(char *msg){
printf(“error:%s\n”,msg);
}
在规则段中,start是开始的地方,如果 scan识别到PHP开始标签就会返回T_OPEN_TAG,然后执行括号的代码,输出start.
在scanner.l中,调用scan的是个while循环,所以它会检查到php代码的末尾,
yyparse会根据scan返回的标记做switch,然后goto到相应的代码,比如 yyparse.y发现当前的token是T_OPEN_TAG,
它会通过宏 #line 映射到 parse.y所对应 21行,T_OPEN_TAG的位置,然后执行
画个图来说明一下,
那,TOKEN返回给yyparse之后做了什么呢?
为了能直观一些,我用gdb跟踪:
这个时候yychar是258,258是什么?
258是bison自动生成的枚举类型数据。
继续
YYTRANSLATE宏接受yychar,然后返回所对应的值
#define YYTRANSLATE(YYX) \
((unsigned int) (YYX) <= YYMAXUTOK ? yytranslate[YYX] : YYUNDEFTOK)/* YYTRANSLATE[YYLEX] — Bison symbol number corresponding to YYLEX. */
static const yytype_uint8 yytranslate[] =
{
0, 2, 2, 2, 2, 2, 2, 2, 2, 2,
2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
2, 2, 2, 2, 2, 2, 2, 2, 27, 2,
22, 23, 2, 2, 28, 2, 2, 2, 2, 2,
2, 2, 2, 2, 2, 2, 2, 2, 2, 21,
2, 26, 2, 2, 2, 2, 2, 2, 2, 2,
2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
2, 2, 2, 24, 2, 25, 2, 2, 2, 2,
2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
2, 2, 2, 2, 2, 2, 2, 2, 2, 2,
2, 2, 2, 2, 2, 2, 1, 2, 3, 4,
5, 6, 7, 8, 9, 10, 11, 12, 13, 14,
15, 16, 17, 18, 19, 20
};
yyparse拿到这个值,不断地translate,
bison会生成很多用来映射的数组,将最终的translate保存到yyn,
这样bison就能找到token所对应的代码
switch (yyn)
{
case 2:/* Line 1455 of yacc.c */
#line 30 “parse.y”
{printf(“start\n”); ;}
break;
不断循环,生成token逐条执行,然后解析成所对应的zend 函数等,生成对应的op保存在哈希表中,这些不是本文的重点,
就不细说了。
到这里,整体的流程就结束了。。剩下的就是细化的工作,如果有时间,我再继续phptoc :)
链接:http://re2c.org/#projects-that-use-re2c
http://www.gnu.org/software/bison/
PHP语法分析器:RE2C BISON 总结相关推荐
- 词法分析器flex和语法分析器lemon的初步使用
自己手写词法分析器和语法分析器是很麻烦的一件事,而且这里面的逻辑非常复杂很容易出错.flex和lemon就是用来帮助生成词法分析器和语法分析器的,只需要写少量规则代码,就可以生成解析的c代码.现在先不 ...
- 基于flex/bison工具生成sysY2022文法的词法/语法分析器
基于flex/bison工具生成sysY2022文法的词法/语法分析器 本文内容学习借鉴了往届参赛的优秀校友学长学姐的开源作品代码,仅用于学习目的,现分享给大家,如有侵权请联系我删除.我使用的开发环境 ...
- 简易编译器实现(二)使用Bison创建语法分析器
你也可以通过我的独立博客 -- www.huliujia.com 获取本篇文章 简易编译器实现(一)使用Flex创建词法分析器一文介绍了编译器的概念和七个阶段,并说明了如何使用Flex创建词法分析器. ...
- 《编译原理》实验报告——基于YACC的TINY语法分析器的构建
一.实验要求 运用YACC,针对TINY语言,构造一个语法分析器.给出实验方案,实施并描述结果. 二.实验方案 (1)设计基于LEX的TINY词法分析器 (2)设计基于YACC的TINY语法分析器 ( ...
- 构造可配置词法语法分析器生成器(上)
本文为笔者原创,转载请注明出处 http://blog.csdn.net/xinghongduo 前言 源程序在被编译为目标程序需要经过如下6个过程:词法分析,语法分析,语义分析,中间代码生成,代码优 ...
- 编译原理实验五:用Yacc设计语法分析器1
所有实验的源代码:点此下载 实验目的: 学习如何使用Yacc设计一个语法分析器,并与用lex写的词法分析器链接起来. 实验内容: 使用yacc为实验2所给的语言写一个语法分析器(你可以重新设计该语言的 ...
- java语言生成语法分析_语法分析器自动生成工具一览
最近打算重做以前的一个留下遗憾的工作,当中的一项小任务就是要求编写一个简易SQL语言的语法分析器. 本科的<编译原理>课程依稀在我脑中留下些许映象.当初的课程大作业是写一个叫Dicuf(貌 ...
- 递归下降文法C语言实验报告,递归下降语法分析器实验报告.doc
递归下降语法分析器实验报告 编译原理实验报告 题目: 递归下降语法分析器 学 院 计算机科学与技术 专 业 xxxxxxxxxxxxxxxx 学 号 xxxxxxxxxxxx 姓 名 宁剑 指导教师 ...
- 编译原理 - 实验三 - 递归下降语法分析器的调试及扩展
一. 语法分析介绍 语法分析是编译过程的核心部分,它的主要任务是按照程序语言的语法规则,从由词法分析输出的源程序符号串中识别出各类语法成分,同时进行语法检查,为语义分析和代码生成做准备.执行语法分析任 ...
最新文章
- 第十四周项目2-带姓名的成绩单
- [ATF]-ATF启动--BL31跳转到optee和uboot
- Xp下的程序编译成linux,WinXP下打造自己的linux 0.11简易编译环境(原创)
- 下载安装webstrom及激活
- 关于服务网关的几个问题
- DHCP、PNF、SXE、DNS等综合实验
- OpenGL学习之路18---- 点光源
- 给出某个时间段,要求以三十分钟为分割,统计出每三十分钟内数据的数量
- 交通安全管理毕业论文范文
- 【P14】差分输入分立耳机放大器电路V22大改
- 【SpringCloud深入浅出系列】SpringCloud组件之集成Zuul实现过滤器
- 2400万!成都市大数据中心又招标
- Ceph RGW高可用HA集群keepalived+Haproxy
- 分享百度文库推广技巧分享
- vue3 状态管理工具 pinia 使用
- 使用sizeof()计算结构体大小
- 2022年湖北省大数据产业发展规划
- pro unity xl编程手册_UnityProXL编程入门指南资料
- 查看附件html,附件查看器
- 记一次Redis被攻击的事件
热门文章
- 企业新站上线应注意的几个问题
- python语言是一种高级通用编程语言-2019年十大顶级编程语言:会这些的程序员薪资有多高?...
- 可以获取python整数类型帮助的是什么-python数据类型一(重点是字符串的各种操作)...
- python turtle库画图案-Python基础图形绘制库——turtle
- python新手自学-新手自学python
- python中文软件-Python编程软件下载
- python网页爬虫-Python 爬虫网页内容提取工具xpath
- python语言中文社区-Python 之父谈 Python-Go语言中文社区
- python基础教程第二版和第三版哪个好-最好的Python入门教材是哪本?
- 我在学python-你们以为我在学C++?其实我在学 Python