分分钟学会 JS AST,打造自己的编译器

Posted 前端技术江湖

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了分分钟学会 JS AST,打造自己的编译器相关的知识,希望对你有一定的参考价值。

关注“重度前端”

以自己的观点说透一个技术,最好不过带给你启发

仅此而已

助力前端深度学习

━━━━ 



这是一棵树嘛

直奔主题

抽象语法树是js代码另一种结构映射,可以将js拆解成AST,也可以把AST转成源代码。这中间的过程就是我们的用武之地。 利用 抽象语法树(AST) 可以对你的源代码进行修改、优化,甚至可以打造自己的编译工具。其实有点类似babel的功能。咱们就一起学习下怎么玩转 ast。


AST高深的狠吓人?

AST很简单,并没有你想象的那样高深。很多地方都把这个技术给夸大了,什么编译原理,抽象语法树 光看这名字就觉得吓人。当然一项技术总归要起个名字,就像给自己的孩子取名字,肯定要起一个高大上,深有寓意的名字。所以,名字只是一个代号。从名字来看就会让很多人望而却步。但是ast超级简单,但是功能超级强大。

我们能用这个技术做很多有意思的东西,只要你能想到的。

本文术道结合,让你感受到ast的有趣和简单,从此爱上ast,还能根据自己的需要打造自己的编译器。


什么是AST?

ast全称是abstract syntax tree,翻译过来叫-抽象语法树。其实这含两个意思,一个是“抽象”,一个是“树”。抽象表示把js代码进行了结构化的转化,转化为一种数据结构。这种数据结构其实就是一个大的json对象,json我们都熟悉,他就像一颗枝繁叶茂的树。

有树根,有树干,有树枝,有树叶.无论多小多大,都是一棵完整的树。


如何生成AST?

你可以大致的想一下如果亲自实现把js代码转换成结构化的数据我们应该怎么做?

有点像小时候拆解自己的玩具,每个零件之间都有着从属关系。

对于如何生成ast,我们可能会想到分析js代码的规则使用字符串处理、正则匹配等方法,如果对简单的代码处理我们是可以实现的。但是如果能够对随意的一段代码进行处理那就需要考虑非常多的情况。具体如何实现咱们不必过于纠结,这也不是重点。

但最终的实现里我们能想到方法基本都会被用到。我们可以简化理解,也就是对js代码经过了一系列的加工处理,变成了一堆零件或者食材(像老妈给我们做的香喷喷的饭菜,但前提是先准备好菜)。

这个拆解的过程可能较为复杂,所以我们需要用现成方法,直接拿过来用就可以了。

所以我们需要用到esprima、UglifyJS等库,做菜的食材有很多种,所以会存在很多这样的三方库,而我们会使用其中一种就可以了。

先使用esprima 生成 AST,体会一下

代码:

//原材料=源代码
function fun(a,b){

}


结果:

 {
            "type""FunctionDeclaration",//函数声明
            "id": {
                "type""Identifier",//标识符
                "name""fun" //函数名称
            },
            "params": [//函数参数
                {
                    "type""Identifier",//参数标识符
                    "name""a"//参数名称
                },
                {
                    "type""Identifier",
                    "name""b"
                }
            ],
            "body": {//函数体
                "type""BlockStatement",//语句块儿
                "body": []//具体内容为空,因为是空方法
            }
}


AST能做什么?


到这一步你已经可以把js代码转换成一棵结构化的树了,那下一步要做什么呢? 比如在没有树的情况下,你要对代码里的某个代码进行替换。要把所有 console.log给注释掉或者删除,你可能会使用IDE的查找替换或者用node写一个方法,读取文件然后查找替换。

这种方式不够安全也不够科学,稍有不慎就会把代码给搞坏了。

但这个时候你有了结构化代码树,是不是只要对这棵树进行修修剪剪然后把这棵树转换成为js代码就可以了呢?

答案:肯定是可以的。因为树已经发生了变化,修改了树就相当于修改了源码。

怎样操作这棵树呢?我想你应该已经知道了,就是对这json对象进行操作,方法就多了去了,前提是你得有一点点js基础。


又一个问题,怎样把树再转成代码?

脑洞打开,用递归加字符串拼接,这个方法应该是可以的。

但是这棵树不是你生成的,结构特点你并不清楚,成千上万个节点呢?怎么拼接?真要干,那可能得搞得流鼻血。

这就像是食材准备好了,转换成源码的过程就是炒菜的过程。具体的转源码的原理不多说,也不必纠结。使用现成的方法就可以,所以要用到estraverse,escodegen这两个库。

estraverse 可以遍历树的所有节点,省去你对树的递归遍历

escodegen 可以把树再加工转成源代码

过程总结

到这里始终都没有提到任何代码,只是理论了一番,但是相信你已经理解了ast以及ast的作用。然后在述说过程中引出了3个库,有了这三个库就可以对你的js代码进行多样化处理,只要你能想到的。

看图理解整个处理过程:

分分钟学会 JS AST,打造自己的编译器


这个过程简单,清晰,ast简单、有趣、好玩,因为此刻代码可以被你任意的蹂躏了。


实例应用

说的再清楚都不够直观,毕竟都是脑补,不如看代码来的爽快。

这里就拿日常编码中的一些小问题举例,来演示一下AST的使用。

1. 把 == 改为全等 ===

2. 把parsetInt不标准的调用改为标准用法 parseInt(a)-> parseInt(a,10)

看下要处理的源码:


//源码
function fun1() {
    console.log('fun1');
}
function fun2(opt{
    if (opt.status == 1) {
        console.log('1');
    }
    if (opt.status == 2) {
        console.log('2');
    }
}
function fun3(age{
    if (parseInt(age) >= 18) {
        console.log('ok 你已经成年');
    }
}


转成ast,由于转成树后结构非常大,所以这里我只贴了一部分,你也可以到工具页面自己生成下。

{
    "type""Program",
    "body": [
        {
            "type""FunctionDeclaration",
            "id": {
                "type""Identifier",
                "name""fun1"
            },
            "params": [],
            "body": {
                "type""BlockStatement",
                "body": [
                    {
                        "type""ExpressionStatement",
                        "expression": {
                            "type""CallExpression",
                            "callee": {
                                "type""MemberExpression",
                                "computed"false,
                                "object": {
                                    "type""Identifier",
                                    "name""console"
                                },
                                "property": {
                                    "type""Identifier",
                                    "name""log"
                                }
                            },
                            "arguments": [
                                {
                                    "type""Literal",
                                    "value""fun1",
                                    "raw""'fun1'"
                                }
                            ]
                        }
                    }
                ]
            },
            "generator"false,
            "expression"false,
            "async"false
        }
    ]
}


开始实现以上功能

init


//引入工具包
const esprima = require('esprima');//JS语法树模块
const estraverse = require('estraverse');//JS语法树遍历各节点
const escodegen = require('escodegen');//JS语法树反编译模块
//获�取代码ast
const AST = esprima.parseScript(jsCode);

/**
 * 
 * @param {遍历语法树} ast 
 */

function walkIn(ast){
    estraverse.traverse(ast, {
        enter(node) => {
            toEqual(node);//把 == 改为全等 ===
            setParseint(node); //parseInt(a)-> parseInt(a,10)
        }
    });
}


把 == 改为全等 ===


/**
 * 设置全等
 */

function toEqual(node{
    if (node.operator === '==') {
        node.operator = '===';
    }
}


把parseInt改成标准调用


/**
 * 把parseint改为标准方法
 * @param {节点} node 
 */

function setParseint(node{
    //判断节点类型 方法名称,方法的参数的数量,数量为1就增加第二个参数
    if (node.type === 'CallExpression' && node.callee.name === 'parseInt' && node.arguments.length===1){

        node.arguments.push({//增加参数,其实就是数组操作
            "type""Literal",
            "value"10,
            "raw""10"
        });
    }
}

//生成目标代码
const code = escodegen.generate(ast);
//写入文件.....
//....你懂的


代码不多,需求简单,但已足够能说明整个处理过程以及ast的强大。 ast的节点很多,有些凌乱,送你一首歌【汪峰的无所谓】,操作的时候只要关心你自己的需求就可以,不需要对所有的节点都搞明白。按需处理就可以。


AST技术的应用

虽然平时用不到ast,但又时刻都在使用ast技术。家喻户晓、无人不知的babel,webpack,还有jd taro等都把ast用的淋漓尽致,脱离了ast他们就跪了。


AST这么简单,好没技术含量

AST没有技术含量吗?怎么可能呢,如果真这么认为怕是会被笑掉大牙的。如果仅仅停留在使用层面的话,理解到这步已经基本可以了,只要是你能对这棵树做修剪就可以对源代码做手脚。

另外ast怎样生成的?怎样把ast转换成源码的?这就有点高深了。会使用就像是在山脚下能看到的风景有限,理解了背后原理机制就像是爬上了山顶,别样的风景尽收眼底。不过上不上山看个人兴趣,有兴趣的同学可以去看源码、做研究,这里就不再多说,因为我也不知道。哈哈哈


总结

本文主要介绍了

什么是ast:

ast其实就把js代码进行抽象为一种json结构;

ast的用途:

利用ast可以方便的优化和修改代码,还能打造自己的编译器;

然后通过具体的示例演示了怎样操作ast,最终是希望你能对ast有一个系统全局的认识和理解并能够利用ast打造自己的编译工具。

演示代码下载,欢迎star

https://github.com/bigerfe/zdqd-demos





自家观点,欢迎打脸

原创不易,请多鼓励


分分钟学会 JS AST,打造自己的编译器

 关注-重度前端--助力深度学习

用自己的观点说透一个技术

用架构的思维完善一个观点

尽全力给你启发

为web前端同行提供有价值、有深度的技术内容

官网:http://bigerfe.com

分分钟学会 JS AST,打造自己的编译器

理解 | 分享 | 启发


分分钟学会 JS AST,打造自己的编译器
给个好评,点个好看

 

以上是关于分分钟学会 JS AST,打造自己的编译器的主要内容,如果未能解决你的问题,请参考以下文章

打造企业自己代码规范IDEA插件(中)

JS 引擎基础之 Shapes and Inline Caches

干货:让你分分钟学会 JS 闭包

21分钟学会写编译器

js——作用域和闭包

Vue.js 源码目录设计