深入V8引擎-AST

Posted 2022-03-08 qh-jimmy

　　先声明一下，这种长系列的大块头博客只能保证尽可能的深入到每一行源码，有些代码我不乐意深究就写个注释说明一下作用。另外，由于本地整理的比较好，博客就随心写了。

　　整个Compile过程目前只看到asmjs之前，简单的过了几遍，大部分方法没有点进去看，实在是太复杂了。上一篇的结尾指出了AST的入口，也就是命名空间parsing的一个公共方法，如下。

bool ParseProgram(ParseInfo* info, Isolate* isolate) 
  // ...
  /**
   * 生成一个Parser实例
   * 调用内部方法启动转换
   */
  Parser parser(info);
  FunctionLiteral* result = nullptr;
  /**
   * 转换AST后将结果赋值给ParseInfo的literal_
   */
  result = parser.ParseProgram(isolate, info);
  info->set_literal(result);
  // ...
  return (result != nullptr);

　　所需要关心的核心代码就是这些，非常简单，Parser对象的初始化属性非常多，这里就不列出来了。

　　接下来进入第二个核心方法，即ParseProgram。

FunctionLiteral* Parser::ParseProgram(Isolate* isolate, ParseInfo* info) 
  // ...
  /**
   * scanner_为Parser类的一个私有属性
   * 这里仅仅进行初始化
   */
  scanner_.Initialize();
  FunctionLiteral* result = DoParseProgram(isolate, info);

  // ...
  return result;

　　同样，所需要关心代码只有两行，其中第一步则是启动了scanner的初始化，第二步则是开始全面解析。

　　Scanner包含scanner、scanner-character-strams两个部分，其中stream则是经过初步处理的源String，必须转换后才能进行解析。处理的过程在之前省略的代码中，这里稍微给出大概的转换流程。

bool ParseProgram(ParseInfo* info, Isolate* isolate) 
  // ...
  /**
   * 1、info->script()返回的是字符串的描述信息 source是Local<String>类型的源字符串
   * 2、ScannerStream是scanner-character-streams头文件的类 内部方法均为静态类型 可以直接调用
   * 3、返回的具体类型根据String类型不同而不同 但是由于均继承于Utf16CharacterStream 所以直接用父类接
   */
  Handle<String> source(String::cast(info->script()->source()), isolate);
  std::unique_ptr<Utf16CharacterStream> stream(ScannerStream::For(isolate, source));
  info->set_character_stream(std::move(stream));
  // ...


/**
 * 有四种特殊的String类型 分别new不同的子类
 * ScannerStream::For(isolate, data, 0, data->length());
 */
Utf16CharacterStream* ScannerStream::For(Isolate* isolate, Handle<String> data, int start_pos, int end_pos) 
  size_t start_offset = 0;
  // ...
  if (data->IsSeqOneByteString()) 
    return new BufferedCharacterStream<OnHeapStream>(
        static_cast<size_t>(start_pos), Handle<SeqOneByteString>::cast(data),
        start_offset, static_cast<size_t>(end_pos));
  

　　常规的字符串一般都是OneByteString，这里就不细讲了。最后返回一个特殊Stream类，其属性记录字符串的长度、当前的解析进度、解析的开始与结束标记等等。

　　将字符串转换后，就可以利用Scanner来进行逐步解析，在此之前，需要对Scanner类有一个简单的了解，如下。

/**
 * Scanner类
 * 跟Utf16CharacterStream一个文件
 */
class V8_EXPORT_PRIVATE Scanner 
  public:
    // 返回next_的token类型
    Token::Value peek() const  return next().token; 
    // 返回current_的位置信息
    const Location& location() const  return current().location; 
  private:
    // 当前字符的Unicode编码 -1表示结尾(typedef int32_t uc32)
    uc32 c0_;
    TokenDesc* current_;    // desc for current token (as returned by Next())
    TokenDesc* next_;       // desc for next token (one token look-ahead)
    TokenDesc* next_next_;  // desc for the token after next (after PeakAhead())
    // 从Handle<String>转换后的类型 负责执行解析的实际类
    Utf16CharacterStream* const source_;

　　选取了一些比较简单的属性和方法，Scanner内部有三个游标属性负责遍历字符串，分别是current_、next_、next_next_，字面意思理解就行了。source_则是之前说的转换Stream类，所有的解析实际上都是调用这个属性的方法。而两个结构体TokenDesc、Location也非常重要，一个负责词法描述，一个负责记录词法位置信息，如下。

/**
 * 词法结构体
 * 每一个TokenDesc代表单独一段词法
 */
struct TokenDesc 
  /**
   * 词法所在位置
   * 该结构体比较简单 就不展开了 两个值代表起始、结束位置
   * 例如sample中 "‘Hello‘ + ‘ World‘" ‘Hello‘会被解析为TOKEN::STRING location为0, 7
   */
  Location location = 0, 0;
  /**
   * 字符串词法相关
   */
  LiteralBuffer literal_chars;
  LiteralBuffer raw_literal_chars;
  /**
   * 词法的枚举类型
   * 例如 ‘(‘ 是 TOKEN::LPAREN ‘===‘ 是 TOKEN::EQ_STRICT
   * 所有类型可见token.h
   */
  Token::Value token = Token::UNINITIALIZED;
  MessageTemplate invalid_template_escape_message = MessageTemplate::kNone;
  Location invalid_template_escape_location;
  // 小整数
  uint32_t smi_value_ = 0;
  bool after_line_terminator = false;

　　通过这个结构体和一些方法，就能完整的将源字符串逐步转换为抽象语法树。但是实际转换过程非常复杂，分支极多，后面再继续探究。