X-Paxos — 阿里巴巴的高性能分布式强一致Paxos独立基础库

Posted 2021-04-17 阿里云数据库

1

引言

Paxos（分布式一致性算法）作为分布式系统的基石，一直都是计算机系统工程领域的热门话题。Paxos号称是最难理解的算法，其实现真的这么困难么？“X-Paxos”是阿里巴巴数据库团队面向高性能、全球部署以及阿里业务特征等需求，实现的一个高性能分布式强一致的Paxos独立基础库。X-Paxos具体又有哪些优势，能给现有的系统带来什么用的收益呢？

2

背景

分布式一致性算法（Consensus Algorithm）是一个分布式计算领域的基础性问题，其最基本的功能是为了在多个进程之间对某个（某些）值达成一致（强一致）；进而解决分布式系统的可用性问题（高可用）。Paxos是最重要的分布式一致性算法，很多人都把它作为“分布式一致性协议”的代名词（Mike Burrows, inventor of the Chubby service at Google, says that “there is only one consensus protocol, and that’s Paxos”）。

关于Paxos的历史和原理，已经有很多经典的论文可以参考，也有厂内外的文章有详细的描述，本文就不再重复了。感兴趣的同学可以阅读下这些论文[1,2,3,4]。

3

业内

虽然Paxos的理论提出已经17年了，从第一个Paxos的工业实现到现在也已经11年了，但是直到近几年，无论是顶级会议，还是业内，Paxos相关的文章和项目还是层出不穷。

转向业内，虽然使用了Paxos及各种变种的产品已经层出不穷；但是真正工业级的，独立的，Paxos基础库还是相当的少见：Google并没有开源其任何Paxos基础库（连包含Paxos的项目都没有开源过）; Facebook也没有公布过包含Paxos的产品; Apache有Zookeeper，但是其协议并不能支持一个高吞吐的状态机复制，且并没有提供独立的第三方库，可供快速接入。在Github上能找到的Paxos的独立库，star最高的是腾讯于去年开源的phxpaxos（后文会作为竞品进行详细对比）。

因此到目前为止业内还鲜有成熟可靠的，可供快速使用的独立第三方Paxos库，开源的Paxos生态也尚未成熟。

4

X-Paxos

4.1

愿景

我们的初衷并不是要做一个Paxos的公共库，X-Paxos诞生于阿里巴巴的分布式数据库AliSQL X-Cluster，但X-Paxos并不属于AliSQL X-Cluster。Paxos是分布式系统的基石，X-Paxos可用于解决各种各样的分布式系统中的一致性问题。因此在整个分布式数据库的设计之初，我们就独立设计了分布式一致性协议模块，并把它独立为X-Paxos。X-Paxos为AliSQL X-Cluster解决了分布式一致性问题，同样可以快速赋予其他系统分布式一致性能力。分布式一致性需求，并不是AliSQL X-Cluster所特有的，很多系统都存在这高可用和强一致的需求，我们把Paxos的能力独立成一个基础库，希望能够把这个能力带给更多的其他系统。例如：团队内的同学把X-Paxos融入到单机KV数据库RocksDB中，快速实现了一个分布式KV引擎。CNZZ团队把X-Paxos融入到业务存储系统中，构建全新的分布式强一致存储服务。

同时也正是AliSQL X-Cluster，成就了X-Paxos。Google的论文《Paxos made live》中有一段话说的很好，大意是说：Paxos从理论到现实世界的实现之间有巨大的鸿沟，在真正实现一个Paxos的时候，往往需要对Paxos的经典理论做一些扩展，（尤其是在实现一个高性能的Paxos的时候，扩展点就更多了，可以参考后文的功能增强和性能优化），这往往会导致真正的Paxos实现其实都是基于一个未被完全证明的协议。这也就是传说中，理论证明一个Paxos的实现，比实现这个Paxos还要难的原因了。因此一个成熟的Paxos实现很难独立产生，往往需要和一个系统结合在一起，通过一个或者多个系统来验证其可靠性和完备性。这也是为什么大部分成熟的Paxos案例都是和分布式数据库相结合的，例如最早的Paxos实现（Chubby），当前的主要Paxos实现（Google的MegaStore、Spanner，AWS的DynamoDB、S3等）。而X-Paxos正是依托于AliSQL X-Cluster验证了其可靠性和完备性。

我们的愿景是希望能够提供一个经过实践检验的，高度成熟可靠的独立Paxos基础库。使得一个后端服务能够通过简单的接入，就能拥有Paxos算法赋予的强一致、高可用、自动容灾等能力。真正将晦涩难懂的Paxos，变得平易近人，带入千万家。

4.2

架构

X-Paxos的整体架构如下图所示，主要可分为网络层、服务层、算法模块、日志模块4个部分。

网络层

网络层基于阿里内部非常成熟的网络库libeasy实现。libeasy的异步框架和线程池非常契合我们的整体异步化设计，同时我们对libeasy的重连等逻辑进行了修改，以适应分布式协议的需求。

服务层

服务层是驱动整个Paxos运行的基础，为Paxos提供了事件驱动，定时回调等核心的运行功能，每一个Paxos实现都有一个与之紧密相关的驱动层，驱动层的架构与性能和稳定性密切相关。

X-Paxos的服务层是一个基于C++11特性实现的多线程异步框架。常见的状态机/回调模型存在开发效率较低，可读性差等问题，一直被开发者所诟病；而协程又因其单线程的瓶颈，而使其应用场景受到限制。C++11以后的新版本提供了完美转发（argument forwarding）、可变模板参数（variadic templates）等特性，为我们能够实现一种全新的异步调用模型提供了可能。

例如这是X-Paxos内实际的一行创建单次定时任务的代码

new ThreadTimer(srv_->getThreadTimerService(), srv_, electionTimeout_, ThreadTimer::Oneshot,                &Paxos::checkLeaderTransfer, this, targetId, currentTerm_.load(), log_->getLastLogIndex());

以上一行程序，包含了定时器的创建，任意回调函数的设置，回调函数参数的转发，并保证在回调触发后（Oneshot）内存的自动回收。同时服务层支持嵌套回调，即在回调函数中再一次生成一个定时/即时任务，实现一个有限次定时循环逻辑。

算法模块

X-Paxos当前的算法基于unique proposer的multi-paxos[3]实现，大量理论和实践已经证明了基于unique proposer的multi-paxos，性能好于multi-paxos/basic paxos，当前成熟的基于Paxos的系统，大部分都采用了这种方式。

算法模块的基础功能部分本文不再重复，感兴趣的同学可以参考相关论文[1,2,4]。在基础算法的基础上，结合阿里业务的场景以及高性能和生态的需求，X-Paxos做了很多的创新性的功能和性能的优化，使其相对于基础的multi-paxos，功能变的更加丰富，在多种部署场景下性能都有明显的提升。下一章中，将对这些优化进行详细的介绍。

日志模块

日志模块本是算法模块的一部分，但是出于对极致性能要求的考虑，我们把日志模块独立出来，并实现了一个默认的高性能的日志模块；有极致性能以及成本需求的用户，可以结合已有的日志系统，对接日志模块接口，以获取更高的性能和更低的成本。这也是X-Paxos作为高性能独立库特有的优势，下一章会进行详细的介绍。

4.3

功能增强

>>结合广泛的业务场景，构建开放的生态

1. 在线添加/删除节点，在线转让leader

X-Paxos在标准multi-paxos的基础上，支持在线添加/删除多种角色的节点，支持在线快速将leadership节点转移到其他节点（有主选举）。

2. 策略化多数派和权重化选主

集团及蚂蚁目前的多地有中心的架构，很多应用因其部署的特点，往往要求其在未发生城市级容灾的情况下，仅在中心写入数据库，或调用其他分布式服务；同时又要求在发生城市级容灾的时候（同一个城市的多个机房全部不可用），可以完全不丢失任何数据的情况下，将写入点切换到非中心。
而经典的multi-paxos并不能满足这些需求。经典理论中，多数派强同步以后即可完成提交，而多数派是非特定的，并不能保证某个/某些节点一定能得到完整的数据，并激活服务。在实际实现中，往往地理位置较近的节点会拥有强一致的数据，而地理位置较远的节点，一直处于非强一致节点，在容灾的时候永远无法激活为主节点，形同虚设。
同时当中心单节点出现故障需要容灾的时候，往往需要将主节点就近切换到同中心的另外一个节点；由于应用在多地的部署往往是非对称的原因，才出现单个region全挂的时候，写需要将主节点切到特定的region内。这些需求都需要Paxos在选主的时候，可以由用户指定规则，而经典理论中同样没有类似的功能，添加权重也需要保证Paxos的正确性。

X-Paxos在协议中实现了策略化多数派和权重化选主。基于策略化多数派，用户可以通过动态配置，指定某个/某些节点必须保有强一致的数据，在出现容灾需求的时候，可以立即激活为主节点。基于权重化选主，用户可以指定各个节点的选主权重，只有在高权重的节点全部不可用的时候，才会激活低权重的节点。

3. 节点角色定制化（Proposer/Accepter/Learner的独立配置）

在经典的multi-paxos实现中，一般每个节点都包含了Proposer/Accepter/Learner三种功能，每一个节点都是全功能节点。但是某些情况下我们并不需要所有节点都拥有全部的功能，例如：

1. 经典的三个副本部署中，我们可以裁剪其中一个节点的状态机，只保留日志（无数据的纯日志节点，但是在同步中作为多数派计算），此时我们需要裁剪掉协议中的Proposer功能（被选举权），保留Accepter和Learner功能。

2. 我们希望可以有若干个节点可以作为下游，订阅/消费协议产生的日志流，而不作为集群的成员（不作为多数派计算，因为这些节点不保存日志流），此时我们裁剪掉协议的Proposer/Accepter 功能，只保留Learner功能

当然还有其他的组合方式，通过对节点角色的定制化组合，我们可以开发出很多的定制功能节点，即节约了成本，又丰富了功能。

4. Witness SDK

基于上节节点角色定制化中的单独Learner角色的功能，引发了无穷的想象力。Learner角色，可以抽象成一个数据流订阅者（Witness Node），整个集群中可以加入无数个订阅者，当有新的日志被提交的时候，这些订阅者会收到其关心的日志流，基于订阅者功能，我们可以让一个集群很容易的实现下游订阅消费，日志即时备份，配置变更推送等等的功能。

因此我们把Learner角色单独封装成了一个SDK。基于这个SDK，用户可以快速的为自己的集群添加，订阅注册，流式订阅定功能；结合特定的用途打造一个完成的生态。
例如日志流SDK在AliSQL X-Cluster中打造的生态：

采用了X-Paxos也可以利用Witness SDK快速实现分布式系统和下游的其他系统的对接，形成一个完整的生态。
我们拿mysql的日志（binlog）备份来举例：

• 普通方案

• 每隔固定时间Tb，将MySQL生成的binlog文件备份到永久备份系统（OSS、S3等）

• RPO (Recovery Point Objective)为 Tb

• SDK方案

• X-Paxos支持由SDK订阅增量日志，备份系统只需要简单的实现从SDK流到OSS流的对接，即可实现流式备份

• RPO (Recovery Point Objective)为 0

  
  

除备份以外，Witness SDK在下游流式订阅（DRC）、自封闭高可用系统（X-Driver）、异步只读备库等方面都有实战案例，更多的应用案例在不断的添加中。

4.4

性能优化

>>我们一直坚信网络延迟不应该影响吞吐

1. Batching & Pipelining

Paxos除了设计之初的强一致和高可用以外，其高性能也是至关重要的，尤其是应用于AliSQL X-Cluster这种高性能分布式数据库的时候，对协议的吞吐，延迟都提出了很高的要求。同时作为可全球部署的分布式一致性协议，在高延迟下的性能挑战变得尤为重要。

X-Paxos针对高延迟网络做了大量的协议优化尝试和测试，并结合学术界现有的理论成果[5,6,7]通过合理的Batching和Pipelining，设计并实现了一整套自适应的针对高延迟高吞吐和低延迟高吞吐网络的通信模式，极大的提升了X-Paxos的性能（对比见下节）。类似的优化在同类竞品中还非常的罕见。

Batching是指，将多个日志合并成单个消息进行发送；Batching可以有效的降低消息粒度带来的额外损耗，提升吞吐。但是过大Batching容易造成单请求的延迟过大，导致并发请求数过高，继而影响了吞吐和请求延迟。

Pipelining是指在上一个消息返回结果以前，并发的发送下一个消息到对应节点的机制，通过提高并发发送消息数量（Pipelining数量），可以有效的降低并发单请求延迟，同时在transmission delay小于propagation delay的时候（高延迟高吞吐网络），有效提升性能。

经推导可知 Batching（消息大小:M）和Pipeling（消息并发:P）在如下关系下，达到最高吞吐

M/R * P = D

其中R为网络带宽，D为网络传播延迟（propagation delay，约为RTT/2）
X-Paxos结合以上理论，通过内置探测，针对不同节点的部署延迟，自适应的调整针对每个节点的Batching和Pipeling参数，达到整体的最大吞吐。

Pipeling的引入，需要解决日志的乱序问题，特别是在异地场景下，window加大，加大了乱序的概率。X-Paxos实现了一个高效的乱序处理模块，可以对底层日志实现屏蔽乱序问题，实现高效的乱序日志存储。

2. 多线程，全异步的Paxos库

由于Paxos的内部状态复杂，实现高效的单实例多线程的Paxos变成一个非常大的挑战。无论我们上面提到的github中star最多的phxpaxos，还是Oracle MySQL Group Replication中使用的xcom，都是单线程的实现。phxpaxos采用了单分区单线程，多实例聚合的方式提升总吞吐，但是对单分区的性能非常的有限；而xcom是一个基于协程的单线程实现。单线程的Paxos实现，在处理序列化/反序列化，分发、发包等逻辑的时候都为串行执行，性能瓶颈明显。

X-Paxos完全基于多线程实现，可以在单个分区Paxos中完全的使用多线程的能力，所有的任务都有通用的woker来运行，消除了CPU的瓶颈。依赖于服务层的多线程异步框架和异步网络层，X-Paxos除了必要的协议串行点外，大部分操作都可以并发执行，并且部分协议串行点采用了无锁设计，可以有效利用多线程能力，实现了Paxos的单分区多线程能力，单分区性能远超竞品，甚至超过了竞品的多分区分区性能。

3. Locality Aware Content Distribution

基于unique proposer的分布式系统的存在的一个瓶颈点就是主节点是唯一的内容输出源，当集群存在大量节点的时候，主节点的大量网络收发工作会导致主节点的负载过大，引发CPU和带宽的瓶颈；在全国/全球部署的时候，所有节点和主节点之间的直接通信会造成跨region之间的长传/国际链路的带宽占用过大。
X-Paxos是旨在解决全球分布式强一致问题的Paxos独立库，在设计之初就考虑到了这个问题。X-Paxos在稳态运行时会感知各个节点之间的网络延迟（物理距离），并形成级联拓扑，有效降低主节点的负载，降低长传链路的带宽使用；而在有节点异常的时候，又会自动重组拓扑，保证各个存活节点间的同行的正常进行。同时X-Paxos支持有业务来设定重组拓扑的规则，业务可以根据自己APP的部署架构和延迟特性来针对性的设置拓扑重组规则。

4. 可插拔日志

X-Paxos和现有的大部分paxos库很大的不同点就是X-Paxos支持可插拔的日志模块。日志模块是Paxos中一个重要的模块，它的持久化关系到数据的一致性，它的读写性能很大程度上会影响协议整体的读写性能。当前大部分独立Paxos库都是内置日志模块，并且不支持插拔的。这会带来2个弊端：

1. 默认的日志模块提供通用的功能，很难结合具体的系统做针对性的优化

2. 现有的系统往往已经存在了WAL（Write Ahead Log）,而Paxos协议中需要再存一份。这使得 a)单次commit本地需要sync 2次（影响性能）；b)双份日志浪费了大量的存储

例如：phxpaxos内置的日志模块采用LevelDB，作为日志系统其操作大量冗余，无针对优化，性能堪忧；同时采用phxpaxos的phxsql单节点需要即保存binlog，又保存Paxos log(在独立的phxbinlogsvr中)，严重影响了性能，浪费了存储空间。而采用X-Paxos的AliSQL X-Cluster直接改造了现有的binlog模块，对接到X-Paxos的日志模块，单节点仅一份日志，即降低了存储，又提高了性能。

4.5

分布式正确性验证

对于一个分布式强一致协议来说，正确性是生命线。上文已经提及，一个分布式强一致协议，很难完整的理论证明其正确性，再加上工程实现的问题，困难就更多了。我们从理论和工程2方面用了大量的理论和技术手段来保证X-Paxos的正确性和完备性。

1. Jepsen

• Jepsen是开源社区比较公认的分布式数据库的测试框架。Jepsen验证过包括VoltDB、CockroachDB、Galera、MongoDB、etcd在内的几乎所有的主流分布式数据库/系统，检验出了不少的问题。

• X-Paxos完成了和Jepsen的对接，并验证了各个分布式数据库已有的case。

2. TLA+

• TLA+是Paxos创始人、图灵奖获得者Leslie Lamport老爷子发明的一种形式化规约语言。TLA+专用于设计、建模和验证分布式并发系统。Amazon DynamoDB/S3/EBS和Microsoft Cosmos DB都通过TLA+的模型验证发现了不少问题

• X-Paxos目前已经通过了TLA+的模型验证。

3. 随机异常系统

• 我们搭建了一套自动随机异常验证系统，可以自动化验证各种异常场景下的协议正确性和稳定性。验证X-Paxos在模拟网络丢包、闪断、隔离，磁盘故障等情况下的功能正确和数据一致。

4. 异常回归系统

• X-Paxos拥有一套异常case回归系统，对于曾经出现过或者预期的并发异常case，都会加到异常case库中，进行日常回归验证。同时异常case库也在不断的丰富中。

4.6

竞品分析与对比

XCOM (MySQL Group Replication)

MySQL Group Replication是MySQL官方借鉴Galera的思想，在MySQL上构建分布式强一致集群的一个插件。MySQL Group Replication早期采用的分布式协议是CoroSync，这是由Red Hat开发的基于Totem（The Totem Single-Ring Ordering and Membership Protocol）[8]协议开发的分布式一致性协议库；由于Totem算法本身存在的一些局限性能原因，从MySQL 5.7.9以后，官方采用了自己研发的基于类Paxos(Mencius)[10]的一致性协议库XCOM。
XCOM是MySQL Group Replication的核心组件，称为Group Communication Core[9]。我们分析了XCOM的源码，XCOM内部是一个由纯C语言编译的核心模块以及有C++实现的proxy实现的系统。纯C模块由单线程驱动，依赖协程实现任务调度。因此Client(MySQL Group Replication Plugin)必须用tcp连接向XCOM发送请求。因此XCOM存在如下的不足之处:

1. 单线程驱动，无多线程能力

• 架构决定，很难突破

2. 通信流需要额外的一次TCP协议栈

• 在内存拷贝都要精细计算的应用中，线程间多一次网络通信很难接受

3. XCOM虽然实现了Batching和Pipelining，但是其值均为固定值，很难适应真实的场景

• 官方的文档中也提到了这一点[9]

• 这也使得MySQL Group Replication在跨Region场景中性能很不理想（见AliSQL X-Cluster对比测试）

phxpaxos (phxsql)

phxpaxos是腾讯推出的基于Paxos协议的独立库，其和MySQL结合后推出了phxsql项目，也是基于MySQL实现的分布式强一致MySQL集群。phxpaxos可独立用于其他项目，是目前github上star最多（1000+）的Paxos独立库。关于phxsql的细节本文不再叙述，可以参考（AliSQL X-Cluster的竞品分析部分），我们这里主要分析phxpaxos。phxpaxos也是基于multi-Paxos实现的独立库，其架构上采用单Paxos单线程设计，但是支持多Paxos分区以扩展多线程能力，这种扩展需要多数据进行提前分区。因此phxpaxos的不足之处如下：

1. 单Paxos对象只支持单线程；可支持多Paxos对象，共享网络层

2. 不支持pipelining，在跨Region环境（高延迟）下，几乎不可用

3. 多份日志冗余，基于LevelDB的日子系统性能瓶颈

性能对比

我们还是拿腾讯的phxpaxos作为竞品和我们进行对比（XCOM无独立组件，可间接参考MySQL Group Replication和AliSQL X-Cluster的对比测试结果）
我们分别在a) Region内3节点部署 b) 3个Region各一个节点部署 调节下,以不同的请求大小进行压测。

从上面2个对比图中可以看到：

X-Paxos的同Region性能是phxpaxos的100倍以上

跨Region场景下phxpaxos几乎不可用，而X-Paxos在444Byte（sysbench insert场景单请求大小），性能只有3.5%的下降，几乎不影响吞吐。

5

现状与未来

5.1

现状

目前X-Paxos一期已经发布上线。

基于X-Paxos的集团数据库团队产品AliSQL X-Cluster（兼容MySQL生态的分布式关系型数据库）已在阿里巴巴集团、优酷等多个核心业务中使用，运行稳定。菜鸟、钉钉、蚂蚁等多个业务线在正在上线过程中。

我们和CNZZ团队合作，CNZZ团队为我们打造了JAVA版本的X-Paxos，并将JX-Paxos和分布式存储系统DTS结合，打造了高可用强一致的DTS2，目前已经上线引流，表现稳定。

5.2

未来

Paxos是分布式系统的基石，即使是近几年，学术界关于Paxos的文章，新的演进方向一致在不断的涌现，我们的X-Paxos也会不停的发展，以更好的适应集团内外的需求，未来主要的发展方向如下：

• 高效率，多分区支持

• 基于新的异步框架，实现一个深度底层共享的多分区Paxos

• 多节点强一致读

• 经典的multi-paxos只有在leader上才能提供强一致读，spanner和业界都有一些在多节点上提供强一致读的方案，但还是有比较明显的缺陷。

最后，无论是对Paxos协议/分布式数据库感兴趣的同学，还是想更多的了解或使用X-Paxos的同学，欢迎交流，互相学习！

【参考文件】

[1] The part-time parliament
[2] The Chubby lock service for loosely-coupled distributed systems
[3] Paxos Made Simple
[4] Paxos Made Live - An Engineering Perspective
[5] Everything You Ever Wanted to Know About Message Latency
[6] Adaptive Batching for Replicated Servers
[7] Tuning Paxos for high-throughput with batching and pipelining
[8] The Totem single-ring ordering and membership protocol
[9] Group Replication: A Journey to the Group Communication Core
[10] Mencius: Building Efficient Replicated State Machines for WANs

欢迎加入

阿里巴巴数据库技术