FastCFS 数据一致性模型之基础结构

Posted Huazie

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了FastCFS 数据一致性模型之基础结构相关的知识,希望对你有一定的参考价值。

FastCFS 数据一致性模型之基础结构

本篇文章转载于 FastCFS 作者 余庆 大佬的 FastDFS分享与交流 公众号。

最近忙着 FastCFS v1.2.0 的研发工作,主要对 数据恢复 和 master 任命机制 做了改进,修复了5个稳定性bug,FastCFS 的可靠性和稳定性上了一个新台阶。v1.2.0 的改进工作和数据一致性密切相关,本文将介绍 FastCFS 采用的数据一致性模型及基础结构。

说到数据一致性,大家会想到分布式系统必须符合 CAP理论
一个分布式系统,不可能完全满足 CAP,只能做到其中的两个,即 CAAPCP

一致性(Consistency, C)、可用性(Availability, A)、分区容错性(Partition Tolerance, P)


FastCFS 的目标是支持跑数据库,保证数据一致性是基本要求;保证可用性也是分布式系统的一个基本要求,因此 FastCFS 选择全力做到 CA,弱化 P 但不是放弃 P。严重的网络分区会破坏数据一致性和系统可用性,通常需要人工介入处理异常数据。FastCFS 有数据校验和脑裂修复机制,如果短暂的网络分区没有导致数据不一致的话,FastCFS 完全可以自愈。FastCFSleadermaster 不是基于中心节点,而是以服务器分组为单元自洽的。由此可见 FastCFS 在架构和实现机制上采用分而治之的局部化做法,最大程度地规避了发生网络分区的风险。

FastCFS 对数据分组采用 master/slave 结构,对于服务器分组采用 leader/follower 结构。细心的朋友会有这样的困惑:FastCFS 居然有 leadermaster 两种角色,只要其中一种不就可以了吗?二者都是大家所熟知的概念,我相信业界一定有 leader + master 的做法,但将二者并存于一组服务器,并且以原生方式实现,也许是 FastCFS 的独创。

FastCFS 采用的是数据强一致模型,客户端的更新操作只能在 master 上执行,然后 master 通过 RPC 调用将更新操作同步给 ACTIVE 状态(此状态方可提供在线服务)的 slave。因服务重启或网络严重抖动等异常导致 slave 掉线,slave 将进入数据恢复阶段,追上 master 的数据后,才能切换为ACTIVE状态。

那么引入 leader/follower 目的何在呢?因为一组服务器上通常会包含多个数据分组(为了便于集群扩容会预分配较大的数据分组,比如 1024 个;一组服务器上配置的数据分组建议不少于 64 个),每个数据分组的 master 选举如果按照选举流程来一遍,这个消耗太大。因此 FastCFS 创新地引入 leader 角色,由 leader 直接任命其管辖的若干个数据分组的 master。一句话总结 leadermaster 的产生机制:

leader 通过组内服务器选举产生,而 master 则由 leader 直接任命。

最后小结一下,本文介绍了 FastCFS 采用的数据一致性模型和基础结构,包括 leader/followermaster/slave 两种。后续文章将讲述 FastCFS 保证数据一致性的关键点和核心方案,敬请期待。

以上是关于FastCFS 数据一致性模型之基础结构的主要内容,如果未能解决你的问题,请参考以下文章

FastCFS核心组件及访问方式

FastCFS在eRDMA与传统网络环境下对比测试分享

FastCFS性能碾压Ceph之技术揭晓

FastCFS性能碾压Ceph之技术揭晓

分布式系统理论之基础原理

维度建模的基本概念及过程