MongoDB复制集技术

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了MongoDB复制集技术相关的知识,希望对你有一定的参考价值。

MongoDB复制集技术

第1章 MongoDB复制集简介:

一组MongoDB复制集,就是一组MongoDB进程,这些进程维护同一个数据集合,复制集提供了数据冗余和高等级的可靠性,这是生产部署的基础

1.1 复制集的目的:

保证数据在生产部署是的冗余和可靠性,通过在不同的机器上保存副本来保证数据的不会因为单间损坏而丢失,能够随时应对数据丢失或者机器损坏带来的风险

还可以提高用户读写数据的性能,提高整个系统的负载

1.2 简单介绍:

1.      一组复制集就是一组MongoDB实例掌管同一个数据集,实例可以在不同的机器上面,实例中包含一个主导,接受客户端所有的写入操作,其他都是副本实例,从主服务器上获得数据并保持同步

2.      主服务器很重要,包含了所有的改变操作的日志,但是副本服务器集群包含所有的主服务器数据,因此当主服务器挂掉了,就会在副本服务器上重新选取一个成为主服务器

3.      每个复制集还有一个仲裁者,仲裁者不存储数据,只是负责通过心跳包来确认集群中集合的数量,并在主服务器选举的时候作为仲裁决定结果

1.3 复制集的基本架构:

基本的架构由三台服务器组成,一个三成员的复制集,由三个有数据,或者两个有数据,一个作为仲裁者

1.3.1 三个存储数据的复制集:

主库宕机时,两个从都可以被选为主库

技术分享图片

当主库宕机后,两个从库都会进行竞选,其中一个变为主库,当原主恢复后,作为从库加入当前的复制集群即可

技术分享图片

1.1.1 存在arbiter节点的复制集:

两个正常的主从,及一台arbiter节点

技术分享图片

当主库宕机时,从库成为主,主库修复后,将其加入现有的复制集群即可

技术分享图片

1.1 复制集中成员说明:

成员

说明

Secondary

正常情况下,复制集的Seconary会参与Primary选举(自身也可能会被选为Primary),并从Primary同步最新写入的数据,以保证与Primary存储相同的数据。

Secondary可以提供读服务,增加Secondary节点可以提供复制集的读服务能力,同时提升复制集的可用性。另外,Mongodb支持对复制集的Secondary节点进行灵活的配置,以适应多种场景的需求。

Arbiter

Arbiter节点只参与投票,不能被选为Primary,并且不从Primary同步数据。

比如你部署了一个2个节点的复制集,1Primary1Secondary,任意节点宕机,复制集将不能提供服务了(无法选出Primary),这时可以给复制集添加一个Arbiter节点,即使有节点宕机,仍能选出Primary

Arbiter本身不存储数据,是非常轻量级的服务,当复制集成员为偶数时,最好加入一个Arbiter节点,以提升复制集可用性。

Priority0

Priority0节点的选举优先级为0,不会被选举为Primary

比如你跨机房AB部署了一个复制集,并且想指定Primary必须在A机房,这时可以将B机房的复制集成员Priority设置为0,这样Primary就一定会是A机房的成员。

(注意:如果这样部署,最好将『大多数』节点部署在A机房,否则网络分区时可能无法选出Primary

Vote0

Mongodb 3.0里,复制集成员最多50个,参与Primary选举投票的成员最多7个,其他成员(Vote0)的vote属性必须设置为0,即不参与投票。

Hidden

Hidden节点不能被选为主(Priority0),并且对Driver不可见。因Hidden节点不会接受Driver的请求,可使用Hidden节点做一些数据备份、离线计算的任务,不会影响复制集的服务。

Delayed

Delayed节点必须是Hidden节点,并且其数据落后与Primary一段时间(可配置,比如1个小时)。

Delayed节点的数据比Primary落后一段时间,当错误或者无效的数据写入Primary时,可通过Delayed节点的数据来恢复到之前的时间点。

1.1.1 Priority 节点

作为一个辅助可以作为一个备用,调整选主的权重

技术分享图片

1.1.1 hidden隐藏节点

客户端将不会把读请求分发到隐藏节点上,即使我们设定了读选项,这些隐藏节点将不会收到应用程序的请求,因此隐藏节点一般用与报表节点或者备份节点,延时节点也应该是一个隐藏节点

技术分享图片

1.1.1 Delayed延时节点

延时节点的数据集是延时的,因此它可以帮助我们在人为误操作或其他意外情况下恢复数据

例如当应用升级失败,或者误操作时,我们可以通过延时节点进行恢复数据

技术分享图片

第1章 复制集架构实现:

1.1 准备多实例环境:

mongod用户下操作:

for  i in 280{17..20} ; do

mkdir -p /mongodb/$i/conf 

mkdir -p /mongodb/$i/data 

mkdir -p /mongodb/$i/log

done

1.1.1 编写配置文件:

systemLog:

  destination: file

  path: /mongodb/28017/log/mongodb.log

  logAppend: true

storage:

  journal:

    enabled: true

  dbPath: /mongodb/28017/data

  directoryPerDB: true

  #engine: wiredTiger

  wiredTiger:

    engineConfig:

      # cacheSizeGB: 1

      directoryForIndexes: true

    collectionConfig:

      blockCompressor: zlib

    indexConfig:

      prefixCompression: true

processManagement:

  fork: true

net:

  port: 28017

replication:

  oplogSizeMB: 2048

  replSetName: my_repl

1.1.2 启动实例:

for i in 280{17..20}; do  mongod -f /mongodb/$i/conf/mongod.conf ; done

停止服务命令

for i in 280{17..20}; do  mongod –shutdown -f /mongodb/$i/conf/mongod.conf ; done

1.1.3 配置复制集:

随便登录一台机器执行即可

config = {_id: 'my_repl', members: [

                          {_id: 0, host: '10.0.0.18:28017'},

                          {_id: 1, host: '10.0.0.18:28018'},

                          {_id: 2, host: '10.0.0.18:28019'}]

          }

1.1.4 初始化配置

> rs.initiate(config)

{ "ok" : 1 }

my_repl:OTHER>

my_repl:SECONDARY>

1.2 主从复制测试:

1.2.1 主节点插入数据

db.movies.insert([ { "title" : "Jaws", "year" : 1975, "imdb_rating" : 8.1 },

... { "title" : "Batman", "year" : 1989, "imdb_rating" : 7.6 },

... ] );

BulkWriteResult({

    "writeErrors" : [ ],

    "writeConcernErrors" : [ ],

    "nInserted" : 2,

    "nUpserted" : 0,

    "nMatched" : 0,

    "nModified" : 0,

    "nRemoved" : 0,

    "upserted" : [ ]

})

1.2.2 主节点查看数据

my_repl:PRIMARY> db.movies.find().pretty();

{

    "_id" : ObjectId("5ad6c085a2054234c1597506"),

    "title" : "Jaws",

    "year" : 1975,

    "imdb_rating" : 8.1

}

{

    "_id" : ObjectId("5ad6c085a2054234c1597507"),

    "title" : "Batman",

    "year" : 1989,

    "imdb_rating" : 7.6

}

1.2.3 登录从库打开从库可读配置

默认从库是不允许读操作的

my_repl:SECONDARY> rs.slaveOk();

my_repl:SECONDARY> db.movies.find().pretty();

{

    "_id" : ObjectId("5ad6c201afd69acbffc224f5"),

    "title" : "Jaws",

    "year" : 1975,

    "imdb_rating" : 8.1

}

{

    "_id" : ObjectId("5ad6c201afd69acbffc224f6"),

    "title" : "Batman",

    "year" : 1989,

    "imdb_rating" : 7.6

}

1.3 故障切换测试:

mongod --shutdown -f /mongodb/28017/conf/mongod.conf

killing process with pid: 2493

[[email protected] mongodb]$ mongo --port 28018

MongoDB shell version: 3.2.8

connecting to: 127.0.0.1:28018/test

my_repl:SECONDARY> exit

bye

[[email protected] mongodb]$ mongo --port 28018

MongoDB shell version: 3.2.8

connecting to: 127.0.0.1:28018/test

my_repl:PRIMARY>

第2章 复制集管理操作:

2.1 1)查看复制集状态:

rs.status();     # 查看整体复制集状态

rs.isMaster();   #  查看当前是否是主节点

2.2 2)添加删除节点

rs.add("ip:port");     #  新增从节点

rs.addArb("ip:port");  #  新增仲裁节点

rs.remove("ip:port");  #  删除一个节点

2.3  ( 3 ) 配置延时节点:

my_repl:PRIMARY> cfg=rs.conf()

{

    "_id" : "my_repl",

    "version" : 1,

    "protocolVersion" : NumberLong(1),

    "members" : [

        {

            "_id" : 0,

            "host" : "10.0.0.18:28017",

            "arbiterOnly" : false,

            "buildIndexes" : true,

            "hidden" : false,

            "priority" : 1,

            "tags" : {

               

            },

            "slaveDelay" : NumberLong(0),

            "votes" : 1

        },

        {

            "_id" : 1,

            "host" : "10.0.0.18:28018",

            "arbiterOnly" : false,

            "buildIndexes" : true,

            "hidden" : false,

            "priority" : 1,

            "tags" : {

               

            },

            "slaveDelay" : NumberLong(0),

            "votes" : 1

        },

        {

            "_id" : 2,

            "host" : "10.0.0.18:28019",

            "arbiterOnly" : false,

            "buildIndexes" : true,

            "hidden" : false,

            "priority" : 1,

            "tags" : {

               

            },

            "slaveDelay" : NumberLong(0),

            "votes" : 1

        }

    ],

    "settings" : {

        "chainingAllowed" : true,

        "heartbeatIntervalMillis" : 2000,

        "heartbeatTimeoutSecs" : 10,

        "electionTimeoutMillis" : 10000,

        "getLastErrorModes" : {

           

        },

        "getLastErrorDefaults" : {

            "w" : 1,

            "wtimeout" : 0

        },

        "replicaSetId" : ObjectId("5ad6bfb3db15e96a59976d12")

    }

}

:这里的[2]rs.conf显示的顺序(除主库外),ID

my_repl:PRIMARY> cfg.members[2].priority=0

0

my_repl:PRIMARY> cfg.members[2].slaveDelay=120

120

my_repl:PRIMARY> cfg.members[2].hidden=true

true

my_repl:PRIMARY> rs.reconfig(cfg)

{ "ok" : 1 }

2.4 副本集其他操作命令:

查看副本集配置信息:

rs.config()

查看副本集成员的状态:

rs.status()

副本集角色切换:由主降为从

rs.stepDown()

锁定从,使其不会转变成主

rs.freeze(300)

设置副节点可读

rs.slaveOk()

查看副本节点

rs.printSlaveReplicationInfo()

 

以上是关于MongoDB复制集技术的主要内容,如果未能解决你的问题,请参考以下文章

MongoDB 复制集

[培训-无线通信基础-8]:分集技术(微分集宏分集信号合并分集增益)

Chatgpt-3 使用的提取积累数据集技术和数据集自动化处理

分集技术介绍

MongoDB复制集 (主从复制)

MongoDB复制集