dba+工具:MongoDB热备份工具,解决官方版备份缺陷

栏目: 数据库 · 发布时间: 6年前

内容简介:目前官方MongoDB社区版是不支持Hot Backup热备份的,我们只能通过mongodump等逻辑备份工具导出bson文件,再mongorestore导入,类似MySQL的mysqldump工具。在备份副本集时,我们需指定--oplog选项记录备份间产生的增量数据,类似mysqldump --single-transaction --master-data=2(做一致性快照并记录当前的binlog点)。对副本集的成员恢复,需先切成单机版,mongorestore必须指定--oplogReplay选

前言

目前官方 MongoDB 社区版是不支持Hot Backup热备份的,我们只能通过mongodump等逻辑备份 工具 导出bson文件,再mongorestore导入,类似 MySQL 的mysqldump工具。

在备份副本集时,我们需指定--oplog选项记录备份间产生的增量数据,类似mysqldump --single-transaction --master-data=2(做一致性快照并记录当前的binlog点)。

对副本集的成员恢复,需先切成单机版,mongorestore必须指定--oplogReplay选项,以恢复到某一时刻的快照,最后还需填充oplog(增量数据以哪个位置点开始断点续传),mongorestore -d local -c oplog.rs dump/oplog.bson,最后一步再切为副本集成员重新启动。

中小型数据库备份起来简单快捷,如果过TB级的数据量,那将是痛苦的。

如果你的oplog设置过小,很有可能在备份恢复这段时间,oplog被覆盖重写,那么你将永远无法加入副本集集群里。

概述

Percona MongoDB 3.2版本默认开始支持WiredTiger引擎的在线热备份,解决了官方版只能通过mongodump逻辑备份这一缺陷。

参考文献:

https://www.percona.com/doc/percona-server-for-mongodb/LATEST/hot-backup.html#hot-backup

注意事项

1、要在当前dbpath中对数据库进行热备份,请在admin数据库上以管理员身份运行createBackup命令,并指定备份目录。

2、可以替换一台从库为Percona MongoDB,做备份使用。(我这里实测是Percona MongoDB 3.4版本)

原理

Percona MongoDB HotBackup热备份原理:

你可以想象成xtrabackup工具

备份:

  • 首先会启动一个后台检测的进程,实时检测MongoDB Oplog的变化,一旦发现oplog有新的日志写入,立刻将日志写入到日志文件WiredTiger.backup中(你可以strings WiredTiger.backup查看oplog操作日志的变化);
  • 复制MongoDB dbpath的数据文件和索引文件到指定的备份目录里;
  • ......

恢复:

  • 将WiredTiger.backup日志进行回放,将操作日志变更应用到WiredTiger引擎里,最终得到一致性快照恢复;
  • 把备份目录里的数据文件直接拷贝到你的dbpath下,然后启动MongoDB即可,会自动接入副本集集群。

运行

这里我封装了一个 PHP 脚本,直接在 SHELL 里运行即可。

1、环境准备:

shell> yum install -y php-pear php-devel php gcc openssl openssl-devel cyrus-sasl cyrus-sasl-devel 

2、php-mongo驱动安装:

shell> pecl install mongo 

把extension=mongo.so加入到/etc/php.ini最后一行。

3、创建mongodb超级用户权限(备份时使用)

db.createUser({user:"admin",pwd:"123456",roles:[{role:"root",db:"admin"}]}) 

4、修改pmongo_bak.php配置信息

//*************修改下面的配置信息***************//  
$user = "admin"; //使用root用户权限  
$pwd = '123456';   
$host = '192.168.180.26'; //在从库上热备  
$port = '27017';  
$authdb = 'admin'; //权限认证数据库  
$BAKDIR = "/data/bak/";  
$BAKDIR .= date('Y_m_d_H_i_s');  
 
//*************下面的代码不用修改***************//  
$m = new MongoBak($user,$pwd,$host,$port,$authdb,$BAKDIR);  
...... 

5、前台运行:

shell> php pmongo_bak.php(以root权限运行) 

6、写入系统crontab里

00 01 * * * /usr/bin/php /root/php_mongodb/pmongo_bak.php > /root/php_mongodb/bak_status.log 2 >&1 

7、不支持远程备份,需将备份脚本部署在从库里。如果你想把数据备份到远程,可以采用NFS等文件系统mount挂载上。


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

你也能看得懂的Python算法书

你也能看得懂的Python算法书

王硕,董文馨,张舒行,张洁 著 / 电子工业出版社 / 2018-11-1 / 59.00

编程的核心是算法,学习算法不仅能教会你解决问题的方法,而且还能为你今后的发展提供一种可能。 《你也能看得懂的Python算法书》面向算法初学者,首先介绍当下流程的编程语言Python,详细讲解Python语言中的变量和循序、分支、循环三大结构,以及列表和函数的使用,为之后学习算法打好基础。然后以通俗易懂的语言讲解双指针、哈希、深度优先、广度优先、回溯、贪心、动态规划和至短路径等经典算法。 ......一起来看看 《你也能看得懂的Python算法书》 这本书的介绍吧!

JS 压缩/解压工具
JS 压缩/解压工具

在线压缩/解压 JS 代码

HTML 编码/解码
HTML 编码/解码

HTML 编码/解码

Base64 编码/解码
Base64 编码/解码

Base64 编码/解码