Redis学习一:Redis两种持久化机制

栏目: IT技术 · 发布时间: 4年前

内容简介:本文章首发自本人公众号:感兴趣的小伙伴可关注个人公众号:壹枝花算不算浪漫Redis是基于内存来实现的NO SQL数据库,但是我么你都知道存储在内存中的数据,只要服务器关机,内存中的数据就会消失了。

申明

本文章首发自本人公众号: 壹枝花算不算浪漫 ,如若转载请标明来源!

感兴趣的小伙伴可关注个人公众号:壹枝花算不算浪漫

Redis学习一:Redis两种持久化机制 22.jpg

前言

Redis是基于内存来实现的NO SQL数据库,但是我么你都知道存储在内存中的数据,只要服务器关机,内存中的数据就会消失了。

为了避免内存中的数据丢失,Redis提供了对持久化的支持。Redis共有RDB和AOF两种持久化机制。

可以先看下两种持久化机制原理:

Redis学习一:Redis两种持久化机制 01_Redis中RDB和AOF.jpg

RDB和AOF两种持久化机制的介绍

RDB持久化机制,对 redis 中的数据执行周期性的持久化

AOF机制对每条写入命令作为日志,以append-only的模式写入一个日志文件中,在redis重启的时候,可以通过回放AOF日志中的写入指令来重新构建整个数据集

如果同时使用RDB和AOF两种持久化机制,那么在redis重启的时候,会使用AOF来重新构建数据,因为AOF中的数据更加完整

RDB持久化机制的优点

  1. RDB非常适合做冷备,可以将这种完整的数据文件发送到一些远程的安全存储上去,比如云服务器。

  2. RDB对redis对外提供的读写服务,影响非常小,可以让redis保持高性能,因为redis主进程只需要fork一个子进程,让子进程执行磁盘IO操作来进行RDB持久化即可

  3. 相对于AOF持久化机制来说,直接基于RDB数据文件来重启和恢复redis进程,更加快速

RDB持久化机制的缺点

  1. 如果想要在redis故障时,尽可能少的丢失数据,那么RDB没有AOF好。一般来说RDB数据快照文件,都是每隔5分钟,或者更长时间生成一次,这个时候就得接受一旦redis进程宕机,那么会丢失最近5分钟的数据
  2. RDB每次在fork子进程来执行RDB快照数据文件生成的时候,如果数据文件特别大,可能会导致对客户端提供的服务暂停数毫秒,或者甚至数秒

AOF持久化机制的优点

  1. AOF可以更好的保护数据不丢失,一般AOF会每隔1秒,通过一个后台线程执行一次fsync操作,最多丢失1秒钟的数据
  2. AOF日志文件以append-only模式写入,所以没有任何磁盘寻址的开销,写入性能非常高,而且文件不容易破损,即使文件尾部破损,也很容易修复
  3. AOF日志文件即使过大的时候,出现后台重写操作,也不回影响客户端的读写。因为再rewrite log的时候,会对其中的指令进行压缩,创建一份需要恢复数据的最小日志出来。再创建新日志文件的时候,老的日志文件还是照常写入。当新的merge后的日志文件ready的时候,再交换老日志文件即可
  4. AOF日志文件的命令通过非常可读的方式进行记录,这个特性非常适合做灾难性的误删除的紧急恢复。比如不小心使用flushall命令清空了所有数据,只要这个时候后台rewrite还没有发生,那么就可以立即拷贝AOF文件,将最后一条flushall命令给删除,然后再将AOF文件放回去,就可以通过恢复机制,自动恢复所有数据

AOF持久化机制的缺点

  1. 对于同一份数据来说,AOF日志文件通常比RDB数据快照文件更大
  2. AOF开启后,支持的写QPS会比RDB支持的写QPS低,因为AOF一般会配置成每秒fsync一次日志文件,当然,每秒一次fsync,性能也还是很高的

RDB和AOF到底该如何选择

  1. 不要仅仅使用RDB,因为那样会导致丢失很多数据
  2. 不要仅仅使用AOF,因为这样会有问题,第一:通过AOF做冷备,没有RDB做冷备,来的恢复速度更快。第二:RDB每次简单粗暴生成数据快照,更加健壮,可以避免AOF这种复杂的备份和恢复机制的bug
  3. 综合使用AOF和RDB两种持久化机制,用AOF来保证数据不丢失,作为数据恢复的第一选择;用RDB来做不同程度的冷备,在AOF文件都丢失或损坏不可用的时候,还可以使用RDB来进行快速的数据恢复

RDB 配置

// 900s内至少达到一条写命令
save 900 1
// 300秒内至少达到10条写命令
save 300 10
// 60秒内至少达到10000条写命令
save 60 10000

也可以手动调用save或者bgsave命令,同步或异步执行rdb快照生成

RDB持久化机制的工作流程

  1. redis根据配置自己尝试去生成rdb快照文件
  2. fork一个子进程出来
  3. 子进程尝试将数据dump到临时的rdb快照文件中
  4. 完成rdb快照文件的生成之后,就替换之前旧的快照文件

dump.rdb 每次生成一个新的快照,都会覆盖之前老的快照文件

AOF 持久化的配置

AOF持久化默认是关闭的,默认是打开RDB持久化配置的。

配置appendonly yes,可以打开AOF持久化

打开AOF持久化之后,redis每次接收一条写命令,就会写入日志文件中,当然是先写入os cache,然后每隔一定时间再fsync一下。

而且即使AOF和RDB都开启了,redis重启的时候也会优先选择AOF,因为AOF的数据比较完整

可以配置AOF的fsync策略,有三种策略可以选择:

  • always:每次写入一条数据,立即将这个数据对应的写离职fsync到磁盘上去,性能非常差
  • everysec:每秒将os cache中的数据fsync到磁盘,这个是最常用的,性能比较高
  • no:仅仅redis负责将数据写入os cache就不需要管了,依赖os根据自己的策略将数据刷入到磁盘中

AOF rewrite

redis中的数据时有限的,很多数据可能会自动过期,可能会被用户删除,也有可能被redis用缓存清除的算法清理掉

redis中的数据会不断淘汰掉旧的数据,只有一部分常用的数据会自动保留在redis内存中

所以很可能之前已经被清理掉的数据,对应的写日志还停留在AOF中,AOF日志文件就一个,会不断的膨胀

所以基于上面的原因,AOF会自动在后台每隔一定时间做rewrite操作,比如日志里已经存放了针对100w数据的写日志,而redis内存中此时只有10w数据;rewrite会基于当前内存中10w数据构建一套最新的日志到AOF中,覆盖之前的老日志

在redis.conf中,可以配置rewrite的策略:

  • auto-aof-rewrite-percentage 100
  • auto-aof-rewrite-min-size 64mb

大小超过64mb,且比上次增长了100%才会触发一次rewrite

具体rewrite步骤:

  1. redis fork一个子进程
  2. 子进程基于当前内存中的数据,构建日志,开始往一个新的临时AOF文件中写入日志
  3. redis主进程,接收到client新的写操作之后,在内存中写入日志,同时新的日志也继续写入旧的AOF文件
  4. 用新的日志文件替换掉旧的日志文件

AOF破损文件的修复

如果redis在append数据到AOF文件时,机器宕机了,可能会导致AOF文件破损

用redis-check-aof --fix命令来修复破损的AOF文件

AOF和RDB同时工作

  1. 如果RDB在执行snapshotting操作,那么redis不会执行AOF rewrite操作。如果redis在执行AOF rewrite,那么就不会执行RDB snapshotting操作
  2. 如果RDB在执行snapshotting,此时用户执行BGREWRITEAOF命令,那么等RDB快照生成之后,才会去执行AOF rewrite
  3. 同时有RDB snapshot文件和AOF日志文件,那么redis重启的时候,会优先使用AOF进行数据恢复,因为其中的日志更完整

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

How to Think About Algorithms

How to Think About Algorithms

Jeff Edmonds / Cambridge University Press / 2008-05-19 / USD 38.99

HOW TO THINK ABOUT ALGORITHMS There are many algorithm texts that provide lots of well-polished code and proofs of correctness. Instead, this one presents insights, notations, and analogies t......一起来看看 《How to Think About Algorithms》 这本书的介绍吧!

MD5 加密
MD5 加密

MD5 加密工具

正则表达式在线测试
正则表达式在线测试

正则表达式在线测试

HEX HSV 转换工具
HEX HSV 转换工具

HEX HSV 互换工具