写缓冲(change buffer),这次彻底懂了!!!

栏目: 数据库 · 发布时间: 5年前

内容简介:简单回顾一下:

上篇《 缓冲池(buffer pool),彻底懂了! 》介绍了InnoDB缓冲池的工作原理。

简单回顾一下:

写缓冲(change buffer),这次彻底懂了!!!

(1)MySQL数据存储包含 内存 磁盘 两个部分

(2)内存缓冲池 (buffer pool) 以页为单位 ,缓存最热的数据页 (data page) 与索引页 (index page)

(3)InnoDB以变种LRU算法管理缓冲池,并能够 解决 预读失效 ”与“ 缓冲池污染 ”的 问题

画外音:细节详见 缓冲池 (buffer pool) ,彻底懂了!

毫无疑问, 对于读请求,缓冲池能够减少磁盘IO ,提升性能。问题来了, 那写请求呢?

情况一

假如要修改页号为4的索引页,而这个 页正好在缓冲池内

写缓冲(change buffer),这次彻底懂了!!!

如上图序号1-2:

(1)直接修改缓冲池中的页,一次内存操作;

(2)写入 redo log ,一次磁盘顺序写操作;

这样的效率是最高的。

画外音:像写日志这种顺序写,每秒几万次没问题。

是否会出现一致性问题呢?

并不会。

(1)读取,会命中缓冲池的页;

(2)缓冲池LRU数据淘汰,会将“脏页”刷回磁盘;

(3)数据库异常奔溃,能够从 redo log 中恢复数据;

什么时候缓冲池中的页,会刷到磁盘上呢?

定期刷磁盘 ,而不是每次刷磁盘,能够降低磁盘IO,提升 MySQL 的性能。

画外音:批量写,是常见的 优化 手段。

情况二

假如要修改页号为40的索引页,而这个 页正好 在缓冲池内

写缓冲(change buffer),这次彻底懂了!!!

此时麻烦一点,如上图需要1-3:

(1)先把需要为40的索引页,从磁盘加载到缓冲池,一次磁盘随机读操作;

(2)修改缓冲池中的页,一次内存操作;

(3)写入 redo log ,一次磁盘顺序写操作;

没有命中缓冲池的时候, 至少产生一次磁盘IO ,对于写多读少的业务场景, 是否还有优化的空间呢?

这即是InnoDB考虑的问题,又是本文将要讨论的写缓冲 (change buffer)

画外音:从名字容易看出,写缓冲是降低磁盘IO,提升数据库写性能的一种机制。

什么是InnoDB的写缓冲?

在MySQL5.5之前,叫 插入缓冲 (insert buffer) ,只针对insert做了优化;现在对delete和update也有效,叫做 写缓冲 (change buffer)

它是一种应用在 非唯一普通索引页 (non-unique secondary index page) 不在缓冲池中,对页进行了写操作,并不会立刻将磁盘页加载到缓冲池,而仅仅记录缓冲变更 (buffer changes) ,等未来数据被读取时,再将数据合并 (merge) 恢复到缓冲池中的技术。写缓冲的 目的 降低写操作的磁盘IO ,提升数据库性能。

画外音:R了狗了,这个句子,好长。

InnoDB加入写缓冲优化,上文“情况二”流程会有什么变化?

假如要修改页号为40的索引页,而这个 页正好 在缓冲池内

写缓冲(change buffer),这次彻底懂了!!!

加入写缓冲优化后,流程优化为:

(1)在写缓冲中记录这个操作,一次内存操作;

(2)写入 redo log ,一次磁盘顺序写操作;

其性能与,这个索引页在缓冲池中,相近。

画外音:可以看到,40这一页,并没有加载到缓冲池中。

是否会出现一致性问题呢?

也不会。

(1)数据库异常奔溃,能够从 redo log 中恢复数据;

(2)写缓冲不只是一个内存结构,它也会 被定期刷盘到写缓冲系统表空间

(3)数据读取时,有另外的流程,将数据合并到缓冲池;

不妨设, 稍后 的一个时间,有请求 查询索引页40的数据

写缓冲(change buffer),这次彻底懂了!!!

此时的流程如序号1-3:

(1)载入索引页,缓冲池未命中,这次磁盘IO不可避免;

(2)从写缓冲读取相关信息;

(3)恢复索引页,放到缓冲池LRU里;

画外音:可以看到,40这一页,在真正被读取时,才会被加载到缓冲池中。

还有一个遗漏问题, 为什么写缓冲优化,仅适用于非唯一普通索引页呢?

InnoDB里,聚集索引 (clustered index) 和普通索引 (secondary index) 的异同,《 1分钟了解MyISAM与InnoDB的索引差异 》有详尽的叙述,不再展开。

如果索引设置了唯一 (unique) 属性,在进行 修改操作 时,InnoDB必须进行 唯一性检查 。也就是说, 索引页即使不在缓冲池,磁盘上的页读取无法避免 (否则怎么校验是否唯一?),此时就应该直接把相应的页放入缓冲池再进行修改,而不应该再整写缓冲这个幺蛾子。

除了数据页被访问, 还有哪些场景会触发刷写缓冲中的数据呢?

还有这么几种情况,会刷写缓冲中的数据:

(1)有一个后台线程,会认为数据库空闲时;

(2)数据库缓冲池不够用时;

(3)数据库正常关闭时;

(4) redo log 写满时;

画外音:几乎不会出现redo log写满,此时整个数据库处于无法写入的不可用状态。

什么业务场景,适合开启InnoDB的写缓冲机制?

先说 什么时候不适合 ,如上文分析,当:

(1)数据库都是唯一索引;

(2)或者,写入一个数据后,会立刻读取它;

这两类场景,在写操作进行时(进行后),本来就要进行进行页读取,本来相应页面就要入缓冲池,此时写缓存反倒成了负担,增加了复杂度。

什么时候 适合使用写缓冲 ,如果:

(1)数据库大部分是非唯一索引;

(2)业务是写多读少,或者不是写后立刻读取;

可以使用写缓冲,将原本每次写入都需要进行磁盘IO的SQL,优化定期批量写磁盘。

画外音:例如,账单流水业务。

上述原理,对应InnoDB里哪些参数?

有两个比较重要的参数。

写缓冲(change buffer),这次彻底懂了!!!

参数 innodb_change_buffer_max_size

介绍 :配置写缓冲的大小,占整个缓冲池的比例,默认值是25%,最大值是50%。

画外音:写多读少的业务,才需要调大这个值,读多写少的业务,25%其实也多了。

参数 innodb_change_buffering

介绍 :配置哪些写操作启用写缓冲,可以设置成 all/none/inserts/deletes 等。

希望大家有收获, 思路 比结论重要。

写缓冲(change buffer),这次彻底懂了!!!

架构师之路-分享技术思路

相关推荐:

6条 shell 小技巧,让脚本更专业 | 1分钟系列 》

MyISAM与InnoDB的索引差异 | 1分钟系列

缓冲池(buffer pool),这次彻底懂了!!!

学会聆听,职场最重要的事情!!!


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

图灵的秘密

图灵的秘密

Charles Petzold / 杨卫东 / 人民邮电出版社 / 2012-11 / 69.00元

图灵机是英国数学家阿兰•图灵提出的一种抽象计算模型,本书深入剖析了图灵这篇描述图灵机和可计算性的原始论文《论可计算数及其在判定性问题上的应用》。书中在详解论文的同时,也附带了大量的历史背景资料、图灵的个人经历,以及图灵机对于人们理解计算机、人类意识和宇宙所产生的影响。 本书适合所有计算机科学专业的学生、程序员或其他技术人员,同时也适合欲了解图灵生平及其构建图灵机的思维的读者阅读。一起来看看 《图灵的秘密》 这本书的介绍吧!

JSON 在线解析
JSON 在线解析

在线 JSON 格式化工具

URL 编码/解码
URL 编码/解码

URL 编码/解码

html转js在线工具
html转js在线工具

html转js在线工具