记录一次处理线上的MySQL复制延迟

栏目: 数据库 · 发布时间: 8年前

内容简介:记录一次处理线上的MySQL复制延迟

MySQL版本:

Server version:     5.7.18-log MySQL Community Server (GPL)

看下延迟状况:

show slave status\G

Master_Log_File: mysql-bin. 013225

Read_Master_Log_Pos: 1059111551

Relay_Master_Log_File: mysql-bin. 013161

Exec_Master_Log_Pos: 773131396

Master_UUID: e7c35a95-ffb1-11e6-9620-90e2babb5b90

我们看到, binlog文件落后了64个 ,相当的夸张。

MySQL 5.7不是已经实现并行复制了吗,怎么还会延迟这么厉害?

先检查系统负载。

top命令查看:

记录一次处理线上的 <a href='https://www.codercto.com/topics/18746.html'>MySQL</a> 复制延迟

看到 mysqld进程其实负载还好,不算太高,也不存在严重的SWAP等问题

再看I/O子系统负载,没看到这方面存在瓶颈( await\svctm\%util都不高 )。

sar -d 1命令查看:

记录一次处理线上的MySQL复制延迟

再看mysqld进程的CPU消耗。

pidstat -u -p `pidof mysqld` 1命令查看:

记录一次处理线上的MySQL复制延迟

虽然mysqld进程的CPU消耗总是超过100%,不过也不算太高。

再检查MySQL复制现场,确认了 几个频繁更新的表都有主键,以及必要的索引 。相应的DML操作也几乎都是基于主键或唯一索引条件执行的, 排除无主键、无合理索引方面的因素

最后只能祭出 perf top神 器了。

看到perf top最后的报告是这样的

Samples: 107K of event 'cycles', Event count (approx.): 29813195000

Overhead  Shared Object        Symbol

56.19%  mysqld               [.] bitmap_get_next_set

16.18%  mysqld               [.] build_template_field

4.61%  mysqld               [.] ha_innopart::try_semi_consistent_read

4.44%  mysqld               [.] dict_index_copy_types

4.16%  libc-2.12.so         [.] __memset_sse2

2.92%  mysqld               [.] ha_innobase::build_template

我们看到,  bitmap_get_next_set  这个函数调用占到了 56.19%,非常高,其次是 build_template_field  函数,占了 16.18%。

经过检查MySQL源码并请教MySQL内核开发专家,最后确认这两个函数跟启用表分区有关系。

记录一次处理线上的MySQL复制延迟

查询下当前实例有多少个表分区:

select count(*) from partitions where partition_name is not null;
+----------+
| count(*) |
+----------+
|    32128 |
+----------+
1 row in set (11.92 sec)

额滴神啊,竟然有3万多个表分区,难怪上面那两个函数调用那么高。

这个业务数据库几个大表采用每天一个分区方案,而且把直到当年年底所有分区也都给提前创建好了,所以才会有这么多。

不过,虽然有这么多表分区,在master服务器上却不存在这个瓶颈,看起来是在主从复制以及大量表分区的综合因素下才有这个瓶颈,最终导致主从复制延迟越来越严重。

知道问题所在,解决起来就简单了。 把到下个月底前用不到的表分区全部删除,之后约只剩下1.6万个分区。重启slave线程,问题解决,主从复制延迟很快就消失了


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

High Performance Python

High Performance Python

Micha Gorelick、Ian Ozsvald / O'Reilly Media / 2014-9-10 / USD 39.99

If you're an experienced Python programmer, High Performance Python will guide you through the various routes of code optimization. You'll learn how to use smarter algorithms and leverage peripheral t......一起来看看 《High Performance Python》 这本书的介绍吧!

随机密码生成器
随机密码生成器

多种字符组合密码

URL 编码/解码
URL 编码/解码

URL 编码/解码

MD5 加密
MD5 加密

MD5 加密工具