记录一次处理线上的MySQL复制延迟

栏目: 数据库 · 发布时间: 7年前

内容简介:记录一次处理线上的MySQL复制延迟

MySQL版本:

Server version:     5.7.18-log MySQL Community Server (GPL)

看下延迟状况:

show slave status\G

Master_Log_File: mysql-bin. 013225

Read_Master_Log_Pos: 1059111551

Relay_Master_Log_File: mysql-bin. 013161

Exec_Master_Log_Pos: 773131396

Master_UUID: e7c35a95-ffb1-11e6-9620-90e2babb5b90

我们看到, binlog文件落后了64个 ,相当的夸张。

MySQL 5.7不是已经实现并行复制了吗,怎么还会延迟这么厉害?

先检查系统负载。

top命令查看:

记录一次处理线上的 <a href='https://www.codercto.com/topics/18746.html'>MySQL</a> 复制延迟

看到 mysqld进程其实负载还好,不算太高,也不存在严重的SWAP等问题

再看I/O子系统负载,没看到这方面存在瓶颈( await\svctm\%util都不高 )。

sar -d 1命令查看:

记录一次处理线上的MySQL复制延迟

再看mysqld进程的CPU消耗。

pidstat -u -p `pidof mysqld` 1命令查看:

记录一次处理线上的MySQL复制延迟

虽然mysqld进程的CPU消耗总是超过100%,不过也不算太高。

再检查MySQL复制现场,确认了 几个频繁更新的表都有主键,以及必要的索引 。相应的DML操作也几乎都是基于主键或唯一索引条件执行的, 排除无主键、无合理索引方面的因素

最后只能祭出 perf top神 器了。

看到perf top最后的报告是这样的

Samples: 107K of event 'cycles', Event count (approx.): 29813195000

Overhead  Shared Object        Symbol

56.19%  mysqld               [.] bitmap_get_next_set

16.18%  mysqld               [.] build_template_field

4.61%  mysqld               [.] ha_innopart::try_semi_consistent_read

4.44%  mysqld               [.] dict_index_copy_types

4.16%  libc-2.12.so         [.] __memset_sse2

2.92%  mysqld               [.] ha_innobase::build_template

我们看到,  bitmap_get_next_set  这个函数调用占到了 56.19%,非常高,其次是 build_template_field  函数,占了 16.18%。

经过检查MySQL源码并请教MySQL内核开发专家,最后确认这两个函数跟启用表分区有关系。

记录一次处理线上的MySQL复制延迟

查询下当前实例有多少个表分区:

select count(*) from partitions where partition_name is not null;
+----------+
| count(*) |
+----------+
|    32128 |
+----------+
1 row in set (11.92 sec)

额滴神啊,竟然有3万多个表分区,难怪上面那两个函数调用那么高。

这个业务数据库几个大表采用每天一个分区方案,而且把直到当年年底所有分区也都给提前创建好了,所以才会有这么多。

不过,虽然有这么多表分区,在master服务器上却不存在这个瓶颈,看起来是在主从复制以及大量表分区的综合因素下才有这个瓶颈,最终导致主从复制延迟越来越严重。

知道问题所在,解决起来就简单了。 把到下个月底前用不到的表分区全部删除,之后约只剩下1.6万个分区。重启slave线程,问题解决,主从复制延迟很快就消失了


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

游戏数据分析的艺术

游戏数据分析的艺术

于洋、余敏雄、吴娜、师胜柱 / 机械工业出版社 / 2015-7 / 79.00

《游戏数据分析的艺术》是中国游戏产业的开创性著作,具有里程碑意义,它首次系统讲解了如何对游戏行业的数据进行分析,在行业里竖起了一根标杆。作者是来自TalkingData等国内顶尖的数据分析机构和西山居这样的知名游戏公司的资深数据分析专家, 对游戏数据从不同的业务角度进行了诠释。本书详细剖析了游戏数据分析相关的指标、方法论、内容挖掘、数据挖掘、软件使用、游戏设计、运营策划、渠道推广、收入解读、用户分......一起来看看 《游戏数据分析的艺术》 这本书的介绍吧!

Base64 编码/解码
Base64 编码/解码

Base64 编码/解码

HEX HSV 转换工具
HEX HSV 转换工具

HEX HSV 互换工具

HSV CMYK 转换工具
HSV CMYK 转换工具

HSV CMYK互换工具