内容简介:MyCat一个彻底开源的,面向企业应用开发的大数据库集群。基于阿里开源的Cobar产品而研发。能满足数据库数据大量存储;提高了查询性能。文章介绍如何实现MyCat连接MySQL实现主从分离,并集成SpringBoot实现读写分离。binlog是Mysql sever层维护的一种二进制日志,主要是用来记录对Mysql数据更新或潜在发生更新的SQL语句,记录了所有的写语句,并以事务的形式保存在磁盘中,还包含语句所执行的消耗的时间,MySQL的二进制日志是事务安全型的。master上开启log_bin
MyCat一个彻底开源的,面向企业应用开发的大数据库集群。基于阿里开源的Cobar产品而研发。能满足数据库数据大量存储;提高了查询性能。文章介绍如何实现MyCat连接 MySQL 实现主从分离,并集成SpringBoot实现读写分离。
MySQL配置主从关系
说明
- 192.168.0.105 Linux 数据库作为主master数据库
- 127.0.0.1 Window 作为从slave数据库
master主数据库配置
binlog是Mysql sever层维护的一种二进制日志,主要是用来记录对Mysql数据更新或潜在发生更新的 SQL 语句,记录了所有的写语句,并以事务的形式保存在磁盘中,还包含语句所执行的消耗的时间,MySQL的二进制日志是事务安全型的。
master上开启log_bin
$ vim /etc/my.cnf log-bin = mysql-bin #[必须]启用二进制日志 server-id = 4 #[必须]服务器唯一ID,默认是1,最好取ip的后3位 expire-logs-days = 7 #只保留7天的二进制日志,以防磁盘被日志占满 binlog-ignore-db = mysql #不备份的数据库 binlog-ignore-db = information_schema binlog-ignore-db = performation_schema binlog-ignore-db = sys binlog-do-db=itools_simple #需要做复制的数据库名,如果有多个,复制binlog-do-db即可
登录mysql,测试log_bin是否成功开启
$ mysql -u root -p Root@123 // log_bin ON表示开启成功,OFF表示开启失败 mysql> show variables like '%log_bin%'; +---------------------------------+--------------------------------+ | Variable_name | Value | +---------------------------------+--------------------------------+ | log_bin | ON | | log_bin_basename | /var/lib/mysql/mysql-bin | | log_bin_index | /var/lib/mysql/mysql-bin.index | | log_bin_trust_function_creators | OFF | | log_bin_use_v1_row_events | OFF | | sql_log_bin | ON | +---------------------------------+--------------------------------+ 6 rows in set (0.01 sec)
新增备份账户
mysql> grant replication slave on *.* to 'backup'@'%' identified by 'Root@123'; mysql> use mysql mysql> select user,authentication_string,host from user;
重启mysql
$ systemctl restart mysqld
登录mysql,并设置只读
$ mysql -u root -p Root@123 mysql> flush tables with read lock; mysql> show master status \G *************************** 1. row *************************** File: mysql-bin.000003 Position: 154 Binlog_Do_DB: itools_simple Binlog_Ignore_DB: mysql,information_schema,performation_schema,sys Executed_Gtid_Set: 1 row in set (0.01 sec) // 导出数据库,进入到一个合适的文件夹 $ mysqldump -u root -p itools_simple > itools_simple.txt // 把生成的文件导出到本机 $ sz itools_simple.txt // 在window本机打开cmd,登录slave本机mysql数据库,导入数据库 $ .\mysql -u root -p -hlocalhost mycat_master < .\itools_simple.txt
slave从数据库配置
配置 my.ini 文件
[mysql] #default-character-set=utf8 [mysqld] max_connections=200 character-set-server=utf8 default-storage-engine=INNODB # 添加一下配置 log-bin=mysql-bin server-id=223
重启slave数据库
net stop mysql net start mysql
登录slave数据库
$ mysql -u root -p 123456 // 停止 slave mysql> stop slave; // 根据master中的status,添加以下配置 msyql> change master to master_host='192.168.0.105',master_user='backup',master_password='Root@123',master_log_file='mysql-bin.000003',master_log_pos=154; // 启用slave mysql> start slave; // 查看slave状态 mysql> show slave status \G *************************** 1. row *************************** Slave_IO_State: Waiting for master to send event Master_Host: 192.168.0.105 Master_User: backup Master_Port: 3306 Connect_Retry: 60 Master_Log_File: mysql-bin.000003 Read_Master_Log_Pos: 154 Relay_Log_File: DESKTOP-OB9O5N7-relay-bin.000002 Relay_Log_Pos: 320 Relay_Master_Log_File: mysql-bin.000003 Slave_IO_Running: Yes Slave_SQL_Running: Yes .............. 1 row in set (0.00 sec) // 出现下面两个说明配置正确 Slave_IO_Running: Yes Slave_SQL_Running: Yes
关闭master数据库的只读设置
mysql> unlock tables;
存储引擎
InnoDB特性
MySQL5.5版本后,MySQL的默认内置存储引擎已经从MyISAM变成InnoDB
- 支持事务;
- 行级锁定(更新数据时一般指锁定当前行):通过索引实现、全表扫描忍让时表锁、注意间隙所的影响;
- 读写阻塞与事务的隔离级别相关;
- 具有非常高的缓存特性(既能缓存索引、也能缓存数据);
- 这个表和主键以组(Cluster)的方式存储、组成一颗平衡树;
- 所有的辅助索引(secondary indexes)都会保存主键信息;
- 支持分区、表空间类似与oracle 数据库;
- 支持外键约束、不支持全文检索(5.5.5之前的MyISAM支持全文检索、5.5.5之后就不在支持);
- 相对MyISAM而言、对硬件的要求比较高
MyISAM特性
- 不支持事务
- 表级锁定,数据更新时锁定整个表:其锁定机制是表级锁定,这虽然可以让锁定的实现成本很小但是也同时大大降低了其并发性能。
- 读写互相阻塞:不仅会在写入的时候阻塞读取,myisam还会在读取的时候阻塞写入,但读本身并不会阻塞另外的读。
- 只会缓存索引:MyISAM可以通过key_buffer_size缓存索引,以大大提高访问性能,减少产品IO,但是这个缓存区只会缓存索引,而不会缓存数据。
- 读取速度较快,占用资源相对少。
- 不支持外键约束,但支持全文索引。
修改slave数据库存储引擎
mysql> show variables like '%storage_engine%'; +----------------------------------+--------+ | Variable_name | Value | +----------------------------------+--------+ | default_storage_engine | InnoDB | | default_tmp_storage_engine | InnoDB | | disabled_storage_engines | | | internal_tmp_disk_storage_engine | InnoDB | +----------------------------------+--------+ 4 rows in set (0.00 sec) // 修改配置文件 $ vim /etc/my.ini [mysqld] default-storage-engine=MyISAM $ systemctl restart mysqld mysql> show variables like '%storage_engine%'; +----------------------------------+--------+ | Variable_name | Value | +----------------------------------+--------+ | default_storage_engine | MyISAM | | default_tmp_storage_engine | InnoDB | | disabled_storage_engines | | | internal_tmp_disk_storage_engine | InnoDB | +----------------------------------+--------+ 4 rows in set (0.00 sec)
修改表存储引擎
如果是slave数据库的表是MyISAM,master数据库的表是InnoDB。直接覆盖master数据库来同步数据的话,slave数据库表的存储引擎也将会同步变成InnoDB。扩展:InnoDB一棵B+树可以存放多少行数据?
更换存储引擎遇到的问题
This function has none of DETERMINISTIC, NO SQL, or READS SQL DATA in its declaration and binary logging is enabled (you might want to use the less safe log_bin_trust_function_creators variable)
出现的原因
在function里面,只有 DETERMINISTIC, NO SQL 和 READS SQL DATA 被支持。
如果我们开启了 bin-log, 我们就必须为我们的function指定一个参数。
解决方案
mysql> set global log_bin_trust_function_creators=TRUE;
Specified key was too long; max key length is 1000 bytes
出现的原因
- DB的 engine 是 MyISAM
- 字符集是 utf8 ,1个 utf8=3bytes
- (索引长度总和) * 3 > 1000。
解决方案
- 修改DB engine 至 innodb
- 更改字符集
- 减小字段长度
注意:一定不要手动去修改slave数据库中的数据,需要给slave的用户设置只读。
至此,mysql的数据库主从设置已经配置成功。在master中修改数据库,会同步到slave中。
Mycat基于MySQL的读写分离
Mycat不负责数据的同步,所以要还是要基于 MySQL的主从配置来实现读写分离 。
安装Mycat
由于github限制,所以以后新版本从以下地址下载 http://dl.mycat.io
Linux创建文件夹/usr/local/mycat,进入文件夹,下载安装包
$ wget http://dl.mycat.io/1.6.7.5/2020-3-3/Mycat-server-1.6.7.5-test-20200303154735-linux.tar.gz $ tar -zxvf Mycat-server-1.6.7.5-test-20200303154735-linux.tar.gz $ cd mycat $ useradd mycat $ chown -R mycat:mycat /usr/local/mycat/mycat $ passwd mycat // 配置hostname,添加以下配置 [root@localhost mycat] vim /etc/sysconfig/network HOSTNAME=localhost(主机名) // 查看是否配置主机 $ vim /etc/hosts
将Mycat配置到环境变量中
$ vim /etc/profile // 在最后添加 MYCAT_HOME=/usr/local/mycat/mycat PATH=$MYCAT_HOME/bin:$PATH export PATH // 使配置生效 $ source /etc/profile
在master数据库中添加user1(写)、user2(只读)两个账户,并配置权限。
配置mycat的schema.xml
<?xml version="1.0"?> <!DOCTYPE mycat:schema SYSTEM "schema.dtd"> <mycat:schema xmlns:mycat="http://io.mycat/"> <schema name="itools_simple" checkSQLschema="false" sqlMaxLimit="100" dataNode="dn1"> </schema> <dataNode name="dn1" dataHost="localhost" database="itools_simple" /> <dataHost name="localhost" maxCon="1000" minCon="10" balance="0" writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100"> <heartbeat>select user()</heartbeat> <writeHost host="hostM1" url="192.168.0.105:3306" user="user1" password="Root@123"> <!-- 可以配置多个从库 --> <readHost host="hostS2" url="127.0.0.1:3306" user="user2" password="Root@123" /> </writeHost> </dataHost> </mycat:schema>
配置mycat的server.xml,增加两个用户
<user name="user1" defaultAccount="true"> <property name="password">Root@123</property> <property name="schemas">itools_simple</property> <property name="defaultSchema">itools_simple</property> </user> <user name="user2"> <property name="password">Root@123</property> <property name="schemas">itools_simple</property> <property name="readOnly">true</property> <property name="defaultSchema">itools_simple</property> </user>
启动Mycat
启动mycat
$ mycat start Starting Mycat-server...
查看启动日志
$ cat wrapper.log MyCAT Server startup successfully. see logs in logs/mycat.log
使用客户端连接mycat
使用SQLyog连接(使用此方式连接,不能直接通过点击表查看数据)
使用Navicat连接
可通过客户端直接查看master数据,也可通过修改mycat数据,查看master和slave的数据是否会同步
SpringBoot 整合 MyCat 实现读写分离
- 首先需要配置好数据库的主从关系。
- 配置好MyCat服务。
- 实现MyCat与MySQL读写分离。
添加依赖
<dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-aop</artifactId> </dependency> <dependency> <groupId>com.alibaba</groupId> <artifactId>druid</artifactId> <version>1.0.23</version> </dependency>
创建数据源
package com.muycode.itoolsimple.datasource; import org.springframework.boot.context.properties.ConfigurationProperties; import org.springframework.boot.jdbc.DataSourceBuilder; import org.springframework.context.annotation.Bean; import org.springframework.context.annotation.Configuration; import javax.sql.DataSource; @Configuration public class DataSourceConfig { /** * 创建可读数据源 * * @return */ @Bean(name = "selectDataSource") @ConfigurationProperties(prefix = "spring.datasource.select") public DataSource dataSource1() { return DataSourceBuilder.create().build(); } /** * 创建可写数据源 * * @return */ @Bean(name = "updateDataSource") @ConfigurationProperties(prefix = "spring.datasource.update") public DataSource dataSource2() { return DataSourceBuilder.create().build(); } }
设置数据源
package com.muycode.itoolsimple.datasource; import org.springframework.context.annotation.Lazy; import org.springframework.stereotype.Component; @Component @Lazy(false) public class DataSourceContextHolder { /** * 采用ThreadLocal 保存本地多数据源 */ private static final ThreadLocal<String> contextHolder = new ThreadLocal<>(); /** * 设置数据源类型 * * @param dbType */ public static void setDbType(String dbType) { contextHolder.set(dbType); } /** * 获取数据源类型 */ public static String getDbType() { return contextHolder.get(); } public static void clearDbType() { contextHolder.remove(); } }
返回数据源
package com.muycode.itoolsimple.datasource; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.beans.factory.annotation.Qualifier; import org.springframework.context.annotation.Primary; import org.springframework.jdbc.datasource.lookup.AbstractRoutingDataSource; import org.springframework.stereotype.Component; import javax.sql.DataSource; import java.util.HashMap; import java.util.Map; @Component @Primary public class DynamicDataSource extends AbstractRoutingDataSource { @Autowired @Qualifier("selectDataSource") private DataSource selectDataSource; @Autowired @Qualifier("updateDataSource") private DataSource updateDataSource; /** * 返回生效的数据源名称 */ @Override protected Object determineCurrentLookupKey() { return DataSourceContextHolder.getDbType(); } /** * 配置数据源信息 */ @Override public void afterPropertiesSet() { Map<Object, Object> map = new HashMap<>(16); map.put("selectDataSource", selectDataSource); map.put("updateDataSource", updateDataSource); setTargetDataSources(map); setDefaultTargetDataSource(updateDataSource); super.afterPropertiesSet(); } }
创建切面,动态设置数据源
package com.muycode.itoolsimple.datasource; import org.aspectj.lang.JoinPoint; import org.aspectj.lang.annotation.Aspect; import org.aspectj.lang.annotation.Before; import org.springframework.context.annotation.Lazy; import org.springframework.core.annotation.Order; import org.springframework.stereotype.Component; @Aspect @Component @Lazy(false) @Order(0) // Order设定AOP执行顺序 使之在数据库事务上先执行 public class DataSourceOptionAop { /** * 可读数据源 */ private final static String DATASOURCE_TYPE_SELECT = "selectDataSource"; /** * 可写数据源 */ private final static String DATASOURCE_TYPE_UPDATE = "updateDataSource"; /** * 创建切面,根据方法类型选择不同的数据源 * * @param joinPoint */ @Before("execution(* com.muycode.itoolsimple.service.*.*(..))") public void process(JoinPoint joinPoint) { String methodName = joinPoint.getSignature().getName(); System.out.print("=========== " + methodName); if (methodName.startsWith("get") || methodName.startsWith("count") || methodName.startsWith("find") || methodName.startsWith("list") || methodName.startsWith("select") || methodName.startsWith("check") || methodName.startsWith("query")) { DataSourceContextHolder.setDbType(DATASOURCE_TYPE_SELECT); System.out.println("-----------------使用selectDataSource数据源-------------------"); } else { DataSourceContextHolder.setDbType(DATASOURCE_TYPE_UPDATE); System.out.println("-----------------使用updateDataSource数据源-------------------"); } } }
输出结果
=========== getByUsername-----------------使用selectDataSource数据源------------------- =========== getPermissionStringByUserId-----------------使用selectDataSource数据源------------------- =========== getPermissionByUserId-----------------使用selectDataSource数据源------------------- =========== getRolePermissionLinkByUserId-----------------使用selectDataSource数据源------------------- =========== save-----------------使用updateDataSource数据源------------------- =========== queryByPage-----------------使用selectDataSource数据源------------------- =========== save-----------------使用updateDataSource数据源------------------- =========== getPermissionAll-----------------使用selectDataSource数据源------------------- =========== save-----------------使用updateDataSource数据源------------------- =========== getSysCodeAll-----------------使用selectDataSource数据源------------------- =========== save-----------------使用updateDataSource数据源------------------- =========== getByRid-----------------使用selectDataSource数据源-------------------
【责任编辑:庞桂玉 TEL:(010)68476606】
以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网
猜你喜欢:- SpringBoot + MyBatisPlus + ShardingJDBC 分库分表读写分离整合
- Spring Boot中整合Sharding-JDBC实现读写分离
- Spring Boot中整合Sharding-JDBC读写分离示例
- 想用数据库“读写分离” 请先明白“读写分离”解决什么问题
- Java 读写锁浅析
- Golang文件读写
本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们。
Scrum精髓
Kenneth Rubin / 姜信宝、米全喜、左洪斌、(审校)徐毅 / 清华大学出版社 / 2014-6-1 / CNY 79.00
短短几年时间,Scrum跃升为敏捷首选方法,在全球各地得以普遍应用。针对如何用好、用巧这个看似简单的框架,本书以通俗易懂的语言、条理清晰的脉络阐述和提炼出Scrum的精髓。全书共4部分23章,阐述了七大核心概念:Scrum框架,敏捷原则,冲刺,需求和用户故事,产品列表,估算与速率,技术债;三大角色:产品负责人,ScrumMaster,开发团队以及Scrum团队构成:Scrum规划原则及四大规划活动......一起来看看 《Scrum精髓》 这本书的介绍吧!