mysql中如何设置过滤器_mysql 如何动态修改复制过滤器
MySQL动态修改复制过滤器
说说今天遇到的问题吧,今天在处理一个业务方的需求,比较变态,我大概描述一下:
1、线上的阿里云rds上面有个游戏的日志库,里面的表都是日表的形式,数据量比较大了,每次备份的时候,都会导致线上的rds报警,报警内容是IO资源占用过多。
2、这个rds上有一个本地的ECS只读从库,这个只读从库会实时同步线上的rds数据库中的数据,这个只读从库供业务方查询使用
3、业务方说这些数据都还有用,只读从库上的数据必须有,线上rds上的数据可以删除,保留两个星期即可。
场景就是这么个场景,DBA想要解决报警这个问题,业务方想要保证拥有完整的数据。请问,怎么解决?
当时看到这个问题,我想骂人,这需求一看就不合理,哪儿有删除一个库,另外一个库上还保留的道理,况且都是些日志数据,不直接搞个冷备份,然后删除线上,搞这么一出干啥啊。但是啊,怎么说也没有缓和的余地,于是就开始思考这个问题应该怎么解决。我想到的解决办法有以下几个:
1、扩容,提升性能。数据量大,扩磁盘呗,IO使用率高,提升性能么,这是最直接的解决办法,也是最贵的解决办法,首先被砍掉。
2、先备份再删除再还原。rds主库上提前备份日表数据,然后删除数据,此时从库会同步删除数据,然后再将第一步备份的数据还原到从库上。这个办法从可行性上来讲是可以的,因为保证了没有数据丢失。但是操作起来比较麻烦,手续太多,不够方便。
3、使用replicate-ignore-table参数进行对于指定的表进行过滤。设置了这个参数,可以让你过滤指定数据表的所有操作。我们看看官方文档对这个参数的描述,给个链接:https://dev.mysql.com/doc/refman/5.7/en/replication-options-slave.html#option_mysqld_replicate-wild-ignore-table
描述如下:
Creates a replication filter which keeps the slave thread from replicating a statement in which any table matches the given wildcard pattern. To specify more than one table to ignore, use this option multiple times,
上面的意思是你可以使用这个参数创建一个过滤器,从而过滤掉匹配你制定的规则的特定表的操作(听着很绕口),就是说你可以制定过滤规则,加入规则中制定了表a,那么表a的操作就不会同步到从库中了。
这和我们的需求符合,也就是我们如果设置了要过滤的表,那么当我们进行删除表操作的时候,从库中不会对表进行删除,就实现了我们想要的结果。测试一下这个功能吧:
首先我们创建数据库test_ignore,然后在其中创建表:
主库上操作:
mysql :test_ignore >>show tables;
Empty set (0.00 sec)
mysql :test_ignore >>create table aaa (id int not null);
Query OK, 0 rows affected (0.19 sec)
mysql :test_ignore >>create table aab (id int not null);
Query OK, 0 rows affected (0.01 sec)
mysql :test_ignore >>create table aac (id int not null);
Query OK, 0 rows affected (0.00 sec)
mysql :test_ignore >>create table aad (id int not null);
Query OK, 0 rows affected (0.01 sec)
mysql :test_ignore >>create table aae (id int not null);
Query OK, 0 rows affected (0.01 sec)
从库上查看:
mysql :test_ignore >>show tables;
+-----------------------+
| Tables_in_test_ignore |
+-----------------------+
| aaa |
| aab |
| aac |
| aad |
| aae |
+-----------------------+
5 rows in set (0.00 sec)
发现已经同步过来了。此时是处于主从同步状态,如果现在我们在主库上删除表,那么从库上的表一定会删除,这不是我们想要的结果。
很显然,接下来的一步是配置replicate-wild-ignore-table这个参数了,一般情况下,我们需要通过停止从库的服务进行my.cnf文件的配置,如果我们要配置多个表,则需要在my.cnf文件中写多条通配的记录。例如,在本例子中,需要配置该参数的值为test_ignore.aa%,其中%代表通配符,也就是说,test_ignore数据库中形如aa%这种格式的表操作都会被过滤掉。而我们创建的表aaa、aab、aac、aad、aae都是形如这种的,所以针对这几个表的操作一定不会同步到从库了,我们测试一下:
首先查看当前的复制状态:
双Yes状态,说明复制关系没有问题
主库进行操作:
mysql :test_ignore >>drop table aaa;
Query OK, 0 rows affected (0.01 sec)
mysql :test_ignore >>drop table aab;
Query OK, 0 rows affected (0.00 sec)
从库上进行查看:
mysql :test_ignore >>show tables;
+-----------------------+
| Tables_in_test_ignore |
+-----------------------+
| aaa |
| aab |
| aac |
| aad |
| aae |
+-----------------------+
5 rows in set (0.00 sec)
从库上的表还在,说明主库上的操作没有被同步到从库,我们配置的参数
replicate-wild-ignore-table=test_ignore.aa%
起作用了。此时,如果我们在主库上创建一个表:
`主库`
mysql :test_ignore >>create table aaf(id int);
Query OK, 0 rows affected (0.00 sec)
`从库`
mysql :test_ignore >>show tables;
+-----------------------+
| Tables_in_test_ignore |
+-----------------------+
| aaa |
| aab |
| aac |
| aad |
| aae |
+-----------------------+
5 rows in set (0.00 sec)
发现从库并没有同步主库的表aaf,因为aaf也匹配了test_ignore.aa%这条规则。
利用这个特性,我们能够很好的解决这个业务场景,也就是主库删除,从库保留数据。但是,这里要说但是了,这个方法有一个比较严重的问题,就是每次都需要重启从库,如果我们需要配置第二条规则,第三条规则,则需要重启从库2次,3次,这个过程中,从库对于业务方是不可见的,如果无法访问,很可能造成程序报错,这是我们不能忍受的。
这个过程肯定是要解决的,怎么解决呢?能不能找到不停机就能修改复制过滤器的方法?找找官方文档。
果然,停机是不可能停机的,这辈子都不可能停机。官方文档中有这么一句话:
You can also create such a filter by issuing a CHANGE REPLICATION FILTER REPLICATE_WILD_IGNORE_TABLE statement.
我去,这是个啥语句,表示从来没有用过,可以通过在线变更复制过滤器的方法来对过滤器进行修改,看看官方文档中的介绍:
看到了一个神奇的语句,赶紧来试试:
mysql :test_ignore >>change replication filter replicate_wild_ignore_table=("test_ig%.aa%");
ERROR 3017 (HY000): This operation cannot be performed with a running slave sql thread; run STOP SLAVE SQL_THREAD first
mysql :test_ignore >>stop slave;
Query OK, 0 rows affected (0.00 sec)
mysql :test_ignore >>change replication filter replicate_wild_ignore_table=("test_ig%.aa%");
Query OK, 0 rows affected (0.00 sec)
mysql :test_ignore >>start slave;
Query OK, 0 rows affected (0.01 sec)
直接使用,提示需要stop slave sql_thread,想想也能理解,不停止复制直接修改复制的规则好像有点不妥,索性停止了整个复制,然后重新修改复制过滤器,妥了,成功执行,开启复制,一套操作行云流水。
再来看看复制关系中的状态:
忽略的表规则已经变成了test_ig%.aa%,也就是说,以test_ig开头的数据库中以aa开头的表的操作,都不会被同步到从库,包括对表的alter和drop以及create操作。
但这里,方案就出来了,我们知道,日表一般是YYYYMMDD这种形式的,我们只要过滤YYYYMM%这种格式的日表,然后在主库上对它进行删除,这个操作将不会被同步到从库,那么这个问题就可以顺利解决了。
当然,除了这个方案之外,还有一些方案,例如:
如果业务容忍部分数据丢失,我们还可以使用关闭binlog---删表---打开binlog的方式使得从库不会同步主库的drop操作;
线上所有的日表操作都配置成ignore,然后利用触发器将日表中的更新同步到从库中;
这一系列的操作,其实不是从本质上解决问题,本质上还是业务设计的问题,日表中的打点日志太多,可以适当减少这些打点日志,对于打点日志,需要确定保留周期,过期的日志,需要及时清理,保证服务器的指标和性能。
以上就是mysql 如何动态修改复制过滤器的详细内容,更多关于MySQL动态修改复制过滤器的资料请关注云海天教程其它相关文章!
原文链接:https://mp.weixin.qq.com/s?__biz=MzUyNjkzNjQwMQ==&mid=2247485376&idx=1&sn=73932aa024a07d478e84e2441afe6f4c&chksm=fa0677fecd71fee88f941e9a90e97dfd6849711e54c623739a39dfa299fc8f6d58d9935b23c6&scene=21#wechat_redirect
mysql中如何设置过滤器_mysql 如何动态修改复制过滤器相关推荐
- mysql中如何设置定时任务_mysql设置定时任务
今天遇到了个须要天天定时执行的任务,在mysql数据库里面提供了这样的功能,正好整理下分享出来.mysql 1.首先检查是否开启了定时任务sql 查看event是否开启 : SHOW VARIABLE ...
- mysql中如何设置定时任务_mysql如何实现设置定时任务 mysql实现设置定时任务方法...
本篇文章小编给大家分享一下mysql实现设置定时任务方法,小编觉得挺不错的,现在分享给大家供大家参考,有需要的小伙伴们可以来看看. 1.首先检查是否开启了定时任务 查看event是否开启 : SHOW ...
- mysql中sex设置男女_MYSQL常用命令(3)
MYSQL常用命令(3) 白玉 IT哈哈 1.建表 命令:create table ( [,.. ]); create table MyClass( id int(4) not null primar ...
- 在mysql中怎样设置值唯一_mysql怎么设置行值唯一?
mysql可通过给行(字段)添加唯一性约束来设置行值唯一,语法格式"CREATE TABLE 表名 (字段名 数据类型 UNIQUE);"和"ALTER TABLE 表名 ...
- mysql的char在java中表示为_Java学习篇之-Mysql中varchar门类总结_mysql
java学习篇之---mysql中varchar类型总结 Mysql中varchar类型总结 今天新做一个项目,需要自己进行数据库设计,发现自己对varchar的用法还不是很熟悉,所以查阅资料总结若下 ...
- mysql中,输入一个日期,动态的获取每周和每月的实时最后一天
mysql中,输入一个日期,动态的获取每周和每月的实时最后一天 SELECTv.dayStr AS '选定的日期',-- 系统当前日期(SELECTDATE_FORMAT(NOW(), '%Y-%m- ...
- mysql float 怎么设置长度_MySQL中float double decimal区别总结
作者:极客小俊 一个专注于web技术的80后 你不用拼过聪明人,你只需要拼过那些懒人 你就一定会超越大部分人! 下表中规划了每个浮点类型的存储大小和范围: 类型大小范围(有符号)范围(无符号)用途fl ...
- mysql中整理设置__MySQL整理
登录 命令:mysql -h [IP 地址/域名] -P [端口] -u [用户名] -p[密码] 端口默认是3306 mysql -hlocalhost -uroot -p 断开 exit; \q; ...
- mysql中正则表达式的用法_Mysql中正则表达式Regexp常见用法
Mysql中Regexp常见用法 模糊匹配,包含特定字符串 # 查找content字段中包含"车友俱乐部"的记录 select * from club_content where ...
最新文章
- 从零到熟练编写LaTex数学公式,这两篇就够了
- linux安装setup.py程序
- mysql跨库查询 索引_MySQL中跨库查询怎么搞?
- Oracle 1204 RAC failover 测试 (五)
- html 最小长度单位,html见长度单位尺寸单�?CSS布局HTML
- Spring WS Consume Soap Service From WSDL
- 五句话搞定JavaScript作用域
- 为什么数学叫“数学”?
- U8采购订单联查采购入库单
- Bootcamp提示该USB驱动器无法使用
- html怎么设置文字居中对齐
- 关于Release版除法反汇编的小结
- Azure中配置网络安全组入站规则让外部网络访问VM中的网站
- 常用的CSS属性列表汇总
- 解决 Jupyter notebook 运行SHELL 命令(!xxx), 出错: OSError: “/bin/bach“ shell not found
- 计算机方面的英语杂志,计算机类有哪些EI检索的英文期刊
- 概率 插空法和捆绑法
- 近期微信登录10005报错,解决办法
- 推荐系统中的Embedding应用
- Arangodb——操作案例一
热门文章
- SLAM综述之Lidar SLAM
- 在CentOS 6.9 x86_64的nginx 1.12.2上开启标准模块ngx_http_map_module实录
- 在ubuntu 14.04 64bit上安装酷我音乐盒Linux客户端kwplayer
- js中substr,substring,indexOf,lastIndexOf的用法
- C语言的双向链表头插法和尾插法,指定节点删除
- Linux下stat + 文件名后, Access,Modify,Change的含义
- linux命令 iperf-网络性能测试工具
- Error 0162 - Setup data integrity check failure after updating BIOS via Thinkvantage
- 求排列的逆序数(分治)
- 在mybatis中模糊查询有三种写法