MySQL如何保证主备一致?_mysql是怎么保证主备一致的-程序员宅基地

技术标签: MySQL实战45讲笔记  mysql  数据库  

1. MySQL主备的基本原理

如下图展示的是基本的主备切换流程:
在这里插入图片描述

在状态1中,主库是A,备库是B,所以客户端的读写都直接方法节点A。由于节点B是节点A的备库,所以备库B只是将A的更新都同步过来,本地执行,这样可以保证节点B和节点A的数据一致性。

如果发生主备切换,就会从状态1变成状态2,节点A成为备库,节点B成为主库。

在状态1中,虽然节点B没有被客户端直接方法,但是还是建议将节点B(备库)设置成只读(readonly)模式,主要有以下几个理由:

  1. 避免某些服务访问了备库,造成误操作;
  2. 防止切换逻辑有bug,比如切换过程中出现双写,造成主备不一致;
  3. 可以用readonly状态,来判断节点的角色;

注意:readonly对于超级管理员是无效的,而用于同步更新的线程,就拥有超级权限,所以是可以修改备库的。

接下来我们看下节点A到节点B的流程图:
在这里插入图片描述

实际上备库B和主库A之间维持了个长连接,主库A中有一个线程(dump_thread),专门用于服务和备库B的长连接。日志同步的完整过程如下:

  1. 在备库B上通过change master命令,设置主库A的相关信息,以及要从哪个位置开始请求binlog;
  2. 在备库B上执行start slave命令,备库会启动两个线程,即io_thread和sql_thread,其中io_thread负责与主库通信;
  3. 主库A校验完信息后,根据备库B转过来的位置,本地读取binlog,传递给B;
  4. 备库拿到binlog后,写到本地文件,称为中转日志(relay log);
  5. sql_thread读取中转日志,解析出命令并执行;

2. binlog的三种格式

binlog的格式实际上由两种格式,一种是statement,一种是row。此外还有一种mixed格式,实际上是前两种的混合。

为了方便解释几种日志格式的区别,我们创建一个表并写入些数据。

mysql> create table t(
    id int(11) not null,
    a int(11) default null,
    t_modified timestamp not null default current_timestamp,
    primary key (id),
    key a(a),
    key t_modified (t_modified)
)ENGINE=InnoDB;

insert into t values(1,1,'2018-11-13')
insert into t values(2,2,'2018-11-12')
insert into t values(3,3,'2018-11-11')
insert into t values(4,4,'2018-11-10')
insert into t values(5,5,'2018-11-09')

然后,我们对于这个表执行delete语句:

mysql>delete from t /*comment*/ where a>=4 and t_modified <='2018-11-10' limit 1;

我们可以使用下面的命令来查看binlog中的内容:

mysql> show binlog events in 'master.000001'

可以看到,当binlog_format=statement时,binlog里面记录的就是sql原文
在这里插入图片描述

为了比较statment和row的区别,我们看下这条delete语句的执行图:
在这里插入图片描述

从图上可以看到,运行过程中产生了一个warnings,原因是binlog设置的格式时statement,并且语句中有limit,所以时unsafe的。那为什么说是unsafe呢?

  • 如果delete语句使用的是索引a,那么会根据索引a找到第一个满足条件的行,也就是a=4这一行。
  • 如何delete语句使用的是索引t_modified,那么删除的就是a=5这一行。

所以使用statement可能会造成主备不一致的情况。如果在主库和备库中执行这条SQL语句,走的索引不一样,就会出现数据不一致性。

我们接下来再看binlog_format=row的情况,下面是binlog中的内容:
在这里插入图片描述

从图上可以看到,row格式的binlog没有写SQL语句的原文,而是替换成了两个event

  • Table_map event:说明要操作的表是test库的表t;
  • Delete_rows event:定义删除哪一行

上面实际上是没有完全显示信息的,可以借助mysqlbinlog工具查看详细信息:
在这里插入图片描述

所以,当binlog_format=row时,binlog记录了真实删除行的主键id,这样即使在备库中,也是删除这一行,不会出现主备不一致的情况。

3. 为什么会有mixd格式的binlog?

从上面的描述中,我们可以很清楚地看到statement和row格式的优缺点:

  • statement:格式节省空间,只需要记录sql语句。但是可能会出现主备不一致的情况;
  • row:不会出现主备不一致的情况。但是格式十分消耗空间,需要记录所有修改的行。

mixed格式的意思是,MySQL会自己判断这条SQL语句是否可能引起主备不一致,如果有可能,就用row格式,否则就用statement格式

所以线上的场景,设置为statement格式肯定是不合理的,至少要设置成mixed格式。

实际上,现在越来越多都是使用row格式,其中一个好处就是恢复数据

  • 当执行delete语句后,发现误删了,直接将binlog中的信息,转换成insert语句插入即可
  • 当执行insert语句后,发现错误插入了,直接将binlog中的信息,转换成delete语句插入即可
  • 如果执行的是update语句,binlog会记录修改前后的信息,方面恢复

4. 循环复制问题

刚才介绍的是M-S结构,现在用的比较多的是双M结构,如下图:
在这里插入图片描述

这个和M-S结构的区别在于,节点A和节点B之间互为主备关系。这种架构有个问题:当节点A更新了数据,写入binlog_A,然后传给节点B,节点B也会执行更新,写入binlog_B。然后由于节点B更新了,节点A又会去执行节点B的更新,就造成一个死循环的情况。

为了避免这种情况,MySQL在binlog中记录了这个命令第一次执行时所在实例的server id

  1. 规定两个库的server id必须不同,如果相同,不能互为主备;
  2. 一个备库接到binlog进行重放的时候,生成与原binlog的server id相同的新binlog;
  3. 每个库在收到从自己的主库发过来的日志后,先判断server id,如果和自己相同,说明时自己第一次生成的,就直接丢弃这个日志。

来源:自己整理的MySQL实战45讲笔记

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/weixin_41799019/article/details/128039578

智能推荐

cocos creator 龙骨黑边问题解决_cocoscreator 骨骼动画去掉黑边-程序员宅基地

文章浏览阅读1k次。1、龙骨纹理中将预乘勾选2、龙骨组件中将也将预乘勾选龙骨的黑边也就解决了_cocoscreator 骨骼动画去掉黑边

el-table 点击当前行 点亮单选按钮 基本配置_el-table 单选和点击行单选-程序员宅基地

文章浏览阅读394次。current-change="handleSelectionChange"  //单选方法,返回选中的表格行。higlight-current-row   // element-ui提供的单选方法,可以使当前选中行高亮。handleSelectionChange的方法使用this.radio = row.id来选中单选按钮。:label的绑定属性为:label="scope.row.id",采用每条项目唯一的标识值。@row-click="chooseone":单击数据行。_el-table 单选和点击行单选

Mongodb优化配置项_mongo缓存配置-程序员宅基地

文章浏览阅读992次。如果写入的数据是读取的数据,就会直接读取脏数据。满足eviction_dirty_trigger或者eviction_trigger,用户线程参与evict数据,所有的数据库操作将会被堵塞。应避免脏数据写满,或者调整eviction_dirty_trigger比例,避免用户线程参与evict数据。通过调整checkpoint的wait时间,即时把脏数据写入磁盘,避免用户线程参与evict数据。默认evict线程为4,调整evict线程数,提高evict速度。允许并发写入的最大值,默认128。_mongo缓存配置

led裸机程序分析三(头文件Memcfg.ini)_melcfg.ini-程序员宅基地

文章浏览阅读179次。在mini2440的myled裸机程序中头文件 中,Memcfg.ini这个头文件定义了存储器的相关配置(对存储器相关寄存器值的配置,这里对寄存器的相关配置最终会被init.s调用来初始化CPU);************************************************; NAME : MEMCFG.A; DESC : Memory bank config..._melcfg.ini

数据标准化在机器学习中的应用及未来发展方向_标准化 机器学习-程序员宅基地

文章浏览阅读794次。2020年,数据科学和机器学习进入了一个新时代,其对人的工作、社会和经济产生了巨大的影响。数据驱动的机器学习模型正在成为日益重要的数据指标,支配着许多领域,如电商、金融、保险、医疗等领域。而数据标准化则是数据处理过程中不可或缺的一环。标准化可以确保数据的整体性、一致性和准确性。它可以通过有效的措施将不同源头的数据转换成统一格式,提升模型的训练效果,缩小数据集的规模。因此,数据标准化是非常重要的一个过程,也是数据科学中关键的一步。_标准化 机器学习

Mybatis-Plus 之【数据源配置(含多数据源配置)】_mybatisplus多数据源-程序员宅基地

文章浏览阅读7.6k次,点赞9次,收藏47次。SpringBoot+Mybatis-plus数据源配置及实现多数据源动态切换【@DS()、多数据源配置、AOP自定义注解】_mybatisplus多数据源

随便推点

Pedestrian Alignment Network for Large-scale Person Re-identification(对齐并利用空间变换网络stn)-程序员宅基地

文章浏览阅读758次。年份:1707.ICCV.论文:https://arxiv.org/pdf/1707.00408.pdf代码(.m的代码):https://github.com/layumi/Pedestrian_Alignment本论文着重对错检和body部分缺失引起的尺度和姿态变化问题研究(如上图),前者可能会使检测得到的图像含有过多的背景,后者则是局部缺失,由此产生的misa lignment对rei..._pedestrian alignment network for large-scale person re-identification

vue【封装 Vue.js 组件库】_vue封装js库-程序员宅基地

文章浏览阅读237次。一、组件库有哪些element-iu iview CDD (Component-Driven Development) 自下而上 从组件级别开始,到页面级别结束 CDD 的好处 组件在最大程度被重用 并行开发 可视化测试 二、组件库开发流程1、处理组件的边界情况$root 小型应用中可以在 vue 根实例里存储共享数据,组件中可以通过 $root 访问根实例 $parent / $children $parent $childre..._vue封装js库

php 数据处理:数组根据某字段进行分组_php 按某个字段分组-程序员宅基地

文章浏览阅读1.6w次。这种数据分组操作比较常用,记录一下,可以直接复制使用 /** * @description:根据数据 * @param {dataArr:需要分组的数据;keyStr:分组依据} * @return: */ protected function dataGroup(array $dataArr,string $keyStr) :..._php 按某个字段分组

理解spring任务调度timer,Quartz,spring task_spring task和quartz-程序员宅基地

文章浏览阅读423次。1.timer 指调用java.util.timer类来调用一个java.util.TimerTask的任务来实现每隔多长时间运行一次。 注意:timer不能实现在指定时间来运行。例如明天的2:00运行任务,不能实现。 spring-context中集成了timer调用所需的类,所以只需要拿来使用即可。 下面是具体的做法: <1>定义基础类Timetest,里面的run方法,就是你要定时执_spring task和quartz

开源 java CMS - FreeCMS2.2发布_freecms 发布word文章-程序员宅基地

文章浏览阅读1.1k次。项目地址:http://www.freeteam.cn/FreeCMS商业版V2.2更新功能1.增加freecms_uploadfile表,存放信息上传的附件,使附件可以保存原文件名,并可排序。2.增加uploadfile标签提取附件。3.信息内容增加导入word功能,支持doc,docx格式,可直接生成word中的图片。4.增加栏目和信_freecms 发布word文章

linux之vifm和ranger操作文件管理器使用总结-程序员宅基地

文章浏览阅读1.2w次。1、介绍vifm和rangervifm和ranger都是有图形的文件管理操作,有点类是windows上面的“我的电脑”2、安装vifm和ranger在终端输入下面命令sudo apt-get install vifmsudo apt-ger install ranger3、常规使用vifm安装成功之后,我们在控制台输入vifm命令,然后显示下面_vifm