文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

Redis的数据复制过程详解

2022-12-22 09:30

关注

介绍 Redis 的复制

Redis 的复制功能分为同步(sync)和命令传播(command propagate)这两个操作

如果主从服务器双方的数据库保存相同的数据,我们称主从服务器的数据库状态一致

当从服务器第一次连接主服务器时,Redis 使用全量复制进行数据同步。

当从服务器在断线后重新连接主服务器时,Redis 使用增量复制进行数据同步。

完整重同步

全量复制,也被称为完整重同步。

当客户端向从服务器发送 slaveof 命令,要求从服务器复制主服务器时,从服务器首先需要执行同步操作,将从服务器的数据库状态更新至主服务器当前所处的数据库状态。

从服务器对主服务器的完整重同步操作,需要通过向主服务器发送 psync 命令来完成。psync 的命令为:psync ? -1

psync 命令在完整重同步模式下的的执行步骤:让主服务器创建并发送 RDB 文件,以及主服务器向从服务器发送保存在缓冲区里面的写命令来进行同步。

需要注意的是:

从库在开始和主库进行数据复制前,可能保存了其他数据。为了避免之前数据的影响,从库在收到主库发送的 RDB 文件后,会先把自己当前的数据库清空。

Redis的数据复制过程详解

介绍 偏移量 & 积压缓冲区 & 运行ID

部分重同步功能通过以下三个部分来实现:

复制偏移量

主服务器和从服务器会分别维护一个复制偏移量:

通过对比主从服务器的复制偏移量,程序可以很容易地知道主从服务器是否处于一致状态:

复制积压缓冲区

复制积压缓冲区(repl_backlog_buffer)是由主服务器维护的一个固定长度的先进先出(FIFO)队列。

固定指的是,当入队元素的数量大于队列长度时,最先入队的元素会被弹出,而新元素会被放入队列。或者理解复制积压缓冲区为一个环形缓冲区。

当主服务器进行命令传播时,它不仅会将写命令发送给所有从服务器,还会将写命令入队到复制积压缓冲区里面。

Redis的数据复制过程详解

因此,主服务器的复制积压缓冲区里面会保存着一部分最近传播的写命令,并且复制积压缓冲区会为队列中的每个字节记录相应的复制偏移量。

Redis的数据复制过程详解

当从服务器在断线后重新连接主服务器时,从服务器会通过 psync 命令将自己的复制偏移量 offset 发送给主服务器,主服务器会根据这个复制偏移量来决定对从服务器执行完整重同步还是部分重同步操作:

复制积压缓冲区的大小

Redis 为复制积压缓冲区设置的默认大小为 1MB,如果主服务器需要执行大量的写命令,又或者主从服务器断线后重连接所需的时间比较长,那么这个大小也许并不合适。我们可以通过 repl-backlog-size 选项修改复制积压缓冲区的大小。

如果复制积压缓冲区的大小设置得不恰当,那么 psync 命令的部分重同步复制就不能正常发挥作用。因此,正确估算和设置复制积压缓冲区的大小非常重要。

为了保证主从服务器断线并重连接后可以使用部分重同步功能,我们需要保证复制积压缓冲区的大小足够大。复制积压缓冲区的最小大小可以根据公式 second * write_size_per_second 来估算:

例如,如果主服务器平均每秒产生1 MB的写数据,而从服务器断线之后平均要 5 秒才能重新连接上主服务器,那么复制积压缓冲区的大小就不能低于 5 MB。

为了安全起见,可以将复制积压缓冲区的大小设为: 2 * second * write_size_per_second,这样可以保证绝大部分断线情况都能用部分重同步来处理。

服务器运行 ID

每个 Redis 服务器,不论主服务器还是从服务,都会有自己的运行 ID。运行 ID 在服务器启动时自动生成,由 40 个随机的十六进制字符组成,例如:53b9b28df8042fdc9ab5e3fcbbbabff1d5dce2b3。

当从服务器对主服务器进行初次复制时,主服务器会将自己的运行 ID 发送给从服务器,而从服务器会将主服务器的这个运行 ID 保存起来。 当从服务器断线并重新连上一个主服务器时,从服务器将向当前连接的主服务器发送之前保存的主服务器的运行 ID:

部分重同步

增量复制,也被称为部分重同步。

在 Redis 中,从库对主库的复制可以分为以下两种情况:

在 Redis 2.8 之前,如果主从库在命令传播时出现了网络中断,那么在断线重连后,从库会和主库重新进行一次全量复制,开销非常大。

从 2.8 版本开始,Redis 引入了部分重同步功能。部分重同步指的是,从服务器只同步主服务器的部分数据。当从服务器在断线后重新连接主服务器时,如果条件允许,主服务器可以将主从服务器连接断开期间执行的写命令发送给从服务器,从服务器只要接收并执行这些写命令,就可以将数据库更新至主服务器当前所处的状态。

执行部分重同步是有前提条件的。

当从服务器对主服务器进行初次复制时,主服务器会将自己的运行 ID 发送给从服务器,而从服务器会将主服务器的这个运行 ID 保存起来。 当从服务器断线并重新连上一个主服务器时,从服务器会通过 psync 命令将自己的复制偏移量 offset 和 之前保存的主服务器的运行 ID 发送给主服务器。

主服务器会根据这个复制偏移量 和 运行ID 来决定对从服务器执行完整重同步还是部分重同步操作:

从服务器对主服务器的部分重同步操作,需要通过向主服务器发送 psync 命令来完成。psync 命令为:psync < runID > < offset >

Redis的数据复制过程详解

psync 命令

从服务器对主服务器的同步操作,需要通过向主服务器发送 psync 命令来完成。

psync 命令具有完整重同步(full resynchronization)和部分重同步 (partial resynchronization)两种模式:

psync 命令的调用方法有两种:

根据情况,接收到 psync 命令的主服务器会向从服务器返回以下三种回复的其中一种:

命令传播

主服务器通过向从服务器传播命令来更新从服务器的状态,保持主从服务器一致。

当完成了同步之后, 主从服务器就会进入命令传播阶段, 这时主服务器只要一直将自己执行的写命令发送给从服务器, 而从服务器只要一直接收并执行主服务器发来的写命令, 就可以保证主从服务器一直保持一致了。

主服务器进行命令传播时,它不仅会将写命令发送给所有从服务器,还会将写命令入队到复制积压缓冲区里面。

心跳检测

从服务器通过向主服务器发送命令来进行心跳检测,以及命令丢失检测。

在命令传播阶段,从服务器默认会以每秒一次的频率,向主服务器发送命令:replconf ack <replication_offset>。其中 replication_offset 是从服务器当前的复制偏移量。

发送 replconf ack 命令对于主从服务器有三个作用:

检测主从服务器的网络连接状态。

主从服务器可以通过发送和接收 replconf ack 命令来检查两者之间的网络连接是否正常:如果主服务器超过一秒钟没有收到从服务器发来的 replconf ack 命令,那么主服务器就知道主从服务器之间的连接出现问题了。

通过向主服务器发送 info replication 命令,在列出的从服务器列表的 lag 一栏中,我们可以看到相应从服务器最后一次向主服务器发送 replconf ack 命令距离现在过了多少秒。在一般情况下,lag 的值应该在 0 秒或者 1 秒之间跳动,如果超过 1 秒的话,那么说明主从服务器之间的连接出现了故障。

辅助实现 min-slaves 选项。

Redis 的 min-slaves-to-write 和 min-slaves-max-lag 两个选项可以防止主服务器在不安全的情况下执行写命令。

举个例子,如果我们向主服务器提供以下设置:

那么在从服务器的数量少于 3 个,或者 3 个从服务器的延迟(lag)值都 ≥ 10 秒时,主服务器将拒绝执行写命令,这里的延迟值就是上面提到的 info replication 命令的 lag 值。

检测命令丢失。

如果因为网络故障,主服务器传播给从服务器的写命令在半路丢失,那么当从服务器向主服务器发送 replconf ack 命令时,主服务器将发觉从服务器当前的复制偏移量少于自己的复制偏移量,然后主服务器就会根据从服务器提交的复制偏移量,在复制积压缓冲区里面找到从服务器缺少的数据,并将这些数据重新发送给从服务器。

参考资料

《Redis设计与实现》

到此这篇关于Redis的数据复制的文章就介绍到这了,更多相关Redis的数据复制内容请搜索我们以前的文章或继续浏览下面的相关文章希望大家以后多多支持我们!

阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-数据库
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯