Redis基础知识四

前言

写给自己,关于redis基础知识的整理,学习redis的过程,记录和笔记。

1. Redis持久化

Redis的持久化有两种方式:RDB和AOF,redis默认采用的是RDB的方式。

2. RDB持久化策略

在指定的时间间隔内将内存中的数据集快照写入磁盘,它恢复时是将快照文件直接读到内存里。在默认配置中,Redis将内存数据库快照保存在名字为dump.rdb的二进制文件中。 可以配置持久化策略:save N M,让redis在“N秒内至少有M个改动”才会触发一次rdb持久化操作。 例如redis的默认策略有:

/**
save 900 1   -- 900秒内至少有一个改动
save 300 10		-- 300秒内至少有10个改动
save 60 10000	-- 60秒内至少有10000个改动
*/

2.1 RDB备份是如何执行的

Redis会单独创建(fork)一个子进程来进行持久化,会先将数据写入到 一个临时文件中,待持久化过程都结束了,再用这个临时文件替换上次持久化好的文件。 整个过程中,主进程是不进行任何IO操作的,这就确保了极高的性能 如果需要进行大规模数据的恢复,且对于数据恢复的完整性不是非常敏感,那RDB方式要比AOF方式更加的高效。RDB的缺点是最后一次持久化后的数据可能丢失

2.1.1 Fork解释和配置:

/**
1、Fork的作用是复制一个与当前进程一样的进程。新进程的所有数据(变量、环境变量、程序计数器等) 数值都和原进程一致,但是是一个全新的进程,并作为原进程的子进程
2、在Linux程序中,fork()会产生一个和父进程完全相同的子进程,但子进程在此后多会exec系统调用,出于效率考虑,Linux中引入了“写时复制技术”
3、一般情况父进程和子进程会共用同一段物理内存,只有进程空间的各段的内容要发生变化时,才会将父进程的内容复制一份给子进程。
*/

RDB配置

/**
1、rdbcompression yes :
对于存储到磁盘中的快照,可以设置是否进行压缩存储。如果是的话,redis会采用LZF算法进行压缩。
如果你不想消耗CPU来进行压缩的话,可以设置为关闭此功能。推荐yes.
2、stop-writes-on-bgsave-error:
当Redis无法写入磁盘的话,直接关掉Redis的写操作。推荐yes
3、dir ./ :
.rdb文件存放位置
4、dbfilename dump.rdb :
在redis.conf中配置文件名称,默认为dump.rdb
5、save 3600 1 
3600内,至少一次key的修改操作,会触发save

*/

2.1.2 save和bgsave对比

2.2 RDB的优缺点

2.2.1 缺点:

/**
1、RDB每次持久化需要将所有内存数据写入文件,然后替换原有文件,当内存数据量很大的时候,频繁的生成快照会很耗性能。
2、如果将生成快照的策略设置的时间间隔很大,会导致redis宕机的时候丢失过的的数据。
3、Fork的时候,内存中的数据被克隆了一份,大致2倍的膨胀性需要考虑
4、虽然Redis在fork时使用了写时拷贝技术,但是如果数据庞大时还是比较消耗性能。
5、在备份周期在一定间隔时间做一次备份,所以如果Redis意外down掉的话,就会丢失最后一次快照后的所有修改。

*/

2.2.2 优点:

/**
1、应为dump.rdb文件是二进制文件,所以当redis服务崩溃恢复的时候,能很快的将文件数据恢复到内存之中。
2、适合大规模的数据恢复
3、对数据完整性和一致性要求不高更适合使用
4、节省磁盘空间
*/

3. AOF持久化策略

3.1 AOF持久化策略是什么?

以日志的形式来记录每个写操作(增量保存),将Redis执行过的所有写指令记录下来(读操作不记录), 只许追加文件但不可以改写文件,redis启动之初会读取该文件重新构建数据,换言之,redis 重启的话就根据日志文件的内容将写指令从前到后执行一次以完成数据的恢复工作

3.2 AOF持久化流程

/**
1、客户端的请求写命令会被append追加到AOF缓冲区内;
2、AOF缓冲区根据AOF持久化策略[always,everysec,no]将操作sync同步到磁盘的AOF文件中;
3、AOF文件大小超过重写策略或手动重写时,会对AOF文件rewrite重写,压缩AOF文件容量;
4、Redis服务重启时,会重新load加载AOF文件中的写操作达到数据恢复的目的
*/

3.3 AOF持久化配置

为解决RDB方式丢失数据的问题,从1.1版本开始,redis增加了一种更加可靠的方式:AOF持久化方式。在使用AOF方式时,redis每执行一次修改数据命令,都会将该命令追加到appendonly.aof文件中(先写入os cache,然后通过fsync刷盘)。 可以通过修改配置文件来使用AOF:

# appendonly yes

redis重启的时候,会重放appendonly.aof中的命令恢复数据。 AOF可以配置三种刷盘策略:

# appendfsync always:每次执行写命令都会刷盘,非常慢,也非常安全。
# appendfsync everysec:每秒刷盘一次,兼顾性能和安全。
# appendfsync no:将刷盘操作交给系统,很快,不安全。
-------------推荐使用--------------
推荐使用everysec,该策略下,最多会丢1秒的数据。

3.3.1 AOF开启/修复/恢复

可以通过修改配置文件来使用AOF:

# appendonly yes
------------------其他知识点----------------
1、AOF持久化策略默认不开启,可以在redis.conf中配置文件名称,默认为 appendonly.aof。AOF文件的保存路径,同RDB的路径一致。
2、AOF和RDB同时开启,系统默认取AOF的数据(数据不会存在丢失)

AOF的备份机制和性能虽然和RDB不同, 但是备份和恢复的操作同RDB一样,都是拷贝备份文件,需要恢复时再拷贝到Redis工作目录下,启动系统即加载。

/**
正常恢复
	修改默认的appendonly no,改为yes
	将有数据的aof文件复制一份保存到对应目录(查看目录:config get dir)
	恢复:重启redis然后重新加载

异常恢复
	修改默认的appendonly no,改为yes
	如遇到AOF文件损坏,通过/usr/local/bin/redis-check-aof--fix appendonly.aof进行恢复
	备份被写坏的AOF文件
	恢复:重启redis,然后重新加载
*/

3.3.2 重写机制

3.3.2.1 什么是重写机制

AOF采用文件追加方式,文件会越来越大为避免出现此种情况,新增了重写机制, 当AOF文件的大小超过所设定的阈值时,Redis就会启动AOF文件的内容压缩, 只保留可以恢复数据的最小指令集.可以使用命令bgrewriteaof

3.3.2.2 重写机制的原理

AOF文件持续增长而过大时,会fork出一条新进程来将文件重写(也是先写临时文件最后再rename),redis4.0版本后的重写,是指上就是把rdb 的快照,以二级制的形式附在新的aof头部,作为已有的历史数据,替换掉原来的流水账操作。 1、no-appendfsync-on-rewrite=yes :不写入aof文件只写入缓存,用户请求不会阻塞,但是在这段时间如果宕机会丢失这段时间的缓存数据。(降低数据安全性,提高性能) 2、no-appendfsync-on-rewrite=no, 还是会把数据往磁盘里刷,但是遇到重写操作,可能会发生阻塞。(数据安全,但是性能降低)

3.3.2.3 何时触发重写

Redis会记录上次重写时的AOF大小,默认配置是当AOF文件大小是上次rewrite后大小的一倍且文件大于64M时触发

重写虽然可以节约大量磁盘空间,减少恢复时间。但是每次重写还是有一定的负担的,因此设定Redis要满足一定条件才会进行重写。

auto-aof-rewrite-percentage:设置重写的基准值,文件达到100%时开始重写(文件是原来重写后文件的2倍时触发)

auto-aof-rewrite-min-size:设置重写的基准值,最小文件64MB。达到这个值开始重写。

例如:文件达到70MB开始重写,降到50MB,下次什么时候开始重写?100MB 系统载入时或者上次重写完毕时,Redis会记录此时AOF大小,设为base_size, 如果Redis的AOF当前大小>= base_size +base_size*100% (默认)且当前大小>=64mb(默认)的情况下,Redis会对AOF进行重写。

3.3.2.4 重写流程

(1)bgrewriteaof触发重写,判断是否当前有bgsave或bgrewriteaof在运行,如果有,则等待该命令结束后再继续执行。 (2)主进程fork出子进程执行重写操作,保证主进程不会阻塞。 (3)子进程遍历redis内存中数据到临时文件,客户端的写请求同时写入aof_buf缓冲区和aof_rewrite_buf重写缓冲区保证原AOF文件完整以及新AOF文件生成期间的新的数据修改动作不会丢失。 (4)1).子进程写完新的AOF文件后,向主进程发信号,父进程更新统计信息。2).主进程把aof_rewrite_buf中的数据写入到新的AOF文件。 (5)使用新的AOF文件覆盖旧的AOF文件,完成AOF重写。

3.3.3 AOF持久化优缺点

1、缺点:

/**
1、比起RDB占用更多的磁盘空间。
2、恢复备份速度要慢。
3、每次读写都同步的话,有一定的性能压力。
4、存在个别Bug,造成恢复不能。

*/

2、优点

/**
1、备份机制更稳健,丢失数据概率更低。
2、可读的日志文本,通过操作AOF稳健,可以处理误操作。

*/

3.3 小结

官方推荐两个都启用。 如果对数据不敏感,可以选单独用RDB。 不建议单独用 AOF,因为可能会出现Bug。 如果只是做纯内存缓存,可以都不用。

4. Redis主从复制

4.1 什么是主从复制

主从复制:是指将一台Redis服务的数据,复制到其他Redis服务器上。前者称为主节点(master),后者称为从节点(slave)。数据的复制是单向的,只能从主节点到从节点

4.2 主从复制能干哈

1,数据冗余,实现数据的热备份,这也是持久化实现的另一种方式。

2,针对单机故障问题,一个节点故障,其他节点可以提供服务,不影响用户使用。实现了快速恢复故障,这也是服务冗余。

3,读写分离,master服务主要用来写,slave服务主要用来读数据。可以提高服务器的负载能力,可以根据需求的变化,添加从节点的数量。

4,负载均衡,同时配合读写分离,由主节点提供写服务,从节点提供读服务,分担服务器的负载。在写少读多的情况下,通过多个从节点分担读负载,能够大大提高Redis服务的并发量和负载。

5,高可用的基石,主从复制是哨兵和集群模式能够实施的基础。
end
  • 作者:旭仔(联系作者)
  • 发表时间:2022-06-05 19:57
  • 版权声明:自由转载-非商用-非衍生-保持署名
  • 转载声明:如果是转载栈主转载的文章,请附上原文链接
  • 公众号转载:请在文末添加作者公众号二维码(公众号二维码见右边,欢迎关注)
  • 评论