Redis性能篇(四)Redis内存碎片

摘要:
Redis由于其高性能而被广泛使用。因此,我们必须关注所有可能影响Redis性能的因素、机制和解决方案。mem_ fragmentation_ ratio:1.86mem_ fragmentation _ ratio,表示Redis当前的内存碎片率;used_memory_Rss是指操作系统实际分配给Redis的物理内存空间,其中包含碎片;used_Memory,表示Redis实际用于保存数据的空间。这表明内存碎片率已超过50%。Redis专门为自动内存碎片整理机制提供参数设置。

Redis被广泛使用的一个很重要的原因是它的高性能。因此我们必要要重视所有可能影响Redis性能的因素、机制以及应对方案。影响Redis性能的五大方面的潜在因素,分别是:

这一讲学习Redis的内存空间存储效率问题,探索一下,为什么数据已经删除了,但内存却闲置着没有用,以及相应的解决方案。

什么是内存碎片

我们用高铁车厢说明,假设一个车厢的座位总共有60个,现在已经卖 了57张票,需要三张连在一起的票,但发现买不到了,只好换一趟车。我们可以把这些分散的空座位叫作“车厢座位碎片”。

内存碎片类似上面高铁座位的例子。虽然操作系统的剩余空间总量足够,但申请一块连续地址空间N字节时,剩余内存空间中没有大小为N字节的连续空间,那么这些剩余空间就是内存碎片

内存碎片是如何形成的?

内存碎片形成有内因和外因。

内因:内存分配器的分配策略

内存分配器的分配策略决定操作系统无法做到“按需分配”。内存分配器必须分配一块固定大小的连续内存空间。

以jemalloc为例,是按照一系列固定的大小划分内存空间,例如8字节、16字节、32字节、...、2KB、4KB等。当程序申请的内存最接近某个固定值时,jemalloc就会给它分配相应大小的空间。

外因:键值对大小不一样和删改操作

一是,前面讲到,内存分配器只能按照固定大小分配内存,所以,分配的内存空间一般都会比申请的空间大一些,不会完全一致,这本身就千万一定的碎片,降低内存空间存储效率。

二是,这些键值被修改和删除,会导致空间的扩容和释放。

大量内存碎片的存在,会造成Redis的内存实际利用率变低。那如何解决这些内存碎片呢?在此之前,我们先来学习如何判断是否有内存碎片。

如何判断是否有内存碎片?

Redis提供INFO命令,用来查询内存使用的详细信息,命令如下:

INFO memory
# Memory
used_memory:1073741736
used_memory_human:1024.00M
used_memory_rss:1997159792
used_memory_rss_human:1.86G
…
mem_fragmentation_ratio:1.86
  • mem_fragmentation_ratio,表示Redis当前的内存碎片率;
  • used_memory_rss,表示操作系统实际分配给Redis的物理内存空间,里面包含了碎片;
  • used_memory,表示Redis为了保存数据实际申请使用的空间。

如何使用这个指标?

  • mem_fragmentation_ratio 大于1但小于1.5。这种情况是合理的。
  • mem_fragmentation_ratio 大于 1.5 。这表明内存碎片率已经超过了50%。一般情况下,这个时候,我们就需要采取一些措施来降低内存碎片率了。

下面介绍如何清理内存碎片了。

如何清理内存碎片?

一个“简单粗暴”的方法是重启Redis实例。但是这个方法会带来两个后果:

  • 如果Redis中的数据没有持久化,数据会丢失;
  • 即使Redis数据持久化了,还需要通过AOF或者RDB来恢复,恢复时长取决于AOF或RDB的大小。并且如果只有一个Redis实例,恢复阶段无法提供服务。

那有没有更好的方法呢?有的,从4.0-RC3版本以后,Redis自身提供了一种内存碎片自动清理的方法。

内存碎片自动清理

内存碎片清理,简单来说,就是“搬家让位,合并空间”。

当有数据把一块连续的内存空间分割成好几块不连续的空间时,操作系统会把数据拷贝到另外,而原来不连续的内存空间就变成连续的内存空间了。

但是碎片清理是有代价的。操作系统需要把多份数据拷贝到新位置,把原有空间释放出来,这会带来时间开销。另外在数据拷贝时,会阻塞Redis,降低性能。

如何缓解这个问题?

Redis专门为自动内存碎片清理机制提供参数设置。可以通过设置参数,来控制碎片清理的开始和结束时机,以及占用的CPU比例,从而减少碎片清理对Redis请求处理的性能影响。

首先,开启自动内存碎片清理:

config set activedefrag yes

然后,设置触发内存清理的条件:

  • active-defrag-ignore-bytes 100mb:表示内存碎片的字节数达到100MB时,开始清理;
  • active-defrag-threshold-lower 10:表示内存碎片空间占操作系统分配给Redis的总空间比例达到10%时,开始清理。

最后,控制清理操作占用CPU时间比例的上、下限:

  • active-defrag-cycle-min 25: 表示自动清理过程所用CPU时间的比例不低于25%,保证清理能正常开展;
  • active-defrag-cycle-max 75:表示自动清理过程所用CPU时间的比例不高于75%,一旦超过,就停止清理,从而避免在清理时,大量的内存拷贝阻塞Redis,导致响应延迟升高。

总结

  • info memory命令是一个好工具,可以帮助你查看碎片率的情况;
  • 碎片率阈值是一个好经验,可以帮忙你有效地判断是否要进行碎片清理了;
  • 内存碎片自动清理是一个好方法,可以避免因为碎片导致Redis的内存实际利用率降低,提升成本收益率。
  • 如果你在实践过程中遇到Redis性能变慢,记得通过日志看下是否正在进行碎片清理。如果Redis的确正在清理碎片,那么,建议你调小active-defrag-cycle-max的值,以减轻对正常请求处理的影响。

参考资料

免责声明:文章转载自《Redis性能篇(四)Redis内存碎片》仅用于学习参考。如对内容有疑问,请及时联系本站处理。

上篇移植Kdump至嵌入式ARM64环境【转】ubuntu 下vscode 修改主题 注释斜体下篇

宿迁高防,2C2G15M,22元/月;香港BGP,2C5G5M,25元/月 雨云优惠码:MjYwNzM=

相关文章

操作系统内存大页(THP)对redis性能的影响

目录 THP THP对redis的影响 关闭THP redis启动日志的warning: WARNING you have Transparent Huge Pages (THP) support enabled in your kernel. This will create latency and memory usage issues...

常用php操作redis命令整理(三)LIST类型

LIST 头元素和尾元素:头元素指的是列表左端/前端第一个元素,尾元素指的是列表右端/后端第一个元素。举个例子,列表list包含三个元素:x, y, z,其中x是头元素,而z则是尾元素。空列表:指不包含任何元素的列表,Redis将不存在的key也视为空列表。 LPUSH 将一个或多个值value插入到列表key的表头。如果key不存在,一个空列表会被创建并...

看大数据时代下的IT架构(1)业界消息队列对比

一、MQ(Message Queue) 即 消息队列,一般用于应用系统解耦、消息异步分发,能够提高系统吞吐量。MQ的产品有很多,有开源的,也有闭源,比如ZeroMQ、RabbitMQ、 ActiveMQ、Kafka/Jafka、Kestrel、Beanstalkd、HornetQ、Apache Qpid、Sparrow、Starling、Amazon SQ...

Shiro 性能优化:解决 Session 频繁读写问题

背景 应对思路 代码实现 背景 Shiro 提供了强大的 Session 管理功能,基于 Shiro 实现 Session 共享非常方便,只需要定制一个我们自己的SessionDAO,并将它绑定给 SessionManager 即可。在我们的 SessionDAO 中,通常会将 Session 保存到 Redis,那么 Shiro 对 Sess...

spring-session之二:简单配置

官方示例:https://docs.spring.io/spring-session/docs/current/reference/html5/#samples 配置Spring Session 在Web项目中配置Spring Session分为四步: 搭建用于Spring Session的数据存储 将Spring Session的jar文件添加到...

java连接redis中的数据查、增、改、删操作的方法

package com.lml.redis;import java.util.HashMap;import java.util.Iterator;import java.util.Map;import java.util.Map.Entry;import java.util.Set;import redis.clients.jedis.Jedis;publ...