内存碎片是如何形成的?
内存碎片的形成有内因和外因两个层面的原因。
1.内因是操作系统的内存分配机制;
2.外因是Redis 的负载特征。
内因:内存分配器的分配策略
内存分配器一般是按固定大小来分配内存,而不是完全按照应用程序申请的内存空间大小给程序分配。
Redis 可以使用 libc、jemalloc、tcmalloc 多种内存分配器来分配内存,默认使用 jemalloc。
jemalloc 的分配策略之一,是按照一系列固定的大小划分内存空间,例如 8 字节、16 字节、32 字节、48 字节,…, 2KB、4KB、8KB 等。当程序申请的内存最接近某个固定值时,jemalloc 会给它分配相应大小的空间。
外因:Redis 的负载特征
键值对大小不一样和删改操作会导致空间的扩容和释放。
一方面,如果修改后的键值对变大或变小了,就需要占用额外的空间或者释放不用的空间。
另一方面,删除的键值对就不再需要内存空间了,此时,就会把空间释放出来,形成空闲空间。
内存碎片带来的问题
大量内存碎片的存在,会造成 Redis 的内存实际利用率变低。
如何判断是否有内存碎片?
Redis提供了 INFO 命令用来查询内存使用的详细信息。
> info memory
# Memory
used_memory:281382720
used_memory_human:268.35M
used_memory_rss:314126336
used_memory_rss_human:299.57M
used_memory_peak:3029275880
used_memory_peak_human:2.82G
used_memory_peak_perc:9.29%
used_memory_overhead:195311654
used_memory_startup:11403664
used_memory_dataset:86071066
used_memory_dataset_perc:31.88%
used_memory_lua:94208
used_memory_lua_human:92.00K
used_memory_scripts:26120
used_memory_scripts_human:25.51K
number_of_cached_scripts:55
maxmemory:4294967296
maxmemory_human:4.00G
maxmemory_policy:volatile-lru
mem_fragmentation_ratio:1.12
mem_allocator:jemalloc-5.1.0
active_defrag_running:0
lazyfree_pending_objects:0
oom_err_count:0
mem_fragmentation_ratio 的指标,它表示的就是 Redis 当前的内存碎片率。
mem_fragmentation_ratio 大于 1 但小于 1.5 是合理的;
mem_fragmentation_ratio 大于 1.5表明内存碎片率已经超过了 50%。一般情况下,我们就需要采取一些措施来降低内存碎片率了。
mem_fragmentation_ratio=used_memory_rss/ used_memory
used_memory_rss 是操作系统实际分配给 Redis 的物理内存空间,里面就包含了碎片;
used_memory 是 Redis 为了保存数据实际申请使用的空间。
如何清理内存碎片?
1.重启Redis实例;
重启过程Redis服务提供服务、AOF/RDB恢复时间受文件大小限制。
2.Redis提供的内存碎片自动清理的方法
从 4.0-RC3 版本以后,Redis 自身提供了一种内存碎片自动清理的方法。
redis.conf中配置:
# yes:开启内存碎片自动清理
# activedefrag yes
# 表示内存碎片的字节数达到 100MB 时,开始清理;
# active-defrag-ignore-bytes 100mb
# 表示内存碎片空间占操作系统分配给 Redis 的总空间比例达到 10% 时,开始清理。
# active-defrag-threshold-lower 10
# 内存碎片超过 100%,则尽最大努力整理
# active-defrag-threshold-upper 100
#为了尽可能减少碎片清理对 Redis 正常请求处理的影响,
#自动内存碎片清理功能在执行时,还会监控清理操作占用的 CPU 时间,
#而且还设置了两个参数,分别用于控制清理操作占用的 CPU 时间比例的上、下限,
#既保证清理工作能正常进行,又避免了降低 Redis 性能。这两个参数具体如下:
# 表示自动清理过程所用 CPU 时间的比例不低于 5%,保证清理能正常开展;
# active-defrag-cycle-min 5
# 表示自动清理过程所用 CPU 时间的比例不高于 75%,一旦超过,就停止清理,
#从而避免在清理时,大量的内存拷贝阻塞 Redis,导致响应延迟升高。
# active-defrag-cycle-max 75
# Maximum number of set/hash/zset/list fields that will be processed from
# the main dictionary scan
# active-defrag-max-scan-fields 1000
操作系统需要把多份数据拷贝到新位置,把原有空间释放出来,这会带来时间开销。因为 Redis 是单线程,在数据拷贝时,Redis 只能等着,这就导致 Redis 无法及时处理请求,性能就会降低。
清理内存碎片由那个线程中执行的?
Redis 是基于事件驱动的,Timer事件和I/O事件会注册到主线程当中,其中内存碎片整理Timer也是在主线程当中执行的。