压缩列表-ziplist
概述
压缩列表(ziplist)是 列表键 和 哈希键 的 底层实现之一
当一个列表键只包含少量列表项,并且每个列表项要么就是小整数值,要么就是长度比较短的字符串,那么Redis就会使用压缩列表来做列表键的底层实现
另外,当一个哈希键只包含少量键值对,比且每个键值对的键和值要么就是小整数值,要么就是长度比较短的字符串,那么Redis就会使用压缩列表来做哈希键的底层实现
压缩列表
压缩列表 是 Redis 为了 节约内存而开发的,是由 一系列 特殊编码 的 连续内存块 组成的 顺序型(sequential)数据结构
一个压缩列表 可以包含 任意多个节点(entry),每个节点 可以保存 一个字节数组 或 者一个整数值
下面两张图分别展示了压缩列表的各个组成部分 和 各个组成部分的类型、长度以及用途
压缩列表节点-entry
每个压缩列表节点 可以保存 一个字节数组 或 者一个整数值,其中,字节数组可以是以下三种长度的其中一种
- 长度小于等于63(2 6–1)字节的字节数组
- 长度小于等于16383(2 14–1)字节的字节数组
- 长度小于等于4294967295(2 32–1)字节的字节数组;
而整数值则可以是以下六种长度的其中一种
- 4位长,介于0至12之间的无符号整数
- 1字节长的有符号整数
- 3字节长的有符号整数
- int16_t类型整数
- int32_t类型整数
- int64_t类型整数
每个压缩列表节点都由previous_entry_length、encoding、content三个部分组成。如下所示:
previous_entry_length属性
节点的previous_entry_length
属性 以 字节为单位,记录了 压缩列表中 前一个节点 的 长度previous_entry_length
属性的长度可以是1字节或者5字节
- 如果前一节点的长度小于254字节,那么
previous_entry_length
属性的长度为1字节,前一节点的长度就保存在这一个字节里面 - 如果前一节点的长度大于等于254字节,那么
previous_entry_length
属性的长度为5字节,其中属性的第一字节会被设置为0xFE(十进制值254),而之后的四个字节则用于保存前一节点的长度
因为节点的previous_entry_length
属性记录了前一个节点的长度,所以程序可以通过指针运算,根据当前节点的起始地址来计算出前一个节点的起始地址
压缩列表的 从表尾 向 表头 的遍历操作 就是使用 这一原理实现的,只要拥有了一个 指向某个节点 起始地址的指针,那么通过这个指针 以及 这个节点的previous_entry_length
属性,程序就可以 一直 向前一个节点 回溯,最终到达压缩列表的表头节点
encoding属性
节点的encoding
属性 记录了 节点的 content属性 所保存数据的类型以及长度
- 一字节、两字节或者五字节长,值的最高位为00、01或者10的是字节数组编码,这种编码 表示 节点的
content
属性 保存着 字节数组,数组的长度 由 编码 除去 最高两位之后 的 其他位 记录 - 一字节长,值的最高位以11开头的是整数编码,这种编码 表示 节点的
content
属性 保存着 整数值,整数值的类型和长度 由 编码 除去 最高两位之后 的 其他位记录
字节数组编码
整数编码
content
节点的content
属性 负责保存 节点的值,节点值 可以是 一个字节数组 或者 整数,值的类型和长度 由 节点的encoding
属性决定
压缩列表的连锁更新
考虑这样一种情况,在一个压缩列表中,有多个连续的、长度介于250字节到253字节之间的节点e1至eN
因为e1至eN的所有节点的长度都小于254字节,所以记录这些节点的长度只需要1字节长的previous_entry_length
属性
换句话说,e1至eN的所有节点的previous_entry_length
属性都是1字节长的
这时,如果将一个长度大于等于254字节的新节点new 设置为 压缩列表的表头节点,那么new将成为e1的前置节点
因为e1的previous_entry_length
属性仅长1字节,它没办法保存新节点new的长度,所以 程序 将对 压缩列表(的)执行空间 重分配操作,并将e1节点的previous_entry_length
属性从原来的1字节长扩展为5字节长
麻烦的事情来了,e1原本的长度介于250字节至253字节之间,在为previous_entry_length
属性新增四个字节的空间之后,e1的长度就变成了介于254字节至257字节之间,而这种长度使用1字节长的previous_entry_length属性是没办法保存的
因此,为了让e2的previous_entry_length
属性可以记录下e1的长度,程序需要再次对压缩列表执行空间重分配操作,并将e2节点的previous_entry_length
属性从原来的1字节长扩展为5字节长
正如扩展e1引发了对e2的扩展一样,扩展e2也会引发对e3的扩展,而扩展e3又会引发对e4的扩展……为了让每个节点的previous_entry_length
属性都符合压缩列表对节点的要求,程序需要不断地对压缩列表执行空间重分配操作,直到eN为止
Redis将这种在特殊情况下 产生的 连续多次 空间扩展操作 称之为 “连锁更新”(cascade update)
除了添加新节点可能会引发连锁更新之外,删除节点也可能会引发连锁更新
考虑图7-14所示的压缩列表,如果e1至eN都是大小介于250字节至253字节的节点,big节点的长度大于等于254字节(需要5字节的previous_entry_length
来保存),而small节点的长度小于254字节(只需要1字节的previous_entry_length
来保存),那么当将small节点从压缩列表中删除之后,为了让e1的previous_entry_length
属性可以记录big节点的长度,程序将扩展e1的空间,并由此引发之后的连锁更新
因为 连锁更新 在最坏情况下 需要对 压缩列表 执行N次 空间重分配操作,而每次空间重分配的最坏复杂度为O(N),所以连锁更新的最坏复杂度为O(N 2)
要注意的是,尽管连锁更新的复杂度较高,但它真正造成性能问题的几率是很低的
- 首先,压缩列表里要恰好有多个连续的、长度介于250字节至253字节之间的节点,连锁更新才有可能被引发,在实际中,这种情况并不多见
- 其次,即使出现连锁更新,但只要被更新的节点数量不多,就不会对性能造成任何影响,比如说,对三五个节点进行连锁更新是绝对不会影响性能的;
因为以上原因,ziplistPush
等命令的平均复杂度仅为O(N),在实际中,可以放心地使用这些函数,而不必担心连锁更新会影响压缩列表的性能