目录
前言
网上已经有很多大佬都写过Redis的数据结构,写本文是为了这个系列文章的完整性。
本文把网上比较好的博客的内容做一个摘抄汇总。本文算不上原创,但也不好定义为转载具体哪一篇文章,所以勉强算是原创吧,希望看到的道友勿喷,本文结尾会给出摘抄的博客原文。废话不多说开始正文:
简介
Redis支持多种不同的数据结构,包括5种基础数据结构和几种比较复杂的数据,这些数据结构可以满足不同的应用场景。
五种基础数据结构
- String:字符串,是构建其他数据结构的基础
- Hash:哈希列表
- List:列表
- Set:集合,在哈希列表的基础上实现
- Sort Set:有序集合
复杂的数据结构
- Bitmaps:位图,在string的基础上进行位操作,可以实现节省空间的数据结构。
- Hyperloglog:用于估计一个 set 中元素数量的概率性的数据结构。
- Geo:geospatial,地理空间索引半径查询。
- BloomFilter:布隆过滤器。
不同数据结构的相同之处
从上面的介绍,我们看到支持的数据结构的不同,但其实,Redis的每一种数据结构都由一个key和value组成,可以抽象为:
而所有数据结构的key的值都是任意合法的字符串
,不同的数据结构的区别就在于value存储的值的不同而不同(本文所指的数据结构均指value值的类型
)。
比如,最简简单的String数据结构,其value为String,所以String可以表示为:
而Hash数据结构,其value为一个哈希列表,所以Hash可以表示为:
命令
下文有很多关于命令的介绍,本文只是介绍一部分常用命令。
查询所有命令
方式一:参考 Redis命令
方式二:如果可以连接redis客户端可以使用help @+数据类型
命令查看
五种基础数据结构
string
string表示的是一个可变的字节数组,我们初始化字符串的内容、可以拿到字符串的长度,可以获取string的子串,可以覆盖string的子串内容,可以追加子串。
Redis的字符串是动态字符串sds
,是可以修改的字符串,内部结构实现上类似于Java的ArrayList,采用预分配冗余空间的方式来减少内存的频繁分配,如图中所示,内部为当前字符串实际分配的空间capacity一般要高于实际字符串长度len。当字符串长度小于1M时,扩容都是加倍
现有的空间,如果超过1M,扩容时一次只会多扩1M
的空间。需要注意的是字符串最大长度为512M
。
初始化字符串
set key value
> set k1 abcdefg
OK
获取字符串的内容
get key
> get k1
"abcdefg"
获取字符串的长度
strlen key
> strlen k1
(integer) 7
获取子串
getrange key start end
> getrange k1 2 5
"cdef"
覆盖子串
setrange key 开始位置 覆盖子串
> setrange k1 3 12345
(integer) 8 # 返回长度
> get k1
"abc12345"
追加子串
append key value
> append k1 zxc
(integer) 11 # 返回长度
> get k1
"abc12345zxc"
计数器
如果字符串的内容是一个整数,那么还可以将字符串当成计数器来使用。
> set k1 30
OK
> get k1
"30"
> incrby k1 100
(integer) 130
> get k1
"130"
> decrby k1 100
(integer) 30
> get k1
"30"
> incr k1 # 等价于incrby k1 1
(integer) 31
> decr k1 # 等价于decrby k1 1
(integer) 30
计数器是有范围的,它不能超过Long.Max
,不能低于Long.MIN
> set k1 9223372036854775807
OK
> incr k1
(error) ERR increment or decrement would overflow
> set k1 -9223372036854775808
OK
> decr k1
(error) ERR increment or decrement would overflow
过期和删除
字符串可以使用del
指令进行主动删除,可以使用expire
指令设置过期时间,到点会自动删除,这属于被动删除。可以使用ttl
指令获取字符串的剩余寿命。
> expire k1 60
(integer) 1 # 1表示设置成功,0表示变量ireader不存在
> ttl k1
(integer) 50 # 还有50秒的寿命,返回-2表示变量不存在,-1表示没有设置过期时间
> del k1
(integer) 1 # 删除成功返回1
> get k1
(nil) # 变量ireader没有了
list
Redis将列表数据结构命名为list而不是array,是因为列表的存储结构用的是链表而不是数组,而且链表还是双向链表。因为它是链表,所以随机定位性能较弱,首尾插入删除性能较优。如果list的列表长度很长,使用时我们一定要关注链表相关操作的时间复杂度。
负下标
链表元素的位置使用自然数0,1,2,....n-1
表示,还可以使用负数-1,-2,...-n
来表示,-1
表示「倒数第一」,-2
表示「倒数第二」,那么-n
就表示第一个元素,对应的下标为0
。
队列/堆栈
链表可以从表头和表尾追加和移除元素,结合使用rpush/rpop/lpush/lpop
四条指令,可以将链表作为队列或堆栈使用,左向右向进行都可以
队列:
# 右进左出
> rpush k2 go
(integer) 1
> rpush k2 java python
(integer) 3
> lpop k2
"go"
> lpop k2
"java"
> lpop k2
"python"
# 左进右出
> lpush k2 go java python
(integer) 3
> rpop k2
"go"
堆栈:
# 右进右出
> rpush k2 go java python
(integer) 3
> rpop k2
"python"
# 左进左出
> lpush k2 go java python
(integer) 3
> lpop k2
"python"
在日常应用中,列表常用来作为异步队列来使用。
长度
使用llen
指令获取链表长度
> rpush k2 go java python
(integer) 3
> llen k2
(integer) 3
随机读
可以使用lindex
指令访问指定位置的元素,使用lrange
指令来获取链表子元素列表,提供start和end下标参数
> rpush k2 go java python
(integer) 3
> lindex k2 1
"java"
> lrange k2 0 2
1) "go"
2) "java"
3) "python"
> lrange k2 0 -1 # -1表示倒数第一
1) "go"
2) "java"
3) "python"
使用lrange
获取全部元素时,需要提供end_index
,如果没有负下标,就需要首先通过llen
指令获取长度,才可以得出end_index
的值,有了负下标,使用-1
代替end_index
就可以达到相同的效果。
修改元素
使用lset
指令在指定位置修改元素。
> rpush k2 go java python
(integer) 3
> lset k2 1 javascript
OK
> lrange k2 0 -1
1) "go"
2) "javascript"
3) "python"
插入元素
使用linsert
指令在列表的中间位置插入元素,有经验的程序员都知道在插入元素时,我们经常搞不清楚是在指定位置的前面插入还是后面插入,所以antirez在linsert指令里增加了方向参数before/after来显示指示前置和后置插入。不过让人意想不到的是linsert指令并不是通过指定位置来插入,而是通过指定具体的值。这是因为在分布式环境下,列表的元素总是频繁变动的,意味着上一时刻计算的元素下标在下一时刻可能就不是你所期望的下标了。
> rpush k2 go java python
(integer) 3
> linsert k2 before java ruby
(integer) 4
> lrange k2 0 -1
1) "go"
2) "ruby"
3) "java"
4) "python"
删除元素
列表的删除操作也不是通过指定下标来确定元素的,你需要指定删除的最大个数以及元素的值
> rpush k2 go java python
(integer) 3
> lrem k2 1 java
(integer) 1
> lrange k2 0 -1
1) "go"
2) "python"
定长列表
在实际应用场景中,我们有时候会遇到「定长列表」的需求。比如要以走马灯的形式实时显示中奖用户名列表,因为中奖用户实在太多,能显示的数量一般不超过100条,那么这里就会使用到定长列表。维持定长列表的指令是ltrim
,需要提供两个参数start和end,表示需要保留列表的下标范围,范围之外的所有元素都将被移除。
> rpush k2 go java python javascript ruby erlang rust cpp
(integer) 8
> ltrim k2 -3 -1
OK
> lrange k2 0 -1
1) "erlang"
2) "rust"
3) "cpp"
如果指定参数的end对应的真实下标小于start,其效果等价于del指令,因为这样的参数表示需要需要保留列表元素的下标范围为空。
快速列表
如果再深入一点,你会发现Redis底层存储的还不是一个简单的linkedlist,而是称之为快速链表quicklist
的一个结构。首先在列表元素较少的情况下会使用一块连续的内存存储,这个结构是ziplist
,也即是压缩列表。它将所有的元素紧挨着一起存储,分配的是一块连续的内存。当数据量比较多的时候才会改成quicklist
。因为普通的链表需要的附加指针空间太大,会比较浪费空间。比如这个列表里存的只是int类型的数据,结构上还需要两个额外的指针prev
和next
。所以Redis将链表和ziplist
结合起来组成了quicklist
。也就是将多个ziplist
使用双向指针串起来使用。这样既满足了快速的插入删除性能,又不会出现太大的空间冗余。
hash
哈希等价于Java语言的HashMap或者是Python语言的dict,在实现结构上它使用二维结构,第一维是数组,第二维是链表,hash的内容key和value存放在链表中,数组里存放的是链表的头指针。通过key查找元素时,先计算key的hashcode,然后用hashcode对数组的长度进行取模定位到链表的表头,再对链表进行遍历获取到相应的value值,链表的作用就是用来将产生了「hash碰撞
」的元素串起来。Java语言开发者会感到非常熟悉,因为这样的结构和HashMap是没有区别的。哈希的第一维数组的长度也是2^n
。
增加元素
可以使用hset
一次增加一个键值对,也可以使用hmset一次增加多个键值对
> hset k3 go fast
(integer) 1
> hmset k3 java fast python slow
OK
获取元素
可以通过hget
定位具体key对应的value,可以通过hmget
获取多个key对应的value,可以使用hgetall
获取所有的键值对,可以使用hkeys
和hvals
分别获取所有的key列表和value列表。这些操作和Java语言的Map接口是类似的。
> hmset k3 go fast java fast python slow
OK
> hget k3 go
"fast"
> hmget k3 go python
1) "fast"
2) "slow"
> hgetall k3
1) "go"
2) "fast"
3) "java"
4) "fast"
5) "python"
6) "slow"
> hkeys k3
1) "go"
2) "java"
3) "python"
> hvals k3
1) "fast"
2) "fast"
3) "slow"
删除元素
可以使用hdel
删除指定key,hdel支持同时删除多个key
> hmset k3 go fast java fast python slow
OK
> hdel k3 go
(integer) 1
> hdel k3 java python
(integer) 2
判断元素是否存在
通常我们使用hget获得key对应的value是否为空就直到对应的元素是否存在了,不过如果value的字符串长度特别大,通过这种方式来判断元素存在与否就略显浪费,这时可以使用hexists
指令。
> hmset k3 go fast java fast python slow
OK
> hexists k3 go
(integer) 1
计数器
hash结构还可以当成计数器来使用,对于内部的每一个key都可以作为独立的计数器。如果value值不是整数,调用hincrby
指令会出错。
> hincrby k3 go 1
(integer) 1
> hincrby k3 python 4
(integer) 4
> hincrby k3 java 4
(integer) 4
> hgetall k3
1) "go"
2) "1"
3) "python"
4) "4"
5) "java"
6) "4"
> hset k3 rust good
(integer) 1
> hincrby k3 rust 1
(error) ERR hash value is not an integer
扩容
当hash内部的元素比较拥挤时(hash碰撞比较频繁),就需要进行扩容。扩容需要申请新的两倍大小的数组,然后将所有的键值对重新分配到新的数组下标对应的链表中(rehash)。如果hash结构很大,比如有上百万个键值对,那么一次完整rehash的过程就会耗时很长。这对于单线程的Redis里来说有点压力山大。所以Redis采用了渐进式rehash的方案。它会同时保留两个新旧hash结构
,在后续的定时任务以及hash结构的读写指令中将旧结构的元素逐渐迁移到新的结构中。这样就可以避免因扩容导致的线程卡顿现象。
缩容
Redis的hash结构不但有扩容还有缩容,从这一点出发,它要比Java的HashMap要厉害一些,Java的HashMap只有扩容。缩容的原理和扩容是一致的,只不过新的数组大小要比旧数组小
set
Java程序员都知道HashSet的内部实现使用的是HashMap,只不过所有的value都指向同一个对象。Redis的set结构也是一样,它的内部也使用hash结构,所有的value都指向同一个内部值。
增加元素
可以一次增加多个元素
> sadd k4 go java python
(integer) 3
读取元素
使用smembers
列出所有元素,使用scard
获取集合长度,使用srandmember
获取随机count个元素,如果不提供count参数,默认为1
> sadd k4 go java python
(integer) 3
> smembers k4
1) "java"
2) "python"
3) "go"
> scard k4
(integer) 3
> srandmember k4
"java"
删除元素
使用srem
删除一到多个元素,使用spop
删除随机一个元素
> sadd k4 go java python rust erlang
(integer) 5
> srem k4 go java
(integer) 2
> spop k4
"erlang"
判断元素是否存在
使用sismember
指令,只能接收单个元素
> sadd k4 go java python rust erlang
(integer) 5
> sismember k4 rust
(integer) 1
> sismember k4 javascript
(integer) 0
sortedset
SortedSet(zset)是Redis提供的一个非常特别的数据结构,一方面它等价于Java的数据结构Map<String, Double>
,可以给每一个元素value赋予一个权重score
,另一方面它又类似于TreeSet
,内部的元素会按照权重score进行排序,可以得到每个元素的名次,还可以通过score的范围来获取元素的列表。
zset底层实现使用了两个数据结构,第一个是hash,第二个是跳跃列表,hash的作用就是关联元素value和权重score,保障元素value的唯一性,可以通过元素value找到相应的score值。跳跃列表的目的在于给元素value排序,根据score的范围获取元素列表。
增加元素
通过zadd
指令可以增加一到多个value/score对,score放在前面
> zadd k5 4.0 python
(integer) 1
> zadd k5 4.0 java 1.0 go
(integer) 2
长度
通过指令zcard
可以得到zset的元素个数
> zcard k5
(integer) 3
删除元素
通过指令zrem
可以删除zset中的元素,可以一次删除多个
> zrem k5 go python
(integer) 2
计数器
同hash结构一样,zset也可以作为计数器使用。
> zadd k5 4.0 python 4.0 java 1.0 go
(integer) 3
> zincrby k5 1.0 python
"5"
获取排名和分数
通过zscore指令获取指定元素的权重,通过zrank
指令获取指定元素的正向排名,通过zrevrank
指令获取指定元素的反向排名[倒数第一名]。正向是由小到大,负向是由大到小。
> zscore k5 python
"5"
> zrank k5 go # 分数低的排名考前,rank值小
(integer) 0
> zrank k5 java
(integer) 1
> zrank k5 python
(integer) 2
> zrevrank k5 python
(integer) 0
根据排名范围获取元素列表
通过zrange
指令指定排名范围参数获取对应的元素列表,携带withscores
参数可以一并获取元素的权重。通过zrevrange
指令按负向排名获取元素列表[倒数]。正向是由小到大,负向是由大到小。
> zrange k5 0 -1 # 获取所有元素
1) "go"
2) "java"
3) "python"
> zrange k5 0 -1 withscores
1) "go"
2) "1"
3) "java"
4) "4"
5) "python"
6) "5"
> zrevrange k5 0 -1 withscores
1) "python"
2) "5"
3) "java"
4) "4"
5) "go"
6) "1"
根据score范围获取列表
通过zrangebyscore
指令指定score
范围获取对应的元素列表。通过zrevrangebyscore
指令获取倒排元素列表。正向是由小到大,负向是由大到小。参数-inf
表示负无穷,+inf
表示正无穷。
> zrangebyscore k5 0 5
1) "go"
2) "java"
3) "python"
> zrangebyscore k5 -inf +inf withscores
1) "go"
2) "1"
3) "java"
4) "4"
5) "python"
6) "5"
> zrevrangebyscore k5 +inf -inf withscores # 注意正负反过来了
1) "python"
2) "5"
3) "java"
4) "4"
5) "go"
6) "1"
根据范围移除元素列表
可以通过排名范围,也可以通过score范围来一次性移除多个元素
> zremrangebyrank k5 0 1
(integer) 2 # 删掉了2个元素
> zadd k5 4.0 java 1.0 go
(integer) 2
> zremrangebyscore k5 -inf 4
(integer) 2
> zrange k5 0 -1
1) "python"
跳跃列表
zset内部的排序功能是通过「跳跃列表」数据结构来实现的,它的结构非常特殊,也比较复杂。这一块的内容深度读者要有心理准备。
因为zset要支持随机的插入和删除,所以它不好使用数组来表示。我们先看一个普通的链表结构。
我们需要这个链表按照score值进行排序。这意味着当有新元素需要插入时,需要定位到特定位置的插入点,这样才可以继续保证链表是有序的。通常我们会通过二分查找来找到插入点,但是二分查找的对象必须是数组,只有数组才可以支持快速位置定位,链表做不到,那该怎么办?
想想一个创业公司,刚开始只有几个人,团队成员之间人人平等,都是联合创始人。随着公司的成长,人数渐渐变多,团队沟通成本随之增加。这时候就会引入组长制,对团队进行划分。每个团队会有一个组长。开会的时候分团队进行,多个组长之间还会有自己的会议安排。公司规模进一步扩展,需要再增加一个层级——部门,每个部门会从组长列表中推选出一个代表来作为部长。部长们之间还会有自己的高层会议安排。
跳跃列表就是类似于这种层级制,最下面一层所有的元素都会串起来。然后每隔几个元素挑选出一个代表来,再将这几个代表使用另外一级指针串起来。然后在这些代表里再挑出二级代表,再串起来。最终就形成了金字塔结构。
想想你老家在世界地图中的位置:亚洲–>中国->xx省->xx市->xx县->xx镇->xx村->xxx号,也是这样一个类似的结构。
「跳跃列表」之所以「跳跃」,是因为内部的元素可能「身兼数职」,比如上图中间的这个元素,同时处于L0、L1和L2层,可以快速在不同层次之间进行「跳跃」。
定位插入点时,先在顶层进行定位,然后下潜到下一级定位,一直下潜到最底层找到合适的位置,将新元素插进去。你也许会问那新插入的元素如何才有机会「身兼数职」呢?
跳跃列表采取一个随机策略来决定新元素可以兼职到第几层,首先L0层肯定是100%了,L1层只有50%的概率,L2层只有25%的概率,L3层只有12.5%的概率,一直随机到最顶层L31层。绝大多数元素都过不了几层,只有极少数元素可以深入到顶层。列表中的元素越多,能够深入的层次就越深,能进入到顶层的概率就会越大。
这还挺公平的,能不能进入中央不是靠拼爹,而是看运气。
参考文章
通俗易懂的Redis数据结构基础教程 【推荐】【本文大部分内容】
Redis 数据类型介绍 【Redis中文官网】