前言
Redis是一个开源的内存k-v数据库,同时也可用作缓存,消息队列。支持多种数据类型,如字符串,列表,字典,集合,有序集合。
演示环境
$ uname -a Darwin 18.6.0 Darwin Kernel Version 18.6.0: Thu Apr 25 23:16:27 PDT 2019; root:xnu-4903.261.4~2/RELEASE_X86_64 x86_64 $ redis-server -v Redis server v=5.0.5 sha=00000000:0 malloc=libc bits=64 build=31cd6e21ec924b46
安装
brew install redis
配置
Redis 默认用过的配置文件路径位于/usr/local/etc/redis.conf,下面将通过修改该配置文件影响Redis的行为。
Redis 默认是运行在前台,当终端退出时Redis也会退出,所以首先的任务是通过修改配置文件让Redis运行在后台:
daemonize yes
然后通过下面的命令启动Redis:
redis-server /usr/local/etc/redis.conf
Redis启动后可以看到redis-server进程监听在127.0.0.1:6379,可以通过下面的配置项修改:
bind 127.0.0.1 ::1 port 6379
通过Redis客户端redis-cli连接Redis服务端redis-server:
$ redis-cli 127.0.0.1:6379> 127.0.0.1:6379> set hello world # 字符串操作 OK 127.0.0.1:6379> keys * # 列举所有的key 1) "x1" 2) "x2" 3) "hello" 127.0.0.1:6379> hset myhash 1 www #字典(哈希表)操作 (integer) 1 127.0.0.1:6379> hset myhash 2 yyy (integer) 1 127.0.0.1:6379> 127.0.0.1:6379> 127.0.0.1:6379> hgetall myhash # 获取字典myhash所有的key-value 1) "1" 2) "www" 3) "2" 4) "yyy" 127.0.0.1:6379> lpush mylist 1 # 列表操作,元素可以重复 (integer) 1 127.0.0.1:6379> lpush mylist 2 (integer) 2 127.0.0.1:6379> lpush mylist 3 (integer) 3 127.0.0.1:6379> lpush mylist 1 (integer) 4 127.0.0.1:6379> lrange mylist 0 -1 1) "1" 2) "3" 3) "2" 4) "1" 127.0.0.1:6379> sadd myset 1 #集合操作,重复元素只保留一个 (integer) 1 127.0.0.1:6379> sadd myset 2 (integer) 1 127.0.0.1:6379> sadd myset 3 (integer) 1 127.0.0.1:6379> sadd myset 1 (integer) 0 127.0.0.1:6379> smembers myset 1) "1" 2) "2" 3) "3" 127.0.0.1:6379> zadd mysortset 1 redis #有序集合操作,前面的score值,作为排序的依据 (integer) 1 127.0.0.1:6379> zadd mysortset 3 mysql (integer) 1 127.0.0.1:6379> zadd mysortset 2 memcached (integer) 1 127.0.0.1:6379> zrange mysortset 0 -1 withscores 1) "redis" 2) "1" 3) "memcached" 4) "2" 5) "mysql" 6) "3"
上面的操作演示了Redis字符串,列表,字典,集合,有序集合五种数据类型。redis-cli使用默认的配置连接redis-server,但是在生产环境中IP和Port:
u$ redis-cli -h redis-cli 5.0.5 Usage: redis-cli [OPTIONS] [cmd [arg [arg ...]]] -h <hostname> Server hostname (default: 127.0.0.1). -p <port> Server port (default: 6379).
配置redis-server鉴权
requirepass foobared
重启redis-server后,再次尝试用redis-cli连接操作:
$ redis-cli 127.0.0.1:6379> 127.0.0.1:6379> keys * (error) NOAUTH Authentication required. 127.0.0.1:6379>
这时就需要输入密码后才能接着操作:
127.0.0.1:6379> auth foobared OK 127.0.0.1:6379> keys * 1) "myset" 2) "mysortset" 3) "x1" 4) "mylist" 5) "myhash" 6) "x2" 7) "hello" 127.0.0.1:6379>
持久化
Redis数据持久化策略有RDB快照方式和AOF(append only file)方式。
RDB 是Redis默认开启的持久化策略,相关的配置为:
save 900 1 #900s有多于1个key发生变化则触发RDB持久化 save 300 10 #300s有多于10个key发生变化则触发RDB持久化 save 60 10000 #60s有多于10000个key发生变化则触发RDB持久化 rdbcompression yes #数据压缩保存于rdb文件中 rdbchecksum yes #开启rdb数据checksum确认功能 dbfilename dump.rdb #rdb文件名称 dir /usr/local/var/db/redis/ #rdb文件目录位置
Redis启动后会加载dump.rdb文件数据,如果dump.rdb 文件损坏或者不完整(有可能机器断电,最后一次的RDB数据持久化部分刷到dump.rdb文件),可以通过redis-check-rdb检测dump.rdb文件的可用性:
$ redis-check-rdb dump.rdb [offset 0] Checking RDB file dump.rdb [offset 26] AUX FIELD redis-ver = '5.0.5' [offset 40] AUX FIELD redis-bits = '64' [offset 52] AUX FIELD ctime = '1561972490' [offset 67] AUX FIELD used-mem = '1006704' [offset 83] AUX FIELD aof-preamble = '0' [offset 85] Selecting DB ID 0 [offset 266] Checksum OK [offset 266] \o/ RDB looks OK! \o/ [info] 7 keys read [info] 0 expires [info] 0 already expired
当dump.rdb 文件损坏且无法恢复时,需要删除dump.rdb文件,否则redis-server启动后会自动退出:
$ echo " i am test hahhahha" > dump.rdb $ redis-server /usr/local/etc/redis.conf 23194:C 01 Jul 2019 17:44:34.757 # oO0OoO0OoO0Oo Redis is starting oO0OoO0OoO0Oo 23194:C 01 Jul 2019 17:44:34.757 # Redis version=5.0.5, bits=64, commit=00000000, modified=0, pid=23194, just started 23194:C 01 Jul 2019 17:44:34.757 # Configuration loaded $ ps -ef|grep redis 501 23264 46375 0 5:45下午 ttys002 0:00.00 grep redis
删除dump.rdb文件后,redis-server可以正常启动,但是之前的数据也没有了:
$ rm dump.rdb $ redis-server /usr/local/etc/redis.conf 23498:C 01 Jul 2019 17:48:26.574 # oO0OoO0OoO0Oo Redis is starting oO0OoO0OoO0Oo 23498:C 01 Jul 2019 17:48:26.574 # Redis version=5.0.5, bits=64, commit=00000000, modified=0, pid=23498, just started 23498:C 01 Jul 2019 17:48:26.574 # Configuration loaded $ redis-cli 127.0.0.1:6379> keys * (empty list or set) 127.0.0.1:6379>
另外dump.rdb文件是二进制数据,用vim直接查看人眼无法看懂:
数据格式:
开头为固定的5个REDIS字符,表示为RDB文件。
db_version表示为redis的版本。
EOF表示正文内容结束。
checksum为8字节的无符号整数校验和。验证数据的完整性。
databases部分:
第一部分表示该什么是redis哪个DB的(0-15)。
第二部分db_number是具体的db需要,例如0。那么第一部分和第二部分加起来就是select 0。
第三部分key_value_pairs 表示的是具体键值对信息。
一个完整RDB文件内容示例:
RDB持久化关键点:
1.redis利用linux fork子进程后,进程拥有父进程内存快照的方式快速获取内存快照(copy on write)。
2.redis RDB持久化落盘操作发生在独立的子进程中,不影响主进程的其他请求。(对应于bgsave命令,如果是save命令还是主进程处理RDB)
RDB策略优点:
1.适合大规模的数据恢复,数据恢复快。
2.如果业务对数据完整性和一致性要求不高,RDB是很好的选择。
RDB策略缺点:
数据的完整性和一致性不高,异常情况下会丢失最后一次RDB备份前的数据。
AOF 策略
AOF的出现是为了和RDB互补,它采用日志的形式记录每个写操作的内容,将写指令从前到后执行一次以完成数据的恢复工作。
appendonly yes appendfilename "appendonly.aof" # appendfsync always # 每发生一次写操作刷一次盘 appendfsync everysec # 每秒定时刷盘 # appendfsync no # 依靠系统自行刷盘
清空Redis然后重启redis-server:
$ redis-cli 127.0.0.1:6379> 127.0.0.1:6379> 127.0.0.1:6379> keys * (empty list or set) 127.0.0.1:6379> 127.0.0.1:6379> 127.0.0.1:6379> set hello world OK $ cat appendonly.aof *2 #表示有两个参数 $6 #该参数有6个字符 SELECT #参数是select $1 #该参数有1个字符 0 #参数是0 *3 #表示有3个参数 $3 #该参数有3个字节 set #参数是set $5 #该参数有5个字节 hello # 参数是hello $5 #该参数有5个字节 world # 参数是world
所以appendonly.aof 保存了命令还原为:
select 0 set hello world
其中select 0表示默认选择Redis的0号DB。
AOF 策略优点:
数据完整性和一致性更高,异常情况只会丢失1s的数据。
AOF 策略缺点:
AOF文件有冗余,文件太大,Redis启动加载慢。
Redis服务启动后执行载入程序时,优先判断是否开启了AOF持久化,如果时就载入AOF文件,否则载入RDB文件。
内存管理
Redis通过过期键处理和内存淘汰策略来管理内存。
过期键的处理
Redis可以设置键的过期时间,当这个键过期后,没有从Redis中清除,而是存在过期字典中,依然占用内存。对于过期键,Redis提供三种策略进行清除:
1.定时删除:在设置键的过期时间的同时,创建一个定时器(timer),让定时器在键过期时间来临时,立即执行对键的删除操作。这种策略,会对CPU造成压力,当设置时间键比较多的时候,那么会创建很多的定时器,会增加CPU的开销。
2.惰性删除:放任键过期不管,但是每次取键时判断键是否过期,如果过期就删除该键,否则返回键。这种策略对CPU压力不大,但是对内存压力大。如果有大量的过期键,但是没有这些键的访问,那么这些键依然保持在内存中,造成内存的浪费。
3.定期删除:每隔一段时间,程序就对数据库进行一次检查,删除里面的过期键。至于要删除多少过期键,以及要检查多少个数据库,则由算法决定。
淘汰机制
#maxmemory <bytes> 最大内存配置
#maxmemory-policy noeviction 淘汰策略配置
Redis提供多种淘汰策略:
- volatile-lru 淘汰过期key中上一回使用距离现在最久的。
- allkeys-lru 同volatile-lru,但是针对所有的key。
- volatile-lfu 淘汰过期key中使用频率最低的key。
- allkeys-lfu 同上,但是针对所有key。
- volatile-random 随机淘汰策略,针对过期key
- allkeys-random 随机淘汰策略,针对所有key
- volatile-ttl 淘汰剩余有效期最短的key
- noeviction 不删除任意数据
默认的内存淘汰策略是noeviction,在Redis中LRU算法是一个近似算法。默认情况下,Redis随机挑选5个key,并且从中选取一个最近最久未使用的key进行淘汰,在配置文件中可以通过#maxmemory-samples的值来设置Redis需要检查key的个数,但是检查的越多,耗费的时间也就越久,但是越精准。
过期键删除策略和内存淘汰机制之间的关系:过期键删除策略强调的是对过期键的操作,如果键过期了,而内存还足够,不会使用内存淘汰机制,而这是也会使用过期键删除策略,删除过期键。内存淘汰机制强调的是对内存的管理,如果内存不够了,即使有的键没有过期,也要删除一部分,同时针对没有设置过期时间的键。
对比Memcached
1.Redis支持数据持久化,Memcached不支持,断电数据会消失。
2.Redis比Memcached支持更多的数据类型,Memcached所有值都是字符串。
所以优先选择Redis。
总结
本文介绍演示了Redis五种数据类型的操作,另外介绍了Redis RDB和AOF持久化策略,最后对比了Redis和Memcached。
参考
http://redisbook.com/preview/rdb/rdb_struct.html
https://juejin.im/post/5bd96bcaf265da396b72f855