redis实现队列消息的ack

时间：2021-08-13 06:14:18

由于公司提供的队列实在太过于蛋疼而且还限制不能使用其他队列，但为了保证数据安全性需要一个可以有ack功能的队列。

原生的redis中通过L/R PUSH/POP方式来实现队列的功能，这个当然是没办法满足需求的（没有ack功能），所以需要自己对redis的list（队列）做个小小的调整。

大体思路为在POP时将pop出的数据放到备份的地方，当有ACK请求（确认消息被消耗）后将备份的信息删除掉；每次在pop前需要检查备份队列中有没有过期的数据没有ack的，如果有则PUSH到list中后再从list中POP出来。

以下脚本使用lua实现，只需要在执行前加载到redis中即可。

消息本身需要包含id属性

push没什么问题，原生即可（此处以LPUSH为例）

pop时脚本

 local not_empty = function(x)

     return (type(x) == "table") and (not x.err) and (#x ~= )

 end

 local qName = ARGV[] --队列名称

 local currentTime = ARGV[] --当前时间，这个需要从外部传入，不能使用redis自身时间，如果使用自身时间可能导致redis本身的backup在重放请求时出现不一致性

 local considerAsFailMaxTimeSpan = ARGV[] --超时时间设定，当消息超过一定时间还没有ack则认为此消息需要再次入队

 local zsetName= qName ..'BACKUP'

 local hashName= qName ..'CONTEXT'

 local tmp = redis.call('ZRANGEBYSCORE',zsetName , '-INF', tonumber(currentTime) - tonumber(considerAsFailMaxTimeSpan), 'LIMIT', , )

 if (not_empty(tmp)) then

     redis.call('ZREM', zsetName, tmp[]) --此处拿出的为消息的唯一id

     redis.call('LPUSH', qName, redis.call('HGET', hashName, tmp[]))

 end

 tmp = redis.call('RPOP', qName)

 if (tmp) then

     local msg = cjson.decode(tmp)

     local id = msg['id']

     redis.call('ZADD', zsetName, tonumber(currentTime), id)

     redis.call('HSET',hashName , id, tmp)

 end

 return tmp

ack时候比较简单，只需要将指定id从set和hash中删除即可

 local key = ARGV[]

 local qName=ARGV[]

 redis.call('ZREM', qName..'BACKUP', key)

 redis.call('HDEL', qName..'CONTEXT', key)

在程序中使用前需要显示load这两个脚本，后面直接调用这两个脚本的sha值即可执行。

相关文章