Redis 实现队列原理的实例详解
场景说明:
·用于处理比较耗时的请求,例如批量发送邮件,如果直接在网页触发执行发送,程序会出现超时
·高并发场景,当某个时刻请求瞬间增加时,可以把请求写入到队列,后台在去处理这些请求
·抢购场景,先入先出的模式
命令:
1
|
rpush + blpop 或 lpush + brpop
|
rpush : 往列表右侧推入数据
blpop : 客户端阻塞直到队列有值输出
简单队列:
1
2
|
simple.php
$stmt = $pdo ->prepare( 'select id, cid, name from zc_goods limit 200000' ); $stmt ->execute(); while ( $row = $stmt ->fetch(PDO::FETCH_ASSOC)) { $redis ->rPush( 'goods:task' , json_encode( $row ));} $redis ->close();
|
获取20000万个商品,并把json化后的数据推入goods:task队列
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
|
queueBlpop.php
// 出队
while (true) {
// 阻塞设置超时时间为3秒
$task = $redis ->blPop( array ( 'goods:task' ), 3);
if ( $task ) {
$redis ->rPush( 'goods:success:task' , $task [1]);
$task = json_decode( $task [1], true);
echo $task [ 'id' ] . ':' . $task [ 'cid' ] . ':' . 'handle success' ;
echo PHP_EOL;
} else {
echo 'nothing' . PHP_EOL; sleep(5);
}
}
|
设置blpop阻塞时间为3秒,当有数据出队时保存到goods:success:task表示执行成功,当队列没有数据时,程序睡眠10秒重新检查goods:task是否有数据出队
cli 模式执行命令:
1
|
php simple.phpphp queueBlpop.php
|
优先级队列
思路:
blpop 有多个键时,blpop会从左至右遍历键,一旦一个键能弹出元素,客户端立即返回。例如:
1
|
blpop key1 key2 key3 key4
|
从key1到key4遍历,如果哪个key有值,则弹出这个值,若多个key同时有值时,优先弹出排在左边的key。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
|
priority.php
// 设置优先级队列
$high = 'goods:high:task' ;
$mid = 'goods:mid:task' ;
$low = 'goods:low:task' ;
$stmt = $pdo ->prepare( 'select id, cid, name from zc_goods limit 200000' );
$stmt ->execute();
while ( $row = $stmt ->fetch( PDO :: FETCH_ASSOC )) {
// cid 小于 100 放在低级队列
if ( $row [ 'cid' ] < 100 ) {
$redis ->rPush( $low , json_encode( $row ));
// cid 100 到 600 之间放在中级队列
}elseif ( $row [ 'cid' ] > 100 && $row [ 'cid' ] < 600 ) {
$redis ->rPush( $mid , json_encode( $row ));
}
// cid 大于 600 放在高级队列 else { $redis ->rPush( $high , json_encode( $row )); }
} $redis ->close();
priorityBlop.php
// 优先级队列
$high = 'goods:high:task' ;
$mid = 'goods:mid:task' ; $low = 'goods:low:task' ;
// 出队
while ( true ){ // 优先级高的队列放在左侧
$task = $redis ->blPop(array( $high , $mid , $low ), 3 );
if ( $task ) {
$task = json_decode( $task [ 1 ], true );
echo $task [ 'id' ] . ':' . $task [ 'cid' ] . ':' . 'handle success' ;
echo PHP_EOL ;
} else {
echo 'nothing' . PHP_EOL ; sleep( 5 );
}
}
|
优先级高的队列放在blpop命令左侧,依次排序,blpop命令会依次弹出high, mid, low队列的值
cli 模式执行命令:
1
|
php priority.phpphp priorityBlpop.php
|
延迟队列
思路:
可以用一个有序集合来保存延迟任务,member保存任务内容,score保存(当前时间 + 延时时间)。用时间作为score。程序只要用有序集合的第一条任务的score和当前时间做比较,如果当前时间比score小,说明有序集合的所有任务还没到执行时间。
1
2
|
delay.php
$stmt = $pdo - >prepare( 'select id, cid, name from zc_goods limit 200000' );$stmt - >execute(); while ($row = $stmt - >fetch(PDO::FETCH_ASSOC)) { $redis - >zAdd( 'goods:delay:task' , time() + rand( 1 , 300 ), json_encode($row));}
|
将20万条任务导入有序集合goods:delay:task,所有任务延迟到之后的1秒到300秒内执行
delayHandle.php
while (true) {// 因为是有序集合,只要判断第一条记录的延时时间,例如第一条未到执行时间 // 相对说明集合的其他任务未到执行时间
1
|
$rs = $redis ->zRange( 'goods:delay:task' , 0 , 0 , true );
|
// 集合没有任务,睡眠时间设置为5秒
1
2
3
4
5
6
7
|
if (empty( $rs )) {
echo 'no tasks , sleep 5 seconds' . PHP_EOL ;sleep( 5 );continue;}
$taskJson = key( $rs );
$delay = $rs [ $taskJson ];
$task = json_decode( $taskJson , true );
$now = time();// 到时间执行延时任务
if ( $delay <= $now ) {
|
// 对当前任务加锁,避免移动移动延时任务到任务队列时被其他客户端修改
1
2
|
if (!( $identifier = acquireLock( $task [ 'id' ]))) {
continue;}
|
// 移动延时任务到任务队列
1
2
3
|
$redis - >zRem( 'goods:delay:task' , $taskJson);
$redis - >rPush( 'goods:task' , $taskJson);
echo $task[ 'id' ] . ' run ' . PHP_EOL;
|
// 释放锁
1
2
|
releaseLock( $task [ 'id' ], $identifier ); }
else {
|
// 延时任务未到执行时间
1
|
$sleep = $delay - $now ;
|
// 最大值设置为2秒,保证如果有新的任务(延时时间1秒)进入集合时能够及时的被处理
1
2
3
4
|
$sleep = $sleep > 2 ? 2 : $sleep ;
echo 'wait ' . $sleep . ' seconds ' . PHP_EOL ; sleep( $sleep );
}
}
|
这个文件对有序集合内的延迟任务做处理,如果延迟任务到了执行时间,则把延迟任务移动到任务队列中
1
2
3
4
5
6
7
8
9
10
11
12
|
queueBlpop.php
// 出队 while ( true ) {
// 阻塞设置超时时间为 3 秒
$task = $redis ->blPop(array( 'goods:task' ), 3 );
if ( $task ) {
$redis ->rPush( 'goods:success:task' , $task [ 1 ]);
$task = json_decode( $task [ 1 ], true );
echo $task [ 'id' ] . ':' . $task [ 'cid' ] . ':' . 'handle success' ;
echo PHP_EOL ; } else {
echo 'nothing' . PHP_EOL ;sleep( 5 );
}
}
|
处理任务队列中的任务
cli模式下执行命令:
1
|
php delay.phpphp delayHanlde.phpphp queueBlpop.php
|
如有疑问请留言或者到本站社区交流讨论,感谢阅读,希望能帮助到大家,谢谢大家对本站的支持!