django_rq是为django集成redis队列,这个用的少,一般会选择celery,没办法项目中用到了。用起来很简单,配置可以参考官方文档:https://pypi.org/project/django-rq/。
settings.py 只需要配置如下:
INSTALLED_APPS =(
#other apps
“django_rq”,
) RQ_QUEUES = {
'default': {
'HOST': 'localhost',
'PORT': 6379,
'DB': 0,
'PASSWORD': 'some-password',
'DEFAULT_TIMEOUT': 360,
},
'with-sentinel': {
'SENTINELS': [('localhost', 26736), ('localhost', 26737)],
'MASTER_NAME': 'redismaster',
'DB': 0,
'PASSWORD': 'secret',
'SOCKET_TIMEOUT': None,
},
'high': {
'URL': os.getenv('REDISTOGO_URL', 'redis://localhost:6379/0'), # If you're on Heroku
'DEFAULT_TIMEOUT': 500,
},
'low': {
'HOST': 'localhost',
'PORT': 6379,
'DB': 0,
}
} RQ_EXCEPTION_HANDLERS = ['path.to.my.handler'] # If you need custom exception handlers
遇到的问题1【keyerror:default】:线上的队列配置如下:
RQ_QUEUES = {
'{q}high': {
'HOST': '127.0.0.1',
'PORT': 6379,
'DB': 0,
'DEFAULT_TIMEOUT': 360,
'SOCKET_KEEPALIVE': True,
},
'{q}default': {
'HOST': '127.0.0.1',
'PORT': 6379,
'DB': 0,
'DEFAULT_TIMEOUT': 360,
'SOCKET_KEEPALIVE': True,
},
}
{q}无法识别,于是删掉{q},项目就可以启动起来(后面版本降级后队列启动跟名无关,带{q}也可以)。
遇到的问题2【进入high队列的job只能入队,无法出队列】,在排查日志的时候发现:
# 线上日志如下:
2016-11-02 11:44:08,883 *** Listening on {q}high, {q}default...
2016-11-02 11:44:08,883 Sent heartbeat to prevent worker timeout. Next one should arrive within 420 seconds. # 自己的日志为:
2016-11-02 11:44:08,883 *** Listening on default...
并没有去监听high队列,于是有部分任务无法去执行。
最后,代码各个配置都对了一遍,上git找到django_rq源码,依赖包的版本也很重要,果不其然,线上是直接git安装的一个未发布的版本0.9.2.1,我是安装最新版本0.9.3,可以发现django_rq更新竟然不是向前兼容的,无耐^~^,我只好降级为django_rq==0.9.2,日志监听变为两个队列,一切正常了。