【文件属性】:
文件名称:magne:Curio,RabbitMQ,分布式任务队列(芹菜)
文件大小:56KB
文件格式:ZIP
更新时间:2021-05-17 19:43:36
python3 task-queue curio asynchronous-io task-worker
magne
Curio, RabbitMQ, Distributed Task Queue
Python >= 3.6, curio >= 0.8, pika >= 0.11.2
参考celery, dramatiq开发的分发任务应用, 并且加入了协程worker. 用curio重写跟网络有关的部分, 包括组件之间的数据交互.
根据worker的不同, 分为进程模式, 线程模式和协程模式.
使用
git clone或者download, 然后
pip install -r requirements.txt
cd magne/magne
运行进程worker
python run.py process --help
运行coroutine消费者
python run.py coroutine --help
TODO
当restart/reload的时候
进程模式的worker的管理参考gun
【文件预览】:
magne-master
----setup.py(1KB)
----.gitignore(89B)
----requirements.txt(32B)
----how_it_works.rst(7KB)
----LICENSE(1KB)
----setup.cfg(28B)
----README.rst(9KB)
----magne()
--------thread_worker()
--------run.py(1KB)
--------__init__.py(22B)
--------process_worker()
--------coro_consumer()
--------helper.py(9KB)
--------logger.py(5KB)