文件名称:waldorf:Waldorf是用Python编写的高效,并行任务执行框架
文件大小:526KB
文件格式:ZIP
更新时间:2024-05-28 09:18:33
Python
Waldorf是用Python编写的高效并行任务执行框架。 它是为在中国北京研究算法而开发的。 Waldorf基于,并以芹菜为原料,从得名。 它可以通过在多台计算机上分布以Python函数编写的并发子任务并自动输出集合来加快诸如算法。 Waldorf还可以用于实现MapReduce风格的工作流程。 尽管Waldorf可以部署在云服务器上,但目前我们的重点是利用商用PC群集(例如,普通的办公室工作站)的备用CPU容量。 将来的版本中可能包含对GPU的支持。 特征 Waldorf使用主节点在客户端和从属节点之间传递消息。 客户可以在其本地计算机上将任务创建为Python函数。 Waldorf将任务发送到从属计算机网络以使用Celery任务队列执行。 当单独使用Celery时,通常必须预先定义任务,但是Waldorf允许动态定义任务,而无需任何从属重启。 多个客户端可以同时运行其任务,
【文件预览】:
waldorf-master
----waldorf()
--------util.py(12KB)
--------env.py(13KB)
--------md_util.py(2KB)
--------master.py(12KB)
--------__init__.py(22B)
--------slave.py(14KB)
--------namespace()
--------client.py(29KB)
--------threading_u.py(1KB)
--------cfg.py(4KB)
--------static()
--------common.py(16KB)
----script()
--------start_slave.sh(842B)
--------install_waldorf.sh(2KB)
--------waldorf_python_setup.sh(3KB)
--------guide.txt(82B)
--------loop_wait.py(1KB)
--------config.sh.example(901B)
--------start_master.sh(824B)
----requirement.txt(195B)
----example()
--------gen_git_c_demo.py(554B)
--------requirement_for_demo.txt(3B)
--------gym_demo.py(6KB)
----LICENSE(11KB)
----setup.py(936B)
----README.md(3KB)
----docs()
--------figures()
--------faq.md(682B)
--------installation.md(5KB)
----.gitignore(1KB)