深入读了读python的官方文档,发觉Python自带的multiprocessing模块有很多预制的接口可以方便的实现多个主机之间的通讯,进而实现典型的生产者-消费者模式的分布式任务架构。
之前,为了在Python中实现生产者-消费者模式,往往就会选择一个额外的队列系统,比如rabbitMQ之类。此外,你有可能还要设计一套任务对象的序列化方式以便塞入队列。如果没有队列的支持,那不排除有些同学不得不从socket服务器做起,直接跟TCP/IP打起交道来。
其实multiprocessing.managers中有个BaseManager就为开发者提供了这样一个快速接口。
我们假定的场景是1个生产者(producer.py)+8个消费者(worker.py)的系统,还有一个*节点负责协调(server.py)实现如下:
server.py
1
2
3
4
5
6
7
8
9
10
11
12
13
14
|
from multiprocessing.managers import BaseManager
import Queue
queue = Queue.Queue() #初始化一个Q,用于消息传递
class QueueManager(BaseManager):
pass
QueueManager.register( 'get_queue' , callable = lambda :queue) # 在系统中发布get_queue这个业务
if __name__ = = '__main__' :
m = QueueManager(address = ( '10.239.85.193' , 50000 ),authkey = 'abr' )
# 监听所有10.239.85.193的50000口
s = m.get_server()
s.serve_forever()
|
worker.py
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
|
from multiprocessing.managers import BaseManager
from multiprocessing import Pool
class QueueManager(BaseManager):
pass
QueueManager.register( 'get_queue' )
def feb(i): #经典的'山羊增殖'
if i < 2 : return 1
if i < 5 : return feb(i - 1 ) + feb(i - 2 )
return feb(i - 1 ) + feb(i - 2 ) - feb(i - 5 )
def worker(i):
m = QueueManager(address = ( '10.239.85.193' , 50000 ), authkey = 'abr' )
#连接server
m.connect()
while True :
queue = m.get_queue()
# 获取Q
c = queue.get()
print feb(c)
if __name__ = = '__main__' :
p = Pool( 8 ) # 分进程启动8个worker
p. map (worker, range ( 8 ))
producer.py
from multiprocessing.managers import BaseManager
class QueueManager(BaseManager):
pass
QueueManager.register( 'get_queue' )
if __name__ = = '__main__' :
m = QueueManager(address = ( '10.239.85.193' , 50000 ), authkey = 'abr' )
m.connect()
i = 0
while True :
queue = m.get_queue()
queue.put( 48 )
i + = 1
|
系统会直接将Queue() 对象中的数据直接封装后通过TCP 50000端口在主机之间传递。不过需要注意的是,由于authkey的缘故,各个节点要求python的版本一致。
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持服务器之家。
原文链接:http://www.litrin.net/2017/07/05/python%E5%BF%AB%E9%80%9F%E5%AE%9E%E7%8E%B0%E5%88%86%E5%B8%83%E5%BC%8F%E4%BB%BB%E5%8A%A1/?utm_source=tuicool&utm_medium=referral