Python 生产者与消费者模型

时间：2022-12-24 17:41:09

定义：

在并发编程中使用生产者和消费者模式能够解决绝大多数并发问题。该模式通过平衡生产线程和消费线程的工作能力来提高程序的整体处理数据的速度。

    为什么要使用生产者和消费者模式

在线程世界里，生产者就是生产数据的线程，消费者就是消费数据的线程。在多线程开发当中，如果生产者处理速度很快，而消费者处理速度很慢，那么生产者就必须等待消费者处理完，才能继续生产数据。同样的道理，如果消费者的处理能力大于生产者，那么消费者就必须等待生产者。为了解决这个问题于是引入了生产者和消费者模式。

    什么是生产者消费者模式

生产者消费者模式是通过一个容器来解决生产者和消费者的强耦合问题。生产者和消费者彼此之间不直接通讯，而通过阻塞队列来进行通讯，所以生产者生产完数据之后不用等待消费者处理，直接扔给阻塞队列，消费者不找生产者要数据，而是直接从阻塞队列里取，阻塞队列就相当于一个缓冲区，平衡了生产者和消费者的处理能力。

基于队列实现生产者消费者模型

实例：

　　主要用了JoinableQueue进行队列的存取，但它有两个方法一个为task_done每执行一次就记录一次直到队列中没有东西,另一个join就是等到队列中为空为止,实现生产者生产完等消费者取东西，直到取完就结束生产者本身的进程，而主进程则等生产者结束就结束，而消费者设为守护进程，主进程一结束，消费者也随之结束

from multiprocessing import Process, JoinableQueue
import time, os


def producer(q, name):
for i in range(3):
        time.sleep(1)
        res = '%s%s' % (name, i)
        q.put(res)
print('\033[45m<%s> 生产了 [%s]\033[0m' % (os.getpid(), res))
    q.join() #等消费者取完就结束

def consumer(q):
while True:
        res = q.get()
        time.sleep(1.5)
print('\033[34m<%s> 吃了 [%s]\033[0m' % (os.getpid(), res))
        q.task_done() #每取走一个就记一次

if __name__ == '__main__':
    q = JoinableQueue()

# 生产者们：即厨师们
    p1 = Process(target=producer, args=(q, '包子'))
    p2 = Process(target=producer, args=(q, '饺子'))
    p3 = Process(target=producer, args=(q, '馄饨'))

# 消费者们：即吃货们
    c1 = Process(target=consumer, args=(q,))
    c2 = Process(target=consumer, args=(q,))

    c1.daemon=True # 设为守护进程，当主进程结束，消费者进程也随之结束
    c2.daemon=True # 设为守护进程，当主进程结束，消费者进程也随之结束
    p1.start()
    p2.start()
    p3.start()
    c1.start()
    c2.start()


    p1.join() # 主进程等生产者结束

print('主')

 

标签：

相关文章