python(21)实现多进程(1)

时间:2022-07-14 16:41:45

参考链接:http://www.cnblogs.com/kaituorensheng/p/4445418.html

python多进程:multiprocessing

python中的多线程其实并不是真正的多线程,如果想要充分使用多核cpu的资源,在python中大部分情况下还是多进程。Python提供了非常好用的多进程包multiprocessing,只需要定义一个函数,Python会完成其他所有事情。借助这个包,可以轻松完成从单进程到并发执行的转换。multiprocessing支持子进程、通信和共享数据、执行不同形式的同步,提供了Process、Queue、Pipe、Lock等组件。

1. Process

创建进程的类:Process([group [, target [, name [, args [, kwargs]]]]]),target表示调用对象,args表示调用对象的位置参数元组。kwargs表示调用对象的字典。name为别名。group实质上不使用。
方法:is_alive()、join([timeout])、run()、start()、terminate()。其中,Process以start()启动某个进程。

属性:authkey、daemon(要通过start()设置)、exitcode(进程在运行时为None、如果为–N,表示被信号N结束)、name、pid。其中daemon是父进程终止后自动终止,且自己不能产生新进程,必须在start()之前设置。

代码:多进程实现

#coding: utf-8
import multiprocessing
import time
import os
Path = "D:\\test_data\\XC\\"
def Write(x,y):
    print "tttttttt"
    path = Path + "test"+"_" + str(x) + "_" + str(y)
    if not os.path.exists(path):
        os.makedirs(path)
    for i in range(1,x):
        f = open(path + "\\" + str(i) + ".txt", 'w')
        time.sleep(1)
        f.write("sdaffffffffffsdfsdfsdfadfa" + '\n')
        f.close()

def func(msg,x,y):
    print("the time is {0}".format(time.ctime()))
    print "msg:", msg
    Write(x,y)
    time.sleep(3)
    print "end"

if __name__ == "__main__":
    pool = multiprocessing.Pool(processes = 5) #规定最多有5个进程同时跑
    for i in range(1,10):                     #产生10个进程
        x = i*5
        y = x+5
        msg = "hello %d" %(i)
        time.sleep(1)
        pool.apply_async(func, (msg, x, y))   #维持执行的进程总数为processes,当一个进程执行完毕后会添加新的进程进去

    print "Mark~ Mark~ Mark~~~~~~~~~~~~~~~~~~~~~~"
    pool.close()
    pool.join()   #调用join之前,先调用close函数,否则会出错。执行完close后不会有新的进程加入到pool,join函数等待所有子进程结束
    print "Sub-process(es) done."