Python基础补充(二) 多核CPU上python多线程并行的一个假象【转】

时间:2024-05-28 11:36:44

在python上开启多个线程,由于GIL的存在,每个单独线程都会在竞争到GIL后才
运行,这样就干预OS内部的进程(线程)调度,结果在多核CPU上:

python的多线程实际是串行执行的,并不会同一时间多个线程分布在多个CPU上运行。

但是这里有个有趣的现象: python开启两个死循环的线程,在我的2核机器上会有如下
CPU使用情况,每个CPU都维持在50%左右的使用率(见下图).

Python基础补充(二) 多核CPU上python多线程并行的一个假象【转】

难道python的多线程可以在多核上并行?
当然不是,在GIL存在的python上,多线程应该是不可能并行的。
这里其实有个小细节隐藏在linux的进程调度系统内,当python多线程切换时候,linux
调度子系统会兼顾多核的负载情况,linux会把多个线程平均分布在多核上跑,这样不
会导致单个核负载过盛。但是这个并不会让python多线程在多核上并行。

大致CPU使用应该这样:
  cpu0: .. pythread0 _________ pythread0 _________ ..
  cpu1: .. _________ pythread1 _________ pythread1 ..
  ('___'表示cpu空闲,这样统计下来每个核使用情况在50%左右)

如果python多线程真能在多核上并行,那么这里每个CPU使用率都应该接近100%.