文章目录
进程池
当需要创建的子进程数量不多时，可以直接利用 multiprocessing 中的 Process 动态生成多个进程，但如果是上百甚至上千个目标，手动创建进程的工作量巨大，此时就可以使用 multiprocessing 模块提供的 Pool 方法。
初始化 Pool 时，可以指定一个最大进程数，当有新的请求提交到 Pool 中时，如果池还没有满，那么就会创建一个新的进程用来执行该请求；但如果池中的进程数已经达到指定的最大值，那么该请求就会等待，直到池中有进程结束，才会用之前的进程来执行新的任务，请看下面的实例：
from multiprocessing import Poolimport os, time, randomdef worker(msg): t_start = time.time() print("%s开始执行，进程号为%d" % (msg, os.getpid())) # random.random()随机生成0~1之间的浮点数 time.sleep(random.random()*2) t_stop = time.time() print(msg, "执行完毕，耗时%0.2f" % (t_stop - t_start))po = Pool(3) # 定义一个进程池，最大进程数3for i in range(0, 10): # Pool().apply_async(要调用的目标, (传递给目标的参数元组,)) # 每次循环将会用空闲出来的子进程去调用目标 po.apply_async(worker, (i,))print("----start----")po.close() # 关闭进程池，关闭后po不再接收新的请求po.join() # 等待po中所有子进程执行完成，必须放在close语句之后print("-----end-----")运行效果
----start----0开始执行，进程号为214661开始执行，进程号为214682开始执行，进程号为214670执行完毕，耗时1.013开始执行，进程号为214662执行完毕，耗时1.244开始执行，进程号为214673执行完毕，耗时0.565开始执行，进程号为214661执行完毕，耗时1.686开始执行，进程号为214684执行完毕，耗时0.677开始执行，进程号为214675执行完毕，耗时0.838开始执行，进程号为214666执行完毕，耗时0.759开始执行，进程号为214687执行完毕，耗时1.038执行完毕，耗时1.059执行完毕，耗时1.69-----end-----multiprocessing.Pool 常用函数解析：
apply_async(func[, args[, kwds]])：使用非阻塞方式调用func（并行执行，阻塞方式必须等待上一个进程退出才能执行下一个进程），args为传递给func的参数列表，kwds为传递给func的关键字参数列表；close()：关闭Pool，使其不再接受新的任务；terminate()：不管任务是否完成，立即终止；join()：主进程阻塞，等待子进程的退出，必须在close或terminate之后使用。
进程池中的 Queue
如果要使用 Pool 创建进程，就需要使用 multiprocessing.Manager() 中的 Queue()，而不是 multiprocessing.Queue()，否则会得到一条如下的错误信息：
RuntimeError: Queue objects should only be shared between processes through inheritance.下面的实例演示了进程池中的进程如何通信：
# 修改 import 中的 `Queue` 为 `Manager`from multiprocessing import Manager, Poolimport os, time, randomdef reader(q): print("reader启动(%s)，父进程为(%s)" % (os.getpid(), os.getppid())) for i in range(q.qsize()): print("reader从Queue获取到消息：%s" % q.get(True))def writer(q): print("writer启动(%s)，父进程为(%s)" % (os.getpid(), os.getppid())) for i in "helloworld": q.put(i)if __name__ == "__main__": print("(%s) start" % os.getpid()) q = Manager().Queue() # 使用 `Manager` 中的 `Queue` po = Pool() po.apply_async(writer, (q,)) time.sleep(1) # 先让上面的任务向 `Queue` 存入数据，然后再让下面的任务开始从中取数据 po.apply_async(reader, (q,)) po.close() po.join() print("(%s) End" % os.getpid())运行结果
(4171) startwriter启动(4173)，父进程为(4171)reader启动(4174)，父进程为(4171)reader从Queue获取到消息：hreader从Queue获取到消息：ereader从Queue获取到消息：lreader从Queue获取到消息：lreader从Queue获取到消息：oreader从Queue获取到消息：wreader从Queue获取到消息：oreader从Queue获取到消息：rreader从Queue获取到消息：lreader从Queue获取到消息：d(4171) End进阶案例
【Python】Python 实现猜单词游戏——挑战你的智力和运气！
【python】Python tkinter库实现重量单位转换器的GUI程序
【python】使用Selenium获取(2023博客之星)的参赛文章
【python】使用Selenium和Chrome WebDriver来获取 【腾讯云 Cloud Studio 实战训练营】中的文章信息
使用腾讯云 Cloud studio 实现调度百度AI实现文字识别
【玩转Python系列【小白必看】Python多线程爬虫：下载表情包网站的图片
【玩转Python系列】【小白必看】使用Python爬取双色球历史数据并可视化分析
【玩转python系列】【小白必看】使用Python爬虫技术获取代理IP并保存到文件中
【小白必看】Python图片合成示例之使用PIL库实现多张图片按行列合成
【小白必看】Python爬虫实战之批量下载女神图片并保存到本地
【小白必看】使用Python爬取喜马拉雅音频并保存的示例代码
【小白必看】使用Python批量下载英雄联盟皮肤图片的技术实现
【小白必看】轻松获取王者荣耀英雄皮肤图片的Python爬虫程序
【小白必看】Python爬虫实战：获取阴阳师网站图片并自动保存
小白实战100案例: 完整简单的双色球彩票中奖判断程序，适合小白入门
使用 geopandas 和 shapely(.shp) 进行地理空间数据处理和可视化
爬虫入门指南(7):使用Selenium和BeautifulSoup爬取豆瓣电影Top250实例讲解【爬虫小白必看】
爬虫入门指南(6):反爬虫与高级技巧：IP代理、User-Agent伪装、Cookie绕过登录验证及验证码识别工具
爬虫入门指南(5): 分布式爬虫与并发控制 【提高爬取效率与请求合理性控制的实现方法】
爬虫入门指南(4): 使用Selenium和API爬取动态网页的最佳方法
爬虫入门指南(3)：Python网络请求及常见反爬虫策略应对方法
深度学习模型在图像识别中的应用：CIFAR-10数据集实践与准确率分析
MySQL 数据库操作指南：学习如何使用 Python 进行增删改查操作
使用Python和Selenium自动化爬取 #【端午特别征文】 探索技术极致，未来因你出“粽” # 的投稿文章
Python多线程与多进程教程：全面解析、代码案例与优化技巧
Python入门教程：掌握for循环、while循环、字符串操作、文件读写与异常处理等基础知识
来源地址：https://blog.csdn.net/qq_33681891/article/details/132468559
