怎么在python中使用进程池
这篇文章给大家介绍怎么在python中使用进程池,内容非常详细,感兴趣的小伙伴们可以参考借鉴,希望对大家能有所帮助。
为凤县等地区用户提供了全套网页设计制作服务,及凤县网站建设行业解决方案。主营业务为网站设计制作、网站制作、凤县网站设计,以传统方式定制建设网站,并提供域名空间备案等一条龙服务,秉承以专业、用心的态度为用户提供真诚的服务。我们深信只要达到每一位用户的要求,就会得到认可,从而选择与我们长期合作。这样,我们也可以走得更远!
Python主要用来做什么
Python主要应用于:1、Web开发;2、数据科学研究;3、网络爬虫;4、嵌入式应用开发;5、游戏开发;6、桌面应用开发。
1、使用注意
(1)使用池时,如果未指定进程数,则默认为CPU核心数。
(2)核心数量对应于计算机的逻辑处理器数量(任务管理器-性能),而不是核心数量(我的计算机有2个核心和4个逻辑处理器,因此这里默认使用4个进程)
(3)进程数可以是几十万,并不意味着开放进程的最大数量是4。只要使用池(10),就可以同时打开10个进程进行爬网。
(4)但是需要注意的是,无论多线程还是多进程,打开过多都会导致切换耗时,降低效率,所以创建过多的多线程和进程是谨慎的。
2、实例
import requests from bs4 import BeautifulSoup from multiprocessing import Pool, current_process def get_title(i): print('start', current_process().name) title_list = [] url = 'https://movie.douban.com/top250?start={}&filter='.format(i*25) r = requests.get(url) soup = BeautifulSoup(r.content, 'html.parser') lis = soup.find('ol', class_='grid_view').find_all('li') for li in lis: title = li.find('span', class_="title").text # return title title_list.append(title) print(title) return(title_list)if __name__ == '__main__': pool = Pool() for i in range(10): pool.apply_async(get_title, (i, )) pool.close() pool.join() print('finish')
关于怎么在python中使用进程池就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。
分享标题:怎么在python中使用进程池
转载源于:http://pwwzsj.com/article/pjgesd.html