python中Scrapy数据流是什么-创新互联
这篇文章主要介绍了python中Scrapy数据流是什么,具有一定借鉴价值,需要的朋友可以参考下。希望大家阅读完这篇文章后大有收获。下面让小编带着大家一起了解一下。
创新互联专注于卓资网站建设服务及定制,我们拥有丰富的企业做网站经验。 热诚为您提供卓资营销型网站建设,卓资网站制作、卓资网页设计、卓资网站官网定制、小程序制作服务,打造卓资网络公司原创品牌,更为您提供卓资网站排名全网营销落地服务。什么是异步:
工作涉及一次执行多个IO操作。
什么是多线程:
多线程:允许单个任务分成不同的部分运行
相互之间是有一定的相似之处的,那我们接下来解说下 scrapy框架,然后大家自己来抉择下哈~
Scrapy框架是通过命令行来创建项目的,代码的编写还是需要IDE。项目创建之后,项目文件结构如下所示:
scrapy.cfg project/ __init__.py items.py pipelines.py settings.py middlewares.py spiders/ __init__.py spider1.py spider2.py ...复制代码
Scrapy数据流是由执行的核心引擎控制,流程是这样的:
1、爬虫引擎获得初始请求开始抓取。
2、爬虫引擎开始请求调度程序SCHEDULER,并准备对下一次的请求进行抓取。
3、爬虫调度器返回下一个请求给爬虫引擎。
4、引擎请求发送到下载器DOWNLOADER,通过下载中间件下载网络数据。
5、一旦下载器完成页面下载,将下载结果返回给爬虫引擎。
感谢你能够认真阅读完这篇文章,希望小编分享python中Scrapy数据流是什么内容对大家有帮助,同时也希望大家多多支持创新互联网站建设公司,,关注创新互联行业资讯频道,遇到问题就找创新互联网站建设公司,,详细的解决方法等着你来学习!
名称栏目:python中Scrapy数据流是什么-创新互联
转载来于:http://pwwzsj.com/article/dsdgde.html