python的爬虫框架scrapy有什么用

这篇文章主要介绍了python的爬虫框架scrapy有什么用,具有一定借鉴价值,需要的朋友可以参考下。希望大家阅读完这篇文章后大有收获。下面让小编带着大家一起了解一下。

创新互联-专业网站定制、快速模板网站建设、高性价比芦山网站开发、企业建站全套包干低至880元,成熟完善的模板库,直接使用。一站式芦山网站制作公司更省心,省钱,快速模板网站建设找我们,业务覆盖芦山地区。费用合理售后完善,十年实体公司更值得信赖。

1、Scrapy爬虫框架

Scrapy是一个使用Python编程语言编写的爬虫框架,任何人都可以根据自己的需求进行修改,并且使用起来非常的方便。它可以应用在数据采集、数据挖掘、网络异常用户检测、存储数据等方面。

Scrapy使用了Twisted异步网络库来处理网络通讯。整体架构大致如下图所示。

python的爬虫框架scrapy有什么用

2、由上图可知Scrapy爬虫框架主要由5个部分组成。

Scrapy Engine(Scrapy引擎),Scheduler(调度器),Downloader(下载器),Spiders(蜘蛛),Item Pipeline(项目管道)。

3、这五大组件及其中间件的功能如下:

1) Scrapy引擎

2) Scheduler(调度器)

3) Downloader(下载器)

4) Spiders(蜘蛛)

5) Item Pipeline(项目管道)

6) 中间件(Middlewares)

感谢你能够认真阅读完这篇文章,希望小编分享python的爬虫框架scrapy有什么用内容对大家有帮助,同时也希望大家多多支持创新互联,关注创新互联行业资讯频道,遇到问题就找创新互联,详细的解决方法等着你来学习!


分享题目:python的爬虫框架scrapy有什么用
URL地址:http://pwwzsj.com/article/jehsjp.html