Python3网络爬虫实战-14、部署相关库的安装:Scrapyrt、Gerapy
Scrapyrt的安装
Scrapyrt 为 Scrapy 提供了一个调度的 HTTP 接口,有了它我们不需要再执行 Scrapy 命令而是通过请求一个 HTTP 接口即可调度 Scrapy 任务,Scrapyrt 比 Scrapyd 轻量级,如果不需要分布式多任务的话可以简单使用 Scrapyrt 实现远程 Scrapy 任务的调度。
成都做网站、成都网站制作的开发,更需要了解用户,从用户角度来建设网站,获得较好的用户体验。成都创新互联多年互联网经验,见的多,沟通容易、能帮助客户提出的运营建议。作为成都一家网络公司,打造的就是网站建设产品直销的概念。选择成都创新互联,不只是建站,我们把建站作为产品,不断的更新、完善,让每位来访用户感受到浩方产品的价值服务。
1. 相关链接
- GitHub:https://github.com/scrapinghu...
- 官方文档:http://scrapyrt.readthedocs.io
2. Pip安装
推荐使用 Pip 安装,命令如下:
pip3 install scrapyrt
命令执行完毕之后即可完成安装。
接下来在任意一个 Scrapy 项目中运行如下命令即可启动 HTTP 服务:
scrapyrt
Python资源分享qun 784758214 ,内有安装包,PDF,学习视频,这里是Python学习者的聚集地,零基础,进阶,都欢迎
运行之后会默认在 9080 端口上启动服务,类似的输出结果如下:
scrapyrt
2017-07-12 22:31:03+0800 [-] Log opened.
2017-07-12 22:31:03+0800 [-] Site starting on 9080
2017-07-12 22:31:03+0800 [-] Starting factory
如果想更换运行端口可以使用 -p 参数,如:
scrapyrt -p 9081
这样就会在 9081 端口上运行了。
3. Docker安装
另外 Scrapyrt 也支持 Docker,如想要在 9080 端口上运行,且本地 Scrapy 项目的路径为 /home/quotesbot,可以使用如下命令运行:
docker run -p 9080:9080 -tid -v /home/user/quotesbot:/scrapyrt/project scrapinghub/scrapyrt
这样同样可以在 9080 端口上监听指定的 Scrapy 项目。
Gerapy的安装
Gerapy 是一个 Scrapy 分布式管理模块,本节来介绍一下 Gerapy 的安装方式。
1. 相关链接
GitHub:https://github.com/Gerapy
2. Pip安装
推荐使用 Pip 安装,命令如下:
pip3 install gerapy
3. 测试安装
安装完成之后,可以在 Python 命令行下测试。
$ python3
>>> import gerapy
Python资源分享qun 784758214 ,内有安装包,PDF,学习视频,这里是Python学习者的聚集地,零基础,进阶,都欢迎
如果没有错误报出,则证明库已经安装好了。
当前题目:Python3网络爬虫实战-14、部署相关库的安装:Scrapyrt、Gerapy
转载来源:http://pwwzsj.com/article/jpdggs.html