python爬虫中如何获取数据
这篇文章主要介绍python爬虫中如何获取数据,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!
网站建设哪家好,找成都创新互联!专注于网页设计、网站建设、微信开发、微信小程序开发、集团企业网站建设等服务项目。为回馈新老客户创新互联还提供了沙湾免费建站欢迎大家使用!
1、爬取数据,实际上就是根据一个网址向服务器发起网络请求。
获取服务器返回的数据。
2、解析数据,将服务器返回的数据转换成易于理解的样式。
3、过滤资料,从大量资料中筛选出所需资料。
4、储存资料。
实例
from urllib.request import Request from urllib.request import urlopen # 爬取百度首页 url1 = 'http://www.baidu.com' # 用一个变量保存 request = Request(url=url1) response = urlopen(request) # print(response.read().decode('utf-8')) # 获取的数据是源代码要用decode进行解码操作 html_string = response.read().decode('utf-8') with open('baidu.html', 'w', encoding='utf-8') as fp: fp.write(html_string)
以上是“python爬虫中如何获取数据”这篇文章的所有内容,感谢各位的阅读!希望分享的内容对大家有帮助,更多相关知识,欢迎关注创新互联行业资讯频道!
本文题目:python爬虫中如何获取数据
分享网址:http://pwwzsj.com/article/gjpjde.html