怎么在python中使用selenium实现一个网络爬虫-创新互联
本篇文章为大家展示了怎么在python中使用selenium实现一个网络爬虫,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。
网站建设哪家好,找创新互联!专注于网页设计、网站建设、微信开发、小程序定制开发、集团企业网站建设等服务项目。为回馈新老客户创新互联还提供了高淳免费建站欢迎大家使用!Python主要用来做什么
Python主要应用于:1、Web开发;2、数据科学研究;3、网络爬虫;4、嵌入式应用开发;5、游戏开发;6、桌面应用开发。
1.selenium初始化
方法一:会打开网页
# 该方法会打开goole网页 from selenium import webdriver url = '网址' driver = webdriver.Chrome() driver.get(url) driver.maximize_window() # 实现窗口较大化
方法二:不会打开网页
# 该方法会隐式打开goole网页 from selenium import webdriver url = '网址' driver = webdriver.ChromeOptions() driver.add_argument("headless") driver = webdriver.Chrome(options=driver) driver.get(url)
driver = webdriver.Chrome()出错是因为没有chromedriver.exe这个文件
2.元素定位
在selenium中,可以有多种方法对元素进行定位,个人通常喜欢用Xpath和selector来定位元素,这样就不用一个一个的去找节点,直接在网页上定位到元素复制就行。
driver.find_element_by_id() # 通过元素ID定位 driver.find_element_by_name() # 通过元素Name定位 driver.find_element_by_class_name() # 通过类名定位 driver.find_element_by_tag_name() # 通过元素TagName定位 driver.find_element_by_link_text() # 通过文本内容定位 driver.find_element_by_partial_link_text() driver.find_element_by_xpath() # 通过Xpath语法定位 driver.find_element_by_css_selector() # 通过选择器定位
注:若寻找多个元素,要记得用复数来选择(element改为elements)
# 例如 [i.text for i in driver.find_elements_by_xpath()]
3.建立点击事件
因为有些网站的需求,需建立点击事件,
如下图的这种时间选择,需要设置点击和输入内容,设置的方法也很简单。
driver.find_element_by_css_selector('').click() # 点击 driver.find_element_by_css_selector('').send_keys('2021-3-9') # 输入内容
4.切换窗口
有些网站点击之后会产生新窗口,这时就需要进行窗口的切换才能进行元素定位
win = driver.window_handles # 获取当前浏览器的所有窗口 driver.switch_to.window(win[-1]) # 切换到最后打开的窗口 driver.close() # 关闭当前窗口 driver.switch_to.window(win[0]) # 切换到最初的窗口
5.iframe问题
有些网站会采用iframe来编写页面,这时就需要进入到iframe才可以获取元素,一般有多少个iframe就需要进入多少个iframe。
# 有两个iframe,需逐步进入 iframe1 = driver.find_element_by_xpath('') driver.switch_to.frame(iframe1) iframe2 = driver.find_element_by_xpath('') driver.switch_to.frame(iframe2)
上述内容就是怎么在python中使用selenium实现一个网络爬虫,你们学到知识或技能了吗?如果还想学到更多技能或者丰富自己的知识储备,欢迎关注创新互联行业资讯频道。
本文名称:怎么在python中使用selenium实现一个网络爬虫-创新互联
标题来源:http://pwwzsj.com/article/dehhgd.html