R语言爬虫如何爬取招聘网站的招聘信息
R语言爬虫如何爬取招聘网站的招聘信息,针对这个问题,这篇文章详细介绍了相对应的分析和解答,希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。
站在用户的角度思考问题,与客户深入沟通,找到周村网站设计与周村网站推广的解决方案,凭借多年的经验,让设计与互联网技术结合,创造个性化、用户体验好的作品,建站类型包括:成都网站制作、成都做网站、企业官网、英文网站、手机端网站、网站推广、空间域名、雅安服务器托管、企业邮箱。业务覆盖周村地区。
R语言爬取招聘网上的招聘信息,虽然R做爬虫确实没python专业,但是有一个包rvest我觉得还不错,我尝试爬取58同城招聘网上的数据。
rvest包,用到的函数有:
read_html(),
html_nodes(),
html_text(),
html_attr();
具体源代码如下:
#####加载相关包############
library(xml2)
library(rvest)
library(base)
下面获得每个子网站的地址
#58同城主网站网址
url<-"http://jingzhou.58.com/?utm_source=market&spm=b-31580022738699-pe-f-829.hao360_101"
web<-read_html(url,encoding = "utf-8")
xpath<-"div.col3 a"
#############子网站网址###########
title<-web%>%html_nodes(xpath)%>%html_text()
link<-web%>%html_nodes(xpath)%>%html_attr("href")
##########对子网站翻页########
id<-c(1:20)
pn<-paste0("pn",id,"/")#下载的网址有规律地缺失paste0()是字符串连接函数
###########清理网址中的缺失值#########
for (http in 1:length(link)) {
httplink<-substr(link[http],1,4)
if(httplink=="http"){link[http]<-substr(link[http],"",link[http])}
}
link<-na.omit(link)
filename<-"E:\\工作簿1.csv"#本地文件路径,用以存储下载的数据
job<-"职位";company<-"公司";location<-"地域";time<-"发布时间"
data<-data.frame(job,company,location,time)
len<-max(length(job),length(company),length(location),length(time))
########从子网站爬取数据##########
for (i in 1:length(link)) {
link0<-paste0("http://jingzhou.58.com",link[i],pn,"&utm_source=market&spm=b-31580022738699-pe-f-829.hao360_101&PGTID=0d100000-00d9-7474-25a7-e93482a12861&ClickID=xxxx")
link1<-paste0("http://jingzhou.58.com",link[i],pn,"?utm_source=market&spm=b-31580022738699-pe-f-829.hao360_101&PGTID=0d100000-00d9-7fce-21b0-b8956617e76f&ClickID=xxxx")
#####网址最后的变化###########
for (j in 1:length(link)) {
link0<-gsub("xxxx",j,link0)
link1<-gsub("xxxx",j,link1)
#####网站名的两种类型用trycatch()消除错误#####
for (k in 1:length(pn)) {
tryCatch(
{web<-read_html(link0[k],encoding = "utf-8")},
error={web<-read_html(link1[k],encoding = "utf-8")})
###########提取需要的变量###########
job_path<-"dt a"; #获取职位节点
company_path<-"dd.w271 a";#获取公司节点
location_path<-"dd.w96";#获取地域节点
time_path<-"dd.w68";#获取发布时间节点
job<-web%>%html_nodes(job_path)%>%html_text();
company<-na.omit(web%>%html_nodes(company_path)%>%html_text());
location<-web%>%html_nodes(location_path)%>%html_text();
time<-web%>%html_nodes(time_path)%>%html_text();
job<-job[1:len];company<-company[1:len];location<-location[1:len];time<-time[1:len]#长度一致#
data1<-data.frame(job,company,location,time);
if(length(data>0)){
data<-na.omit(rbind(data,data1))}
else
{data1<-rep(NA,len);data<-na.omit(rbind(data,data1))}
}
}
Sys.sleep(3)#每隔3秒钟停一次,防止反爬虫
print(i)
print("sleep end,download start!")
}
data<-data[-1,]
write.csv(data,file = filename)
就是这样了,自己实操一遍才好。
关于R语言爬虫如何爬取招聘网站的招聘信息问题的解答就分享到这里了,希望以上内容可以对大家有一定的帮助,如果你还有很多疑惑没有解开,可以关注创新互联行业资讯频道了解更多相关知识。
网页标题:R语言爬虫如何爬取招聘网站的招聘信息
网站地址:http://pwwzsj.com/article/ggpojo.html