这篇文章主要为大家分享了如何利用python获取赶集网招聘信息的前一篇内容,感兴趣的小伙伴们可以参考一下
如何获取一个网站的相关信息,获取赶集网的招聘信息,本文为大家介绍利用python获取赶集网招聘信息的关键代码,供大家参考,具体内容如下
import re
import urllib
import urllib.request
#获取赶集网数据
def begin(url):
#要伪装成的浏览器(我这个是用的chrome)
headers = (‘user-agent’,’mozilla/5.0 (windows nt 6.1; wow64) applewebkit/537.36 (khtml, like gecko) chrome/46.0.2490.86 safari/537.36′)
opener = urllib.request.build_opener()
#将要伪装成的浏览器添加到对应的http头部
opener.addheaders=[headers]
#读取相应的url
data = opener.open(url).read()
#将获得的html解码为utf-8
data=data.decode(‘utf-8′)
return data
#处理数据,返回字典城市对应城市的url
def get_cityinfo(data):
city_info1=re.findall(r’dl>(.*?)’,data,re.s)
city_info2=re.findall(r'()’,city_info1[0],re.s)
city_dict={}
for each in city_info2:
key=re.findall(‘>(.*?)(.*?)(.*?)