这篇文章将为大家详细讲解有关Python爬虫怎么爬取KFC地址,小编觉得挺实用的,因此分享给大家做个参考,希望大家阅读完这篇文章后可以有所收获。
python主要应用领域有哪些
1、云计算,典型应用OpenStack。2、WEB前端开发,众多大型网站均为Python开发。3.人工智能应用,基于大数据分析和深度学习而发展出来的人工智能本质上已经无法离开python。4、系统运维工程项目,自动化运维的标配就是python+Django/flask。5、金融理财分析,量化交易,金融分析。6、大数据分析。
随着人们生活水平的提高,肯德基这类的快餐消费的十分火爆,成为小朋友和年轻人的最爱,我们到一个地方想要找到肯德基店面,会根据导航获取肯德基地址,那你知道我们也可以使用python爬虫获取KFC地址吗?我们可以使用python爬虫的requests模块模拟浏览器发送请求对肯德基官网的数据进行爬取。
爬虫目标:使用requests模块对肯德基官网的数据进行爬取。
requests模块作用:requests模块是python一款原生的基于网络请求的模块,我们用来模拟浏览器发送请求。
1、导入requests模块
# 调用requests模块import requestsif __name__ == '__main__':
2、获取要请求的url并发起请求
requests模块请求功能来代替我们用户在网页上的鼠标点击操作,即使不用浏览器也能完成访问。
# 获取要请求的url post_url = 'http://www.kfc.com.cn/kfccda/ashx/GetStoreList.ashx?op=keyword' kw = input('请输入城市名: ') data = { 'cname': '', 'pid': '', 'keyword': kw, 'pageIndex': '1', 'pageSize': '10' } # UA伪装 headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/87.0.4280.141 Safari/537.36' }
3、获取响应数据并储存数据
发起了请求,服务器自然会给回应,从服务器返回的数据中可以筛选出我们所希望得到的数据。
# 获得请求返回数据并保存 dict_text = response.text #虽然返回的是txt格式,但是这里保存成json格式,就可以使用自动调整格式了,更方便查看 filename = kw+'市kfc分布.json' fp = open(filename,'w',encoding='utf-8') fp.write(dict_text) print('爬取成功~')
关于“Python爬虫怎么爬取KFC地址”这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,使各位可以学到更多知识,如果觉得文章不错,请把它分享出去让更多的人看到。