文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

Python爬虫之网络请求实例分析

2023-06-30 00:37

关注

本篇内容介绍了“Python爬虫之网络请求实例分析”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!

1.IP代理

某些网站会检测一段时间内某IP的访问次数,若访问次数过多会禁止访问,这时需要设置一些代理服务器,每隔一段时间换一个代理。IP代理的分类:

2.Cookie

解决http的无状态性,第一次向服务器发送请求时,服务器生成Cookie作为请求头并储存到浏览器中;浏览器再次发送请求时将携带Cookie信息。

import urllib.requestfrom http import cookiejarfilename = 'cookie.txt'#获取Cookiedef get_cookie():    #实例化一个MozillaCookieJar用于存储cookie    cookie = cookiejar.MozillaCookieJar(filename)    #创建handler对象    handler = urllib.request.HTTPCookieProcessor(cookie)    #创建opener对象    opener = urllib.request.build_opener(handler)    #请求网址    url = 'https://tieba.baidu.com/index.html?traceid=#'    resp = opener.open(url) #发送请求    #存储cookie文件    cookie.save() #读取cookiedef use_cookie():    #实例化MozillaCookieJar    cookie = cookiejar.MozillaCookieJar()    #加载cookie文件    cookie.load(filename)    print(cookie) get_cookie()use_cookie()

3.异常处理 

①urllib.error.URLError:用于捕获由urllib.request产生的异常,使用reason属性返回错误原因

import urllib.requestimport urllib.error url = 'http://www.google.com'try:    resp = urllib.request.urlopen(url)except urllib.error.URLError as e:    print(e.reason)

输出结果:

[WinError 10060] 由于连接方在一段时间后没有正确答复或连接的主机没有反应,连接尝试失败。

②urllib.error.HTTPError:用于处理HTTP与HTTPS请求的错误,

有三个属性:

import urllib.requestimport urllib.error url = 'https://movie.douban.com/'try:    resp = urllib.request.urlopen(url)except urllib.error.HTTPError as e:    print('原因:',e.reason)    print('响应状态码:',str(e.code))    print('响应头数据:',e.headers)

Python爬虫之网络请求实例分析

“Python爬虫之网络请求实例分析”的内容就介绍到这里了,感谢大家的阅读。如果想了解更多行业相关的知识可以关注编程网网站,小编将为大家输出更多高质量的实用文章!

阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     801人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     348人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     311人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     432人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     220人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯