文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

python中如何爬取并下载进击的巨人全集视频

2023-06-14 15:31

关注

这篇文章给大家分享的是有关python中如何爬取并下载进击的巨人全集视频的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。

Python主要用来做什么

Python主要应用于:1、Web开发;2、数据科学研究;3、网络爬虫;4、嵌入式应用开发;5、游戏开发;6、桌面应用开发。

本文教程操作环境:windows7系统、Python 3.9.1,DELL G3电脑。

爬取网站Url:http://www.imomoe.ai/

一、爬虫思路

拿到所有集数和对应的在线播放网址;

从在线播放的网页链接中找到视频在服务器上的缓存地址;

通过视频地址将视频下载到本地。

二、爬取过程

第一步:获取所有集数和对应的在线播放网址

用BeautifulSoup匹配id属性为play_0的div标签即可。代码如下:

season_1_url = 'http://www.imomoe.ai/view/4225.html'season_1_response = requests.get(season_1_url)season_1_response.encoding = 'gb2312'season_1_soup = BeautifulSoup(season_1_response.text, 'lxml')season_1_soup_info = season_1_soup.find('div', id="play_0")

找到其中的a标签

season_1_info = season_1_soup_info.find_all('a')

点击第一集,发现其在线播放网址是http://www.imomoe.ai/player/4225-0-0.html,其实就是http://www.imomoe.ai后面接上该标签下href属性里的东西。编写代码如下:

Season_1 = pd.DataFrame()for i in range(len(season_1_info)):    Season_1.loc[i,'集数'] = season_1_info[i].text    Season_1.loc[i,'网址'] = 'http://www.imomoe.ai' + season_1_info[i].get('href')

获取到了第一季每一集对应的在线播放网址

第二步:获取视频地址

把iframe标签src属性里的东西提取出来,再用正则表达式匹配视频地址

item = first_soup.find_all('iframe')[1].get('src')findLink = re.compile(r'vid=(.*?)&userlink=')re.findall(findLink,item)[0]

循环获取到第一季每一集的视频地址

findLink = re.compile(r'vid=(.*?)&userlink=')for i in range(len(Season_1)):    url = Season_1.loc[i,'网址']    driver = webdriver.Chrome()    driver.get(url)    response = driver.page_source    soup = BeautifulSoup(response)    item = soup.find_all('iframe')[1].get('src')    Season_1.loc[i,'视频地址'] = re.findall(findLink,item)[0]    driver.quit()

第三步:下载视频

用urllib.request.urlretrieve函数就能轻松下载

path = r'C:\我的文件\迅雷下载\进击的巨人'# 函数说明:回调函数,打印下载进度def Progress(blocknum,blocksize,totalsize):        """    blocknum:当前的块编号    blocksize:每次传输的块大小    totalsize:网页文件总大小    """    percent = blocknum*blocksize/totalsize    if percent > 1.0:        percent = 1.0    percent = percent*100    print("\r%.2f%% 已下载:%.2f Mb 文件大小:%.2f Mb" %(percent,blocknum*blocksize/1e6,totalsize/1e6), end='     ')for i in range(len(Season_1)):    download_url = Season_1.loc[i,'视频地址']    if os.path.exists(path + './第一季') != 1:        os.mkdir(path + './第一季')        filename = os.path.join(path, '第一季', Season_1.loc[i,'集数']+'.mp4')        print('正在下载%s' %Season_1.loc[i,'集数'])    urllib.request.urlretrieve(download_url, filename, Progress)    print()

感谢各位的阅读!关于“python中如何爬取并下载进击的巨人全集视频”这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,让大家可以学到更多知识,如果觉得文章不错,可以把它分享出去让更多的人看到吧!

阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯