文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

使用Python怎么爬取某文库文档数据

2023-06-14 17:55

关注

使用Python怎么爬取某文库文档数据?相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。

python是什么意思

Python是一种跨平台的、具有解释性、编译性、互动性和面向对象的脚本语言,其最初的设计是用于编写自动化脚本,随着版本的不断更新和新功能的添加,常用于用于开发独立的项目和大型项目。

一、基本开发环境

Python 3.6

Pycharm

二、相关模块的使用

import osimport requestsimport timeimport reimport jsonfrom docx import Documentfrom docx.shared import Cm

安装Python并添加到环境变量,pip安装需要的相关模块即可。

三、目标网页分析

使用Python怎么爬取某文库文档数据

网站的文档内容,都是以图片形式存在的。它有自己的数据接口

接口链接:

https://openapi.book118.com/getPreview.html?&project_id=1&aid=272112230&t=f2c66902d6b63726d8e08b557fef90fb&view_token=SqX7ktrZ_ZakjDI@vcohcCwbn_PLb3C1&page=1&callback=jQuery18304186406662159248_1614492889385&_=1614492889486

接口的请求参数

使用Python怎么爬取某文库文档数据

四、整体思路

五、爬虫代码实现

def download():    content = 0    for page in range(1, 96, 6):        # 给定 2秒延时        time.sleep(2)        # 获取时间戳        now_time = int(time.time() * 1000)        url = 'https://openapi.book118.com/getPreview.html'        # 请求参数        params = {            'project_id': '1',            'aid': '272112230',            't': 'f2c66902d6b63726d8e08b557fef90fb',            'view_token': 'SqX7ktrZ_ZakjDI@vcohcCwbn_PLb3C1',            'page': f'{page}',            '_': now_time,        }        # 请求头        headers = {            'Host': 'openapi.book118.com',            'Referer': 'https://max.book118.com/html/2020/0427/8026036013002110.shtm',            'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'        }        response = requests.get(url=url, params=params, headers=headers)        # 使用正则表达式提取内容        result = re.findall('jsonpReturn\((.*?)\)', response.text)[0]        # 字符串转json数据        json_data = json.loads(result)['data']        # 字典值的遍历        for value in json_data.values():            content += 1            # 拼接图片url            img_url = 'http:' + value            print(img_url)            headers_1 = {                'Host': 'view-cache.book118.com',                'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'            }            # 请求图片url地址 获取content二进制数据            img_content = requests.get(url=img_url, headers=headers_1).content            # 文件名            img_name = str(content) + '.jpg'            # 保存路径            filename = 'img\\'            # 以二进制方式保存 (图片、音频、视频等文件都是以二进制的方式保存)            with open(filename + img_name, mode='wb') as f:                f.write(img_content)

注意点:

一定要给延时,不然后面接口数据会请求不到。

请求图片url的时候headers参数需要写完整,否则保存图片是无法打开的

命名最好是给定数字,1.jpg、2.jpg 这样,方便后续保存到word

爬虫部分的代码还是比较简单的,没有什么特别的难度。

爬取这些文档,都是需要打印或者查询所以要把这些单张的图片都保存到word文档里面。

六、写入文档

def save_picture():    document = Document()    path = './img/'    lis = os.listdir(path)    c = []    for li in lis:        index = li.replace('.jpg', '')        c.append(index)    c_1 = sorted(list(map(int, c)))    print(c_1)    new_files = [(str(i) + '.jpg') for i in c_1]    for num in new_files:        img_path = path + num        document.add_picture(img_path, width=Cm(17), height=Cm(24))        document.save('tu.doc')  # 保存文档        os.remove(img_path)  # 删除保存在本地的图片

看完上述内容,你们掌握使用Python怎么爬取某文库文档数据的方法了吗?如果还想学到更多技能或想了解更多相关内容,欢迎关注编程网行业资讯频道,感谢各位的阅读!

阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     807人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     351人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     314人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     433人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     221人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯