文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

分析PyMySQL获取一条数据会让内存爆炸的原因

2024-04-02 19:55

关注

这篇文章主要讲解了“分析PyMySQL获取一条数据会让内存爆炸的原因”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“分析PyMySQL获取一条数据会让内存爆炸的原因”吧!

当Python 有读写 MySQL 数据的需求时,我们经常使用PyMySQL这个第三方库来完成。

有时候如果一张表里面的数据非常大,但是我们只需要读取一条数据,此时我们可能会想当然地使用cursor.fetchone()这个方法,以为这样就真的可以只读取一条数据:

import pymysql   connection = pymysql.connect(host='localhost',                              user='user',                              password='passwd',                              db='db',                              charset='utf8mb4',                              cursorclass=pymysql.cursors.DictCursor)                               with connection.cursor() as cursor:     db = 'select * from users where age > 10'     cursor.execute(db)     one_user = cursor.fetchone()

但实际上,上面这段代码,与下面这段代码没有任何区别:

... with connection.cursor() as cursor:     sql = 'select * from users where age > 10'     cursor.execute(sql)     all_users = cursor.fetchall()     one_user = all_users[0]

这是因为,当我们执行到cursor.execute(sql)的时候,PyMySQL就已经把表里面所有的数据读取到内存中了。而后面的cursor.fetchall()或者cursor.fetchone()只不过是从内存中返回全部数据还是返回1条数据而已。

我们来看PyMySQL的源代码[1]。在cursor.execute()方法代码如下图所示:

分析PyMySQL获取一条数据会让内存爆炸的原因

其中第163行调用了self._query方法。我们再去到这个方法里面:

分析PyMySQL获取一条数据会让内存爆炸的原因

看到代码第322行,调用了self._do_get_result()方法。我们再去这个方法里面看看:

分析PyMySQL获取一条数据会让内存爆炸的原因

注意代码第342行,此时已经把所有数据存放到了self._rows列表中。

现在我们来看cursor.fetchone()方法:

分析PyMySQL获取一条数据会让内存爆炸的原因

可以看到,这里不过是从列表里面根据下标读取一条数据出来而已。

再看cursor.fetchall()方法:

分析PyMySQL获取一条数据会让内存爆炸的原因

如果之前先多次调用过cursor.fetchone(),那么self.rownumber会持续增加。而调用cursor.fetchall()时,跳过之前已经返回过的数据,直接返回剩下的全部数据即可。如果之前没有调用过cursor.fetchone(),那么直接返回全部数据。

所以,单纯使用cursor.fetchone()并不能节省内存,如果表里面的数据非常大,还是会有内存爆炸的危险。

那么真正的解决办法是什么呢?真正的解决办法在创建数据库连接的时候指定游标类型。pymysql.connect有一个参数叫做cursorclass,把它的值设定为pymysql.SSDictCursor即可解决问题。

我们来看一下如何正确使用它:

import pymysql   connection = pymysql.connect(host='localhost',                              user='user',                              password='passwd',                              db='db',                              charset='utf8mb4',                              cursorclass=pymysql.cursors.SSDictCursor)                               with connection.cursor() as cursor:     db = 'select * from users where age > 10'     cursor.execute(db)     for row in cursor:         print('对 cursor 直接进行迭代,每循环一次,从数据库读取一条数据。不会提前把所有数据读取到内存中。')         print(row['name'])

感谢各位的阅读,以上就是“分析PyMySQL获取一条数据会让内存爆炸的原因”的内容了,经过本文的学习后,相信大家对分析PyMySQL获取一条数据会让内存爆炸的原因这一问题有了更深刻的体会,具体使用情况还需要大家实践验证。这里是编程网,小编将为大家推送更多相关知识点的文章,欢迎关注!

阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-数据库
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯