文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

Python Pymysql如何实现数据存储

2023-07-05 12:56

关注

这篇文章主要介绍“Python Pymysql如何实现数据存储”,在日常操作中,相信很多人在Python Pymysql如何实现数据存储问题上存在疑惑,小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”Python Pymysql如何实现数据存储”的疑惑有所帮助!接下来,请跟着小编一起来学习吧!

Python 连接并操作 MySQL 数据库,主要通过 Pymysql 模块实现。这里讲解如何将抓取的数据存储至 MySQL 数据库。

创建存储数据表

首先您应该确定您的计算机上已经安装了 MySQL 数据库,然后再进行如下操作:

# 1. 连接到mysql数据库mysql -h227.0.0.1 -uroot -p123456# 2. 建库create database maoyandb charset utf8;# 3. 切换数据库use maoyandb;# 4. 创建数据表create table filmtab(name varchar(100),star varchar(400),time varchar(30));

Pymysql基本使用

1) 连接数据库

db = pymysql.connect('localhost','root','123456','maoyandb')

参数说明:

2) 创建cursor对象

cursor = db.cursor()

3) 执行sql命令

execute() 方法用来执行 SQL 语句。如下所示:

#第一种方法:编写sql语句,使用占位符传入相应数据sql = "insert into filmtab values('%s','%s','%s')" % ('刺杀,小说家','雷佳音','2021')cursor.excute(sql)第二种方法:编写sql语句,使用列表传参方式sql = 'insert into filmtab values(%s,%s,%s)'cursor.execute(sql,['刺杀,小说家','雷佳音','2021'])

4) 提交数据

db.commit()

5) 关闭数据库

cursor.close()db.close()

完整的代码如下所示:

# -*-coding:utf-8-*-import pymysql#创建对象db = pymysql.connect('localhost','root','123456','maoyandb')cursor = db.cursor()# sql语句执性,单行插入info_list = ['刺杀,小说家','雷佳音,杨幂','2021-2-12']sql = 'insert into movieinfo values(%s,%s,%s)'#列表传参cursor.execute(sql,info_list)db.commit()# 关闭cursor.close()db.close()

查询数据结果,如下所示:

mysql> select * from movieinfo;
+-------------+-------------------+-----------+
| name        | star              | time      |
+-------------+-------------------+-----------+
| 刺杀,小说家   | 雷佳音,杨幂         | 2021-2-12 |
+-------------+-------------------+-----------+
1 rows in set (0.01 sec)

还有一种效率较高的方法,使用 executemany() 可以同时插入多条数据。示例如下:

db = pymysql.connect('localhost','root','123456','maoyandb',charset='utf8')cursor = db.cursor()# sql语句执性,列表元组info_list = [('我不是药神','徐峥','2018-07-05'),('你好,李焕英','贾玲','2021-02-12')]sql = 'insert into movieinfo values(%s,%s,%s)'cursor.executemany(sql,info_list)db.commit()# 关闭cursor.close()db.close()

查询插入结果,如下所示:

mysql> select * from movieinfo;
+-------------+-------------------+------------+
| name        | star              | time       |
+-------------+-------------------+------------+
| 我不是药神  | 徐峥              | 2018-07-05 |
| 你好,李焕英 | 贾玲              | 2021-02-12 |
+-------------+-------------------+------------+
2 rows in set (0.01 sec)

修改爬虫程序

下面修改一下爬虫程序,将抓取下来的数据存储到 MySQL 数据库。如下所示:

# coding=gbkfrom urllib import requestimport reimport timeimport randomfrom ua_info import ua_listimport pymysqlclass MaoyanSpider(object):    def __init__(self):        #初始化属性对象        self.url = 'https://maoyan.com/board/4?offset={}'        #数据库连接对象        self.db = pymysql.connect(            'localhost','root','123456','maoyandb',charset='utf8')        #创建游标对象        self.cursor = self.db.cursor()    def get_html(self,url):        headers = {'User-Agent':random.choice(ua_list)}        req = request.Request(url=url,headers=headers)        res = request.urlopen(req)        html = res.read().decode()        # 直接解析        self.parse_html(html)    def parse_html(self,html):        re_bds = '<div class="movie-item-info">.*?title="(.*?)".*?<p class="star">(.*?)</p>.*?class="releasetime">(.*?)</p>'        pattern = re.compile(re_bds,re.S)        r_list = pattern.findall(html)        self.save_html(r_list)    def save_html(self, r_list):        L = []        sql = 'insert into movieinfo values(%s,%s,%s)'        # 整理数据        for r in r_list:            t = (                r[0].strip(),                r[1].strip()[3:],                r[2].strip()[5:15]            )            L.append(t)            print(L)        # 一次性插入多条数据 L:[(),(),()]        try:            self.cursor.executemany(sql,L)            # 将数据提交数据库            self.db.commit()        except:            # 发生错误则回滚            self.db.rollback()    def run(self):        for offset in range(0,11,10):            url = self.url.format(offset)            self.get_html(url)            time.sleep(random.uniform(1,3))        # 断开游标与数据库连接        self.cursor.close()        self.db.close()if __name__ == '__main__':    start=time.time()    spider = MaoyanSpider()    spider.run()    end=time.time()    print("执行时间:%.2f" % (end-start))

数据库查询存储结果,如下所示:

mysql> select * from movieinfo;
+----------------+----------------------------------------------------------+------------+
| name           | star                                                     | time       |
+----------------+----------------------------------------------------------+------------+
| 我不是药神     | 徐峥,周一围,王传君                                               | 2018-07-05 |
| 肖申克的救赎   | 蒂姆&middot;罗宾斯,摩根&middot;弗里曼,鲍勃&middot;冈顿                                  | 1994-09-10 |
| 绿皮书         | 维果&middot;莫腾森,马赫沙拉&middot;阿里,琳达&middot;卡德里尼                            | 2019-03-01 |
| 海上钢琴师     | 蒂姆&middot;罗斯,比尔&middot;努恩,克兰伦斯&middot;威廉姆斯三世                           | 2019-11-15 |
| 小偷家族       | 中川雅也,安藤樱,松冈茉优                                          | 2018-08-03 |
| 霸王别姬       | 张国荣,张丰毅,巩俐                                               | 1993-07-26 |
| 哪吒之魔童降世 | 吕艳婷,囧森瑟夫,瀚墨                                              | 2019-07-26 |
| 美丽人生       | 罗伯托&middot;贝尼尼,朱斯蒂诺&middot;杜拉诺,赛尔乔&middot;比尼&middot;布斯特里克                  | 2020-01-03 |
| 这个杀手不太冷 | 让&middot;雷诺,加里&middot;奥德曼,娜塔莉&middot;波特曼                                   | 1994-09-14 |
| 盗梦空间       | 莱昂纳多&middot;迪卡普里奥,渡边谦,约瑟夫&middot;高登-莱维特                        | 2010-09-01 |
+----------------+----------------------------------------------------------+------------+
10 rows in set (0.01 sec)

到此,关于“Python Pymysql如何实现数据存储”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注编程网网站,小编会继续努力为大家带来更多实用的文章!

阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     807人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     351人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     314人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     433人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     221人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-数据库
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯