文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

【percona-toolkit手册】pt-archiver数据归档

2024-04-02 19:55

关注

pt-archiver

  1. 简介
    把MySQL表中的部分行存档到另外的表或者文件中
  2. 概要
    1.用法:
    pt-archiver [可选项] --source DSN --where WHERE
    2.详细介绍
    本着在OLTP环境中可以尽量少影响查询性能的目的,我将这个工具设计可以在低性能影响,正向性
    的情况下将数据小批量小批量的将旧数据取出并归档。
    本工具依靠插件式的原理实现了可扩展性,各位可以对此工具进行增加更本地化的功能,例如扩展
    更加复杂的规则,或者边抽取数据边创建数据仓库。
    技巧:找到第一行,然后根据某些索引向后查找更多行的数据,包含在命令最后面的where段中的条件
    应当可以依靠索引查找所满足的数据,而不是靠扫描整个表。
    可以在--source声明中指定 i参数(index),这对于想要根据索引获取数据行的操作非常关键。
    使用--dry-run声明此次工具执行后只生成对应的SQL语句,而不真正操作数据,接着对生成的
    SQL语句进行explain操作,检查其索引使用情况。更进一步可以检查语句执行过程中的句柄操作类型
    确保语句没有进行全表扫描(句柄操作类型:read,read_rnd_next,delete等等底层原子性操作)

  3. 参数
    注意:
    至少要指定--dest,--file,或者--purge参数
    --ignore--replace 互斥
    --txn-size--commit-each 互斥
    --low-priority-insert--delay-insert 互斥
    --share-lock--for-update 互斥
    --analyze--optimize 互斥
    --no-ascend--no-delete 互斥
    如果在COPY模式下,--dest的参数值默认继承--source参数的值
    --analyze
    在传输完数据后,运行ANALYZE TABLE进行优化表的索引信息。
    --analyze=d 优化dest表索引信息
    --analyze=s 优化source表索引信息
    --analyze=ds 优化源表与目标表的索引信息
    --no-ascend
    不使用递增索引优化特性
    默认情况下,pt-archiver工具使用递增索引特性优化批量重复的select操作,即:下一批数据归档时将
    从上一批归档结束时索引的位置开始,不需要再从头扫描到自己需要归档的位置,但在多列复合索引
    的情况下可能效果降低
    --ascend-first
    仅使用复合索引的第一列进行递增优化,与上面的参数有关,在复合索引或者where条件复杂的情况
    下,仅使用的复合索引的第一列进行递增优化,比上面的完全不使用递增索引优化特性方法更好
    --ask-pass
    采用交互的方式输入密码,防止身后的开发与测试窥屏
    --buffer
    禁用自动刷新缓存到--file参数指定的的文件,将结果集存在操作系统缓存中,提交的时候刷新缓存。
    (原本是每行都会刷新一次到文件)。但使用操作系统缓存是个不可靠因素,可能会导致意外丢失
    数据。
    当--buffer在5-15%的左右时,可以提升本工具的性能
    --txn-size
    指定一个事务处理多少行数据,默认1。设成0,不使用批量特性,自动提交事务。
    当工具处理完设定行数的数据时,同时对源库和目标库进行事务提交,然后刷新到--file参数指定
    的文件中这个参数对源库性能的影响比较大,对繁忙的线上OLTP服务器进行归档时,要兼顾数据
    抽取性能和事务提交性能。提高本参数值可以提高数据抽取性能,但会导致行锁范围扩大,甚至
    死锁。减小本参数值可以缓解以上情况,但是过小会导致事务提交量增大,对线上业务的提交性
    能有影响。
    作者亲测:在PC上,设置为500时,每1K行只用了2秒的时间,但设为0,自动提交时,则每1K行
    花费了将近38秒。使用非事务型引擎,推荐设成0。
    --commit-each
    每一组数据提交一次,并自动屏蔽--txn-size参数。可以使用--limit控制总的操作的行数。
    假如要存档一个特别大的表,--limit=1000--txn-size=1000同时使用时,工具开启一个事务连
    续读到了所有满足where的999行数据,但是由于工具本身并不知道究竟有多少数据满足,有可能
    会一直全表扫描到最后一行然后才会提交这个事务,因此,使用 --commit-each参数每一组提交
    一次可以有效避免上面的窘境。
    --bulk-delete
    批量删除,一批数据行用一个DELETE语句完成。同时也意味着--commit-each
    通常删除数据的做法是根据主键进行逐行删除,批量删除在简单WHERE条件下速度会有显著的
    提高。
    此选项会在收集完所有待删除的数据行前,推迟删除操作。如果有删除前的触发器将不会被触发
    (before delete),多行删除前的触发器会被触发(before bulk delete)
    --[no]bulk-delete-limit
    批量删除限制,默认开启
    默认情况下,--bulk-delete参数会追加一个--limit参数,在部分情况下,可以使用
    --no-bulk-delete-limit忽略掉,但仍需手动加上--limit参数。此参数不建议使用
    --bulk-insert
    采用LOAD DATA INFILE的方式(与bulk-delete和commit-each组合使用)
    相比一行一行的插入,通过为每批数据创建临时文件,先行写入数据到临时文件,当一批数据获
    取完毕后,再进行导入操作。
    为了防止一行一行的删除数据时,但这些数据却因为在缓存文件中没有真正的归档在新的数据库
    中,造成数据真空甚至不确定情况下的数据丢失,采用--bulk-insert的时候必须与bulk-deletes
    成对出现,保证数据在被插入新库之前,旧库不会对这些数据进行删除。
    此参数可以与--low-priority-insert,--replace,,
阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     807人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     351人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     314人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     433人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     221人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-数据库
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯