文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

MySQL与GORM并发写入导致错误

2024-02-09 10:57

关注

MySQL与GORM的并发写入问题一直是开发者们头疼的难题。在高并发的情况下,多个线程同时写入数据库可能导致数据不一致或者错误的结果。php小编百草为你解析该问题的原因和解决方案,帮助你避免并发写入带来的困扰。通过合理的设计和优化,可以有效地解决MySQL与GORM的并发写入问题,保证数据的一致性和准确性。

问题内容

我在 golang 中实现了一个复杂的 csv 导入脚本。 我使用 workerpool 实现。在该工作池中,工作人员运行 1000 个小型 csv 文件,对产品进行分类、标记和品牌化。 它们都写入同一个数据库表。到目前为止一切顺利。

我面临的问题是,如果我选择了 2 个以上的工作人员,进程会随机崩溃并显示以下消息

工作流程是

foreach (csv) {
 workerPool.submit(csv)
}

func worker(csv) {
 foreach (line) {
   import(line)
 }
}

import(line) {
 product = get(line)
 product.category = determine_category(product)
 product.brand = determine_brand(product)
 save(brand)
 product.tags = determine_tags(product)
 //and after all
 save(product)
}

我尝试将 save() 调用包装在事务中,但没有帮助。

现在我有以下问题:

  1. mysql 是否适合同时保存到 1 个表?
  2. 如果需要事务来完成此任务,应该在哪里设置?
  3. go sql 驱动程序(错误总是发生在 packet.go:1102 中)是否适合执行此操作?
  4. 有人可以帮助我吗(也许可以雇佣几个小时)?

我完全被困住了。如果有帮助的话我也可以分享源代码。但我首先想知道你猜这是我的代码还是一般问题。

解决方法

在每个 goroutine(或线程,对于使用线程的语言)中打开一个新的数据库连接。

MySQL 的协议是有状态的,这意味着如果多个 goroutine 尝试使用同一个连接,请求和响应会变得非常混乱。

尝试在 goroutine 之间共享任何其他类型的有状态协议连接时,您也会遇到同样的问题。

例如ftp也是一个有状态的协议,这可能更容易理解。客户端 goroutine 可能会发送类似“获取文件 x”的消息,响应应该是一系列包含该文件内容的消息。如果另一个 goroutine 在请求/响应正在进行时尝试使用相同的连接,则两个客户端都会感到困惑。第二个 goroutine 将读取属于它未请求的文件的数据包。第一个请求该文件的 goroutine 会发现它所期望的一些数据包已被读取。

同样,MySQL 的协议也不支持多个客户端 goroutine 共享单个连接。

以上就是MySQL与GORM并发写入导致错误的详细内容,更多请关注编程网其它相关文章!

阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-数据库
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯