我是靠谱客的博主 英勇可乐,最近开发中收集的这篇文章主要介绍mysql innodb update批量更新,Mysql大批量并发更新,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

数据更新或新增后数据经常自动回滚,造成mysql死锁。

本次遇到这个情况,主要是每天有20w条Update,需要在8个小时内完成,用的是python Mysqldb

目前是多线程,结果并发量过大,造成各种问题。记几个关键:

一、优化sql语句

能insert,尽量别update;

大量update,最好使用executemany,而不是execute;

executemany,一次可提交多条数据,那么使用线程,等待线程结束后一起提交,减少update数量;

不过这个过程时间要比execute长,于是产生了lock time问题。

二、优化mysql性能

ERROR HY000: Lock wait timeout exceeded; try restarting transaction

1、锁等待超时。

是当前事务在等待其它事务释放锁资源造成的。可以找出锁资源竞争的表和语句,优化你的SQL,创建索引等,如果还是不行,可以适当减少并发线程数。

2、innodb_lock_wait_timeout是Innodb放弃行级锁的超时时间

设置方法参考:

http://dev.mysql.com/doc/innodb-plugin/1.0/en/innodb-other-changes-innodb_lock_wait_timeout.html

mysql> set innodb_lock_wait_timeout=900;

Query OK, 0 rows affected (0.00 sec)

mysql> select @@innodb_lock_wait_timeout;

+----------------------------+

| @@innodb_lock_wait_timeout |

+----------------------------+

| 900 |

+----------------------------+

1 row in set (0.00 sec)

最后

以上就是英勇可乐为你收集整理的mysql innodb update批量更新,Mysql大批量并发更新的全部内容,希望文章能够帮你解决mysql innodb update批量更新,Mysql大批量并发更新所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(53)

评论列表共有 0 条评论

立即
投稿
返回
顶部