我是靠谱客的博主 轻松灯泡,这篇文章主要介绍mysql limit优化之延迟关联,现在分享给大家,希望可以做个参考。

最近在做一个数据同步功能,从一个200多万的数据表中进行数据清洗,然后根据逻辑再更新回去。

在刚开始做的时候,按照我的分析,应该一个线程去读,然后放到blockingqueue中,多个线程去处理程序就够了。毕竟读并不会很慢,还有索引,只是逻辑处理时候比较慢,因为还要去查别的数据再更新数据。

但是最后我发现,越到最后查询越慢,我多线程写已经变成单线程了(因为线程都在空闲,blockingqueue中无数据),然后我才发现原来是到最后读的满了。越到后面limit分页性能和代价越大(100多万时候查询1000条大概40多秒)。

然后我就尝试使用了延迟关联的处理。

sql如下:

(原sql)
SELECT * FROM `table` t  order by t.c1, t.c2 LIMIT 1360049,1000


(延迟关联)
SELECT * from table p inner join  (SELECT t.UID FROM `table` t  order by t.c1, t.c2 LIMIT 2020049,1000) x on p.UID=x.UID;

主要是延迟关联使用了索引覆盖,不需要再去全表查然后排序,性能大大提升了不少

最后

以上就是轻松灯泡最近收集整理的关于mysql limit优化之延迟关联的全部内容,更多相关mysql内容请搜索靠谱客的其他文章。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(66)

评论列表共有 0 条评论

立即
投稿
返回
顶部