我是靠谱客的博主 轻松灯泡,最近开发中收集的这篇文章主要介绍mysql limit优化之延迟关联,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

最近在做一个数据同步功能,从一个200多万的数据表中进行数据清洗,然后根据逻辑再更新回去。

在刚开始做的时候,按照我的分析,应该一个线程去读,然后放到blockingqueue中,多个线程去处理程序就够了。毕竟读并不会很慢,还有索引,只是逻辑处理时候比较慢,因为还要去查别的数据再更新数据。

但是最后我发现,越到最后查询越慢,我多线程写已经变成单线程了(因为线程都在空闲,blockingqueue中无数据),然后我才发现原来是到最后读的满了。越到后面limit分页性能和代价越大(100多万时候查询1000条大概40多秒)。

然后我就尝试使用了延迟关联的处理。

sql如下:

(原sql)
SELECT * FROM `table` t  order by t.c1, t.c2 LIMIT 1360049,1000


(延迟关联)
SELECT * from table p inner join  (SELECT t.UID FROM `table` t  order by t.c1, t.c2 LIMIT 2020049,1000) x on p.UID=x.UID;

主要是延迟关联使用了索引覆盖,不需要再去全表查然后排序,性能大大提升了不少

最后

以上就是轻松灯泡为你收集整理的mysql limit优化之延迟关联的全部内容,希望文章能够帮你解决mysql limit优化之延迟关联所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(55)

评论列表共有 0 条评论

立即
投稿
返回
顶部