如何解决MySQL order by limit语句的分页数据重复问题？

沙海
沙海
沙海
3180
文章
2
评论
2021年3月30日04:06:37杂谈 Java评论29字数 2710阅读9分2秒阅读模式
摘要

速读摘要

速读摘要文章源自JAVA秀-https://www.javaxiu.com/7491.html

对于空串，在插入的时候，MySQL是一个字符串长度为0的空串，而Oracle则直接进行NULL值处理。最近面试BAT，整理一份面试资料《Java面试BATJ通关手册》，覆盖了Java核心技术、JVM、Java并发、SSM、微服务、数据库、数据结构等等。文章源自JAVA秀-https://www.javaxiu.com/7491.html

原文约 1836 字 | 图片 3 张 | 建议阅读 4 分钟 | 评价反馈文章源自JAVA秀-https://www.javaxiu.com/7491.html

如何解决MySQL order by limit语句的分页数据重复问题？

戳一戳→ 程序员的成长之路 文章源自JAVA秀-https://www.javaxiu.com/7491.html

如何解决MySQL order by limit语句的分页数据重复问题？文章源自JAVA秀-https://www.javaxiu.com/7491.html

程序员的成长之路文章源自JAVA秀-https://www.javaxiu.com/7491.html

互联网/程序员/技术/资料共享 文章源自JAVA秀-https://www.javaxiu.com/7491.html

关注文章源自JAVA秀-https://www.javaxiu.com/7491.html

阅读本文大概需要 3.5 分钟。文章源自JAVA秀-https://www.javaxiu.com/7491.html

来自：https://www.jianshu.com/p/544c319fd838文章源自JAVA秀-https://www.javaxiu.com/7491.html

0 问题描述

在MySQL中我们通常会采用limit来进行翻页查询，比如limit(0,10)表示列出第一页的10条数据，limit(10,10)表示列出第二页。文章源自JAVA秀-https://www.javaxiu.com/7491.html

但是，当limit遇到order by的时候，可能会出现翻到第二页的时候，竟然又出现了第一页的记录。文章源自JAVA秀-https://www.javaxiu.com/7491.html

具体如下：文章源自JAVA秀-https://www.javaxiu.com/7491.html

    SELECT`post_title`,`post_date`FROM post WHERE`post_status`='publish'ORDERBY view_count descLIMIT5,5
    文章源自JAVA秀-https://www.javaxiu.com/7491.html

    使用上述SQL查询的时候，很有可能出现和LIMIT 0,5相同的某条记录。而如果使用如下方式，则不会出现重复的情况：文章源自JAVA秀-https://www.javaxiu.com/7491.html

      SELECT * FROM post WHERE post_status='publish'ORDERBY view_count descLIMIT5,5
      文章源自JAVA秀-https://www.javaxiu.com/7491.html

      但是，由于post表的字段很多，仅仅希望用这两个字段，不想把post_content也查出来。文章源自JAVA秀-https://www.javaxiu.com/7491.html

      为了解决这个情况，在ORDER BY后面使用了两个排序条件来解决这个问题，如下：文章源自JAVA秀-https://www.javaxiu.com/7491.html

        SELECT`post_title`,`post_date`FROM post WHERE`post_status`='publish'ORDERBY view_count desc,IDascLIMIT5,5
        文章源自JAVA秀-https://www.javaxiu.com/7491.html

        按理来说，MySQL的排序默认情况下是以主键ID作为排序条件的文章源自JAVA秀-https://www.javaxiu.com/7491.html

        也就是说，如果在view_count相等的情况下，主键ID作为默认的排序条件，不需要我们多此一举加ID asc。文章源自JAVA秀-https://www.javaxiu.com/7491.html

        但是事实就是，MySQL再order by和limit混用的时候，出现了排序的混乱情况。文章源自JAVA秀-https://www.javaxiu.com/7491.html

        1 分析问题

        在MySQL 5.6的版本上，优化器在遇到order by limit语句的时候，做了一个优化，即使用了priority queue。文章源自JAVA秀-https://www.javaxiu.com/7491.html

        使用 priority queue 的目的，就是在不能使用索引有序性的时候，如果要排序，并且使用了limit n，那么只需要在排序的过程中，保留n条记录即可文章源自JAVA秀-https://www.javaxiu.com/7491.html

        这样虽然不能解决所有记录都需要排序的开销，但是只需要 sort buffer 少量的内存就可以完成排序。文章源自JAVA秀-https://www.javaxiu.com/7491.html

        之所以MySQL 5.6出现了第二页数据重复的问题，是因为 priority queue 使用了堆排序的排序方法，而堆排序是一个不稳定的排序方法文章源自JAVA秀-https://www.javaxiu.com/7491.html

        也就是相同的值可能排序出来的结果和读出来的数据顺序不一致。文章源自JAVA秀-https://www.javaxiu.com/7491.html

        MySQL 5.5 没有这个优化，所以也就不会出现这个问题。文章源自JAVA秀-https://www.javaxiu.com/7491.html

        也就是说，MySQL 5.5是不存在本文提到的问题的，5.6版本之后才出现了这种情况。文章源自JAVA秀-https://www.javaxiu.com/7491.html

        再看下MySQL解释sql语言时的执行顺序：文章源自JAVA秀-https://www.javaxiu.com/7491.html

        (1)     SELECT(2)     DISTINCT <select_list>(3)     FROM <left_table>(4)     <join_type> JOIN <right_table>(5)     ON <join_condition>(6)     WHERE <where_condition>(7)     GROUP BY <group_by_list>(8)     HAVING <having_condition>(9)     ORDER BY <order_by_condition>(10)    LIMIT <limit_number>

        执行顺序依次为 form… where… select… order by… limit…文章源自JAVA秀-https://www.javaxiu.com/7491.html

        由于上述priority queue的原因，在完成select之后，所有记录是以堆排序的方法排列的文章源自JAVA秀-https://www.javaxiu.com/7491.html

        在进行order by时，仅把view_count值大的往前移动。但由于limit的因素，排序过程中只需要保留到5条记录即可文章源自JAVA秀-https://www.javaxiu.com/7491.html

        view_count并不具备索引有序性，所以当第二页数据要展示时，mysql见到哪一条就拿哪一条文章源自JAVA秀-https://www.javaxiu.com/7491.html

        因此，当排序值相同的时候，第一次排序是随意排的，第二次再执行该sql的时候，其结果应该和第一次结果一样。文章源自JAVA秀-https://www.javaxiu.com/7491.html

        2 解决方法

        文章源自JAVA秀-https://www.javaxiu.com/7491.html

        （1）索引排序字段文章源自JAVA秀-https://www.javaxiu.com/7491.html

        如果在字段添加上索引，就直接按照索引的有序性进行读取并分页，从而可以规避遇到的这个问题。文章源自JAVA秀-https://www.javaxiu.com/7491.html

        （2）正确理解分页文章源自JAVA秀-https://www.javaxiu.com/7491.html

        分页是建立在排序的基础上，进行了数量范围分割。排序是数据库提供的功能，而分页却是衍生的出来的应用需求。文章源自JAVA秀-https://www.javaxiu.com/7491.html

        在MySQL和Oracle的官方文档中提供了limit n和rownum < n的方法，但却没有明确的定义分页这个概念。文章源自JAVA秀-https://www.javaxiu.com/7491.html

        还有重要的一点，虽然上面的解决方法可以缓解用户的这个问题，但按照用户的理解，依然还有问题文章源自JAVA秀-https://www.javaxiu.com/7491.html

        比如，这个表插入比较频繁，用户查询的时候，在read-committed的隔离级别下，第一页和第二页仍然会有重合。文章源自JAVA秀-https://www.javaxiu.com/7491.html

        所以，分页一直都有这个问题，不同场景对数据分页都没有非常高的准确性要求。文章源自JAVA秀-https://www.javaxiu.com/7491.html

        （3）一些常见的数据库排序问题文章源自JAVA秀-https://www.javaxiu.com/7491.html

        文章源自JAVA秀-https://www.javaxiu.com/7491.html

        不加order by的时候的排序问题文章源自JAVA秀-https://www.javaxiu.com/7491.html

        用户在使用Oracle或MySQL的时候，发现MySQL总是有序的，Oracle却很混乱，这个主要是因为Oracle是堆表，MySQL是索引聚簇表的原因。文章源自JAVA秀-https://www.javaxiu.com/7491.html

        所以没有order by的时候，数据库并不保证记录返回的顺序性，并且不保证每次返回都一致的。文章源自JAVA秀-https://www.javaxiu.com/7491.html

        分页问题 分页重复的问题文章源自JAVA秀-https://www.javaxiu.com/7491.html

        如前面所描述的，分页是在数据库提供的排序功能的基础上，衍生出来的应用需求，数据库并不保证分页的重复问题。文章源自JAVA秀-https://www.javaxiu.com/7491.html

        NULL值和空串问题文章源自JAVA秀-https://www.javaxiu.com/7491.html

        不同的数据库对于NULL值和空串的理解和处理是不一样的文章源自JAVA秀-https://www.javaxiu.com/7491.html

        比如Oracle NULL和NULL值是无法比较的，既不是相等也不是不相等，是未知的。文章源自JAVA秀-https://www.javaxiu.com/7491.html

        而对于空串，在插入的时候，MySQL是一个字符串长度为0的空串，而Oracle则直接进行NULL值处理。文章源自JAVA秀-https://www.javaxiu.com/7491.html

        <END>文章源自JAVA秀-https://www.javaxiu.com/7491.html

        扫码加入技术交流群，不定时「送书」文章源自JAVA秀-https://www.javaxiu.com/7491.html

        如何解决MySQL order by limit语句的分页数据重复问题？文章源自JAVA秀-https://www.javaxiu.com/7491.html

        推荐阅读：文章源自JAVA秀-https://www.javaxiu.com/7491.html

        处理 Exception 的几种实践，很优雅，被很多团队采纳！文章源自JAVA秀-https://www.javaxiu.com/7491.html

        吊炸天的 Docker 图形化工具：Portainer，必须推荐给你！文章源自JAVA秀-https://www.javaxiu.com/7491.html

        文章源自JAVA秀-https://www.javaxiu.com/7491.html

        最近面试BAT，整理一份面试资料《Java面试BATJ通关手册》，覆盖了Java核心技术、JVM、Java并发、SSM、微服务、数据库、数据结构等等。

        文章源自JAVA秀-https://www.javaxiu.com/7491.html

        获取方式：点个「在看」，点击上方小卡片，进入公众号后回复「面试题」领取，更多内容陆续奉上。文章源自JAVA秀-https://www.javaxiu.com/7491.html

        朕已阅 如何解决MySQL order by limit语句的分页数据重复问题？文章源自JAVA秀-https://www.javaxiu.com/7491.html

        继续阅读
        历史上的今天
        3月
        30
        速蛙云 - 极致体验，强烈推荐！！！购买套餐就免费送各大视频网站会员！快速稳定、独家福利社、流媒体稳定解锁！速度快，全球上网、视频、游戏加速、独立IP均支持！基础套餐性价比很高！这里不多说，我一直正在使用，推荐购买：https://www.javaxiu.com/59919.html
        weinxin
        资源分享QQ群
        本站是JAVA秀团队的技术分享社区, 会经常分享资源和教程; 分享的时代, 请别再沉默！
        沙海
        匿名

        发表评论

        匿名网友 填写信息

        :?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen:

        确定