MySQL深分页问题原理与三种解决方案

 更新时间:2023年05月04日 08:44:40   作者:JAVA前线  
本文主要介绍了MySql深分页问题原理与解决方案,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧

1 深分页问题

1.1 创建表

CREATE TABLE `player` (
  `id` bigint(20) NOT NULL AUTO_INCREMENT COMMENT '主键',
  `player_id` varchar(256) NOT NULL COMMENT '运动员编号',
  `player_name` varchar(256) NOT NULL COMMENT '运动员名称',
  `height` int(11) NOT NULL COMMENT '身高',
  `weight` int(11) NOT NULL COMMENT '体重',
  `game_performance` text COMMENT '最近一场比赛表现',
  PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8

1.2 新增100万条数据

@SpringBootTest(classes = TestApplication.class)
@RunWith(SpringJUnit4ClassRunner.class)
public class PlayerServiceTest {

    @Resource
    private PlayerRepository playerRepository;

    @Test
    public void initBigData() {
        for (int i = 0; i < 1000000; i++) {
            PlayerEntity entity = new PlayerEntity();
            entity.setPlayerId(UUID.randomUUID().toString());
            entity.setPlayerName("球员_" + System.currentTimeMillis());
            entity.setWeight(150);
            entity.setHeight(188);
            entity.setGamePerformance("{\"runDistance\":8900.0,\"passSuccess\":80.12,\"scoreNum\":3}");
            playerRepository.insert(entity);
        }
    }
}

1.3 深分页语句

select * from player limit 990000,5

1.4 结果分析

  • 查询耗时:1.233秒
  • 本语句目标查询[990001-990005]五条数据
  • 但是执行时需要排序[1-990005]数据
  • 最终丢弃[1-990000]只返回[990001-990005]数据

2 深分页优化方案

2.1 方案一

我们可以从业务形态维度去解决,可以参考搜索引擎解决方案。因为ES也存在深分页问题,搜索引擎解决方案是在业务上会限制查询页数。因为页数越大,内容相关度越低,所以页数太大对业务价值不高。MySQL可以类比处理:

  • 限制查询页数
  • 限制全量导出
  • 查询时要求带必要条件(时间范围、userId)

2.2 方案二

2.2.1 优化语句

select * from player a, (select id as tmpId from player limit 990000,5) b WHERE a.id = b.tmpId

2.2.2 执行计划

(1) 查看计划
explain select * from player a, (select id as tmpId from player limit 990000,5) b WHERE a.id = b.tmpId

(2) 执行顺序
  • id越大执行顺序越靠前
  • id相同则按照行数从上到下执行
  • 本语句执行顺序如下图:

  • 第一步和第二步表示执行子查询
  • 第三步表示player表与子查询关联
(3) explain type

访问类型是重要分析指标:

(4) explain Extra

Extra表示执行计划扩展信息重点关注三个:

2.2.3 结果分析

  • 查询耗时:0.5秒
  • 原因是覆盖索引提升分页查询效率(只查询ID列)
  • 覆盖索引含义是查询时索引列完全包含查询列
  • using index表示使用覆盖索引,性能提升

2.3 方案三

2.3.1 优化语句

select * from player where id > 990000 LIMIT 5

2.3.2 执行计划

(1) 查看计划
explain select * from player where id > 990000 LIMIT 5

(2) 结果分析
  • 查询耗时:0.001秒
  • range表示索引范围搜索性能尚可
(3) 适用场景
  • 不适用跳页场景
  • 只适用【上一页】【下一页】场景

3 MyBatis

<mapper namespace="com.test.java.front.test.mysql.deep.page.repository.PlayerRepository">

	<resultMap id="BaseResultMap" type="com.test.java.front.test.mysql.deep.page.entity.PlayerEntity">
		<id column="id" jdbcType="BIGINT" property="id" />
		<result column="player_id" jdbcType="VARCHAR" property="playerId" />
		<result column="player_name" jdbcType="VARCHAR" property="playerName" />
		<result column="height" jdbcType="INTEGER" property="height" />
		<result column="weight" jdbcType="INTEGER" property="weight" />
		<result column="game_performance" jdbcType="LONGVARCHAR" property="gamePerformance" />
	</resultMap>

	<sql id="Base_Column_List">
		id, player_id, player_name, height, weight, game_performance
	</sql>

	<sql id="conditions">
		<where>
			<if test="playerId != null">
				and player_id = #{playerId,jdbcType=VARCHAR}
			</if>
		</where>
	</sql>

	<sql id="pager">
		<if test="skip != null and limit != null">
			limit #{skip}, #{limit}
		</if>
	</sql>

	<!-- 查询条数 -->
	<select id="selectPageCount" parameterType="com.test.java.front.test.mysql.deep.page.param.biz.PlayerQueryParam" resultType="java.lang.Long">
		select count(*) from player
		<include refid="conditions" />
	</select>

	<!-- 分页方式1:普通分页存在深分页问题 -->
	<!-- select * from player limit 990000,5 -->
	<select id="selectPager1" parameterType="com.test.java.front.test.mysql.deep.page.param.biz.PlayerQueryParam" resultMap="BaseResultMap">
		select
		<include refid="Base_Column_List" />
		from player
		<include refid="conditions" />
		<include refid="pager" />
	</select>

	<!-- 分页方式2:覆盖索引优化深分页问题 -->
	<!-- select * from player a, (select id as tmpId from player limit 990000,5) b where a.id = b.tmpId -->
	<select id="selectPager2" parameterType="com.test.java.front.test.mysql.deep.page.param.biz.PlayerQueryParam" resultMap="BaseResultMap">
		select
		<include refid="Base_Column_List" />
		from player a,
		(
		select id as tmpId from player
		<include refid="conditions" />
		<include refid="pager" />
		) b
		where a.id = b.tmpId
	</select>

	<!-- 分页方式3:Id分页不支持跳页 -->
	<!-- select * from player where id > 990000 limit 5 -->
	<select id="selectPager3" parameterType="com.test.java.front.test.mysql.deep.page.param.biz.PlayerQueryIdParam" resultMap="BaseResultMap">
		select
		<include refid="Base_Column_List" />
		<include refid="conditions" />
		from player where id > #{startId} limit #{pageSize}
	</select>
</mapper>

4 文章总结

本文第一介绍深分页问题表现和原因。第二介绍深分页问题三种解决方法,方案一是从业务维度优化,方案二是使用覆盖索引进行优化,方案三是使用Id分页。第三展示MyBatis相关代码。

以上就是MySQL深分页问题原理与三种解决方案的详细内容,更多关于MySQL深分页的资料请关注脚本之家其它相关文章!

相关文章

  • MYSQL中慢SQL原因与优化方法详解

    MYSQL中慢SQL原因与优化方法详解

    这篇文章主要为大家详细介绍了MYSQL中慢SQL形成的原因以及相关优化方法,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下
    2025-07-07
  • MySQL触发器的使用详解

    MySQL触发器的使用详解

    触发器trigger是一种特殊的存储过程,他在插入(inset)、删除(delete)或修改(update)特定表中的数据时触发执行,下面这篇文章主要给大家介绍了关于MySQL触发器使用的相关资料,需要的朋友可以参考下
    2022-06-06
  • MySQL连接无法解析HOST主机名的解决方法

    MySQL连接无法解析HOST主机名的解决方法

    这篇文章主要介绍了MySQL连接无法解析HOST主机名的解决方法,需要的朋友可以参考下
    2014-02-02
  • MySQL使用表锁和行锁的场景详解

    MySQL使用表锁和行锁的场景详解

    MySQL Innodb 的锁可以说是执行引擎的并发基础了,有了锁才能保证数据的一致性。但你知道什么时候会用表锁,什么时候会用行锁吗?本文就来和大家一起详细聊聊
    2022-09-09
  • MySQL数据库复合查询与内外连接图文详解

    MySQL数据库复合查询与内外连接图文详解

    本文详细介绍了在SQL中进行多表查询的技术,包括笛卡尔积、自连接、子查询、内连接和外连接等,文章还解释了union和unionall的区别,以及如何在from子句中使用子查询,这些技术对于处理复杂的数据库查询非常重要,可以有效地从不同表中提取和组合数据,需要的朋友可以参考下
    2024-10-10
  • mysql之查找所有数据库中没有主键的表问题

    mysql之查找所有数据库中没有主键的表问题

    这篇文章主要介绍了mysql之查找所有数据库中没有主键的表问题,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2023-03-03
  • win2003服务器下配置 MySQL 群集(Cluster)的方法

    win2003服务器下配置 MySQL 群集(Cluster)的方法

    MySQL 群集是 MySQL 适合于分布式计算环境的高可用、高冗余版本。它采用了 NDB Cluster 存储引擎,允许在 1 个群集中运行多个 MySQL 服务器。
    2010-12-12
  • mysql-8.0.35-winx64 zip版安装教程(附图文)

    mysql-8.0.35-winx64 zip版安装教程(附图文)

    许多人在学习过程中经常因使用不当将MySQL数据库搞崩溃,这篇文章主要给大家介绍了关于mysql-8.0.35-winx64 zip版安装教程的相关资料,文中通过图文介绍的非常详细,需要的朋友可以参考下
    2024-01-01
  • mysql 8.0.12 winx64解压版安装图文教程

    mysql 8.0.12 winx64解压版安装图文教程

    这篇文章主要为大家详细介绍了mysql 8.0.12 winx64解压版安装图文教程,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2018-08-08
  • MySQL获得当前日期时间函数示例详解

    MySQL获得当前日期时间函数示例详解

    这篇文章主要给大家介绍了关于MySQL获得当前日期时间函数的相关资料,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2020-12-12

最新评论