InnoDB一棵B+树可以存放2千万数据?

沙海 2021年4月11日03:34:23杂谈 Java评论34字数 4287阅读14分17秒阅读模式
摘要

速读摘要

速读摘要文章源自JAVA秀-https://www.javaxiu.com/10757.html

在计算机中磁盘存储数据最小单元是扇区,一个扇区的大小是512字节,而文件系统(例如XFS/EXT4)他的最小单元是块,一个块的大小是4k,而对于我们的InnoDB存储引擎也有自己的最小储存单元——页(Page),一个页的大小是16K。如果数据库只按这样的方式存储,那么如何查找数据就成为一个问题,因为我们不知道要查找的数据存在哪个页中,也不可能把所有的页遍历一遍,那样太慢了。的代表主键索引的根页,而在根页偏移量为64的地方存放了该B+树的page level。文章源自JAVA秀-https://www.javaxiu.com/10757.html

原文约 4939 | 图片 14 | 建议阅读 10 分钟 | 评价反馈文章源自JAVA秀-https://www.javaxiu.com/10757.html

InnoDB一棵B+树可以存放2千万数据?

点击关注 ? Java基基 文章源自JAVA秀-https://www.javaxiu.com/10757.html

点击上方“Java基基”,选择“设为星标”文章源自JAVA秀-https://www.javaxiu.com/10757.html

做积极的人,而不是积极废人!文章源自JAVA秀-https://www.javaxiu.com/10757.html

文章源自JAVA秀-https://www.javaxiu.com/10757.html

源码精品专栏文章源自JAVA秀-https://www.javaxiu.com/10757.html

 文章源自JAVA秀-https://www.javaxiu.com/10757.html

文章源自JAVA秀-https://www.javaxiu.com/10757.html

来源:cnblogs.com/leefreeman/p/8315844.html文章源自JAVA秀-https://www.javaxiu.com/10757.html

大家好,我是基基。文章源自JAVA秀-https://www.javaxiu.com/10757.html

InnoDB一棵B+树可以存放2千万数据?文章源自JAVA秀-https://www.javaxiu.com/10757.html

今儿,基基带大家看个面试必问 MySQL 题目。文章源自JAVA秀-https://www.javaxiu.com/10757.html

一个问题?

InnoDB一棵B+树可以存放多少行数据?这个问题的简单回答是:约2千万。为什么是这么多呢?因为这是可以算出来的,要搞清楚这个问题,我们先从InnoDB索引数据结构、数据组织方式说起。文章源自JAVA秀-https://www.javaxiu.com/10757.html

我们都知道计算机在存储数据的时候,有最小存储单元,这就好比我们今天进行现金的流通最小单位是一毛。在计算机中磁盘存储数据最小单元是扇区,一个扇区的大小是512字节,而文件系统(例如XFS/EXT4)他的最小单元是块,一个块的大小是4k,而对于我们的InnoDB存储引擎也有自己的最小储存单元——页(Page),一个页的大小是16K。文章源自JAVA秀-https://www.javaxiu.com/10757.html

下面几张图可以帮你理解最小存储单元:文章源自JAVA秀-https://www.javaxiu.com/10757.html

文件系统中一个文件大小只有1个字节,但不得不占磁盘上4KB的空间。文章源自JAVA秀-https://www.javaxiu.com/10757.html

InnoDB一棵B+树可以存放2千万数据?文章源自JAVA秀-https://www.javaxiu.com/10757.html

innodb的所有数据文件(后缀为ibd的文件),他的大小始终都是16384(16k)的整数倍。文章源自JAVA秀-https://www.javaxiu.com/10757.html

InnoDB一棵B+树可以存放2千万数据?文章源自JAVA秀-https://www.javaxiu.com/10757.html

磁盘扇区、文件系统、InnoDB存储引擎都有各自的最小存储单元。文章源自JAVA秀-https://www.javaxiu.com/10757.html

InnoDB一棵B+树可以存放2千万数据?文章源自JAVA秀-https://www.javaxiu.com/10757.html

在MySQL中我们的InnoDB页的大小默认是16k,当然也可以通过参数设置:文章源自JAVA秀-https://www.javaxiu.com/10757.html

mysql> show variables like 'innodb_page_size';+------------------+-------+| Variable_name  | Value |+------------------+-------+| innodb_page_size | 16384 |+------------------+-------+1 row in set (0.00 sec)文章源自JAVA秀-https://www.javaxiu.com/10757.html

数据表中的数据都是存储在页中的,所以一个页中能存储多少行数据呢?假设一行数据的大小是1k,那么一个页可以存放16行这样的数据。文章源自JAVA秀-https://www.javaxiu.com/10757.html

如果数据库只按这样的方式存储,那么如何查找数据就成为一个问题,因为我们不知道要查找的数据存在哪个页中,也不可能把所有的页遍历一遍,那样太慢了。所以人们想了一个办法,用B+树的方式组织这些数据。如图所示:文章源自JAVA秀-https://www.javaxiu.com/10757.html

InnoDB一棵B+树可以存放2千万数据?文章源自JAVA秀-https://www.javaxiu.com/10757.html

我们先将数据记录按主键进行排序,分别存放在不同的页中(为了便于理解我们这里一个页中只存放3条记录,实际情况可以存放很多),除了存放数据的页以外,还有存放键值+指针的页,如图中page number=3的页,该页存放键值和指向数据页的指针,这样的页由N个键值+指针组成。当然它也是排好序的。这样的数据组织形式,我们称为索引组织表。现在来看下,要查找一条数据,怎么查?文章源自JAVA秀-https://www.javaxiu.com/10757.html

如select * from user where id=5;文章源自JAVA秀-https://www.javaxiu.com/10757.html

这里id是主键,我们通过这棵B+树来查找,首先找到根页,你怎么知道user表的根页在哪呢?其实每张表的根页位置在表空间文件中是固定的,即page number=3的页(这点我们下文还会进一步证明),找到根页后通过二分查找法,定位到id=5的数据应该在指针P5指向的页中,那么进一步去page number=5的页中查找,同样通过二分查询法即可找到id=5的记录:文章源自JAVA秀-https://www.javaxiu.com/10757.html

5zhao227

现在我们清楚了InnoDB中主键索引B+树是如何组织数据、查询数据的,我们总结一下:文章源自JAVA秀-https://www.javaxiu.com/10757.html

1、InnoDB存储引擎的最小存储单元是页,页可以用于存放数据也可以用于存放键值+指针,在B+树中叶子节点存放数据,非叶子节点存放键值+指针。文章源自JAVA秀-https://www.javaxiu.com/10757.html

2、索引组织表通过非叶子节点的二分查找法以及指针确定数据在哪个页中,进而在去数据页中查找到需要的数据;文章源自JAVA秀-https://www.javaxiu.com/10757.html

那么回到我们开始的问题,通常一棵B+树可以存放多少行数据?文章源自JAVA秀-https://www.javaxiu.com/10757.html

这里我们先假设B+树高为2,即存在一个根节点和若干个叶子节点,那么这棵B+树的存放总记录数为:根节点指针数*单个叶子节点记录行数。文章源自JAVA秀-https://www.javaxiu.com/10757.html

上文我们已经说明单个叶子节点(页)中的记录数=16K/1K=16。(这里假设一行记录的数据大小为1k,实际上现在很多互联网业务数据记录大小通常就是1K左右)。文章源自JAVA秀-https://www.javaxiu.com/10757.html

那么现在我们需要计算出非叶子节点能存放多少指针,其实这也很好算,我们假设主键ID为bigint类型,长度为8字节,而指针大小在InnoDB源码中设置为6字节,这样一共14字节,我们一个页中能存放多少这样的单元,其实就代表有多少指针,即16384/14=1170。那么可以算出一棵高度为2的B+树,能存放1170*16=18720条这样的数据记录。文章源自JAVA秀-https://www.javaxiu.com/10757.html

根据同样的原理我们可以算出一个高度为3的B+树可以存放:1170117016=21902400条这样的记录。所以在InnoDB中B+树高度一般为1-3层,它就能满足千万级的数据存储。在查找数据时一次页的查找代表一次IO,所以通过主键索引查询通常只需要1-3次IO操作即可查找到数据。文章源自JAVA秀-https://www.javaxiu.com/10757.html

怎么得到InnoDB主键索引B+树的高度?

上面我们通过推断得出B+树的高度通常是1-3,下面我们从另外一个侧面证明这个结论。在InnoDB的表空间文件中,约定page number为3 的代表主键索引的根页,而在根页偏移量为64 的地方存放了该B+树的page level。如果page level为1,树高为2,page level为2,则树高为3。即B+树的高度=page level+1;下面我们将从实际环境中尝试找到这个page level。文章源自JAVA秀-https://www.javaxiu.com/10757.html

在实际操作之前,你可以通过InnoDB元数据表确认主键索引根页的page number为3,你也可以从《InnoDB存储引擎》这本书中得到确认。文章源自JAVA秀-https://www.javaxiu.com/10757.html

SELECT b.name, a.name, index_id, type, a.space, a.PAGE_NO FROM information_schema.INNODB_SYS_INDEXES a, information_schema.INNODB_SYS_TABLES b WHERE a.table_id = b.table_id AND a.space <> 0;文章源自JAVA秀-https://www.javaxiu.com/10757.html

执行结果:文章源自JAVA秀-https://www.javaxiu.com/10757.html

InnoDB一棵B+树可以存放2千万数据?文章源自JAVA秀-https://www.javaxiu.com/10757.html

可以看出数据库dbt3下的customer表、lineitem表主键索引根页的page number均为3,而其他的二级索引page number为4。关于二级索引与主键索引的区别请参考MySQL相关书籍,本文不在此介绍。文章源自JAVA秀-https://www.javaxiu.com/10757.html

下面我们对数据库表空间文件做想相关的解析:文章源自JAVA秀-https://www.javaxiu.com/10757.html

InnoDB一棵B+树可以存放2千万数据?文章源自JAVA秀-https://www.javaxiu.com/10757.html

因为主键索引B+树的根页在整个表空间文件中的第3个页开始,所以可以算出它在文件中的偏移量:16384*3=49152(16384为页大小)。文章源自JAVA秀-https://www.javaxiu.com/10757.html

另外根据《InnoDB存储引擎》中描述在根页的64偏移量位置前2个字节,保存了page level的值,因此我们想要的page level的值在整个文件中的偏移量为:16384*3+64=49152+64=49216,前2个字节中。文章源自JAVA秀-https://www.javaxiu.com/10757.html

接下来我们用hexdump工具,查看表空间文件指定偏移量上的数据:文章源自JAVA秀-https://www.javaxiu.com/10757.html

InnoDB一棵B+树可以存放2千万数据?文章源自JAVA秀-https://www.javaxiu.com/10757.html

linetem表的page level为2,B+树高度为page level+1=3;文章源自JAVA秀-https://www.javaxiu.com/10757.html

region表的page level为0,B+树高度为page level+1=1;文章源自JAVA秀-https://www.javaxiu.com/10757.html

customer表的page level为2,B+树高度为page level+1=3;文章源自JAVA秀-https://www.javaxiu.com/10757.html

这三张表的数据量如下:文章源自JAVA秀-https://www.javaxiu.com/10757.html

InnoDB一棵B+树可以存放2千万数据?文章源自JAVA秀-https://www.javaxiu.com/10757.html

总结:文章源自JAVA秀-https://www.javaxiu.com/10757.html

lineitem表的数据行数为600多万,B+树高度为3,customer表数据行数只有15万,B+树高度也为3。可以看出尽管数据量差异较大,这两个表树的高度都是3,换句话说这两个表通过索引查询效率并没有太大差异,因为都只需要做3次IO。那么如果有一张表行数是一千万,那么他的B+树高度依旧是3,查询效率仍然不会相差太大。文章源自JAVA秀-https://www.javaxiu.com/10757.html

region表只有5行数据,当然他的B+树高度为1。文章源自JAVA秀-https://www.javaxiu.com/10757.html

最后回顾一道面试题

有一道MySQL的面试题,为什么MySQL的索引要使用B+树而不是其它树形结构?比如B树?文章源自JAVA秀-https://www.javaxiu.com/10757.html

现在这个问题的复杂版本可以参考本文;文章源自JAVA秀-https://www.javaxiu.com/10757.html

他的简单版本回答是:文章源自JAVA秀-https://www.javaxiu.com/10757.html

因为B树不管叶子节点还是非叶子节点,都会保存数据,这样导致在非叶子节点中能保存的指针数量变少(有些资料也称为扇出),指针少的情况下要保存大量数据,只能增加树的高度,导致IO操作变多,查询性能变低;文章源自JAVA秀-https://www.javaxiu.com/10757.html

小结

本文从一个问题出发,逐步介绍了InnoDB索引组织表的原理、查询方式,并结合已有知识,回答该问题,结合实践来证明。当然为了表述简单易懂,文中忽略了一些细枝末节,比如一个页中不可能所有空间都用于存放数据,它还会存放一些少量的其他字段比如page level,index number等等,另外还有页的填充因子也导致一个页不可能全部用于保存数据。关于二级索引数据存取方式可以参考MySQL相关书籍,他的要点是结合主键索引进行回表查询。文章源自JAVA秀-https://www.javaxiu.com/10757.html

文章源自JAVA秀-https://www.javaxiu.com/10757.html

欢迎加入我的知识星球,一起探讨架构,交流源码。加入方式,长按下方二维码噢文章源自JAVA秀-https://www.javaxiu.com/10757.html

InnoDB一棵B+树可以存放2千万数据?文章源自JAVA秀-https://www.javaxiu.com/10757.html

已在知识星球更新源码解析如下:文章源自JAVA秀-https://www.javaxiu.com/10757.html

InnoDB一棵B+树可以存放2千万数据?文章源自JAVA秀-https://www.javaxiu.com/10757.html

InnoDB一棵B+树可以存放2千万数据?文章源自JAVA秀-https://www.javaxiu.com/10757.html

InnoDB一棵B+树可以存放2千万数据?文章源自JAVA秀-https://www.javaxiu.com/10757.html

InnoDB一棵B+树可以存放2千万数据?文章源自JAVA秀-https://www.javaxiu.com/10757.html

最近更新《芋道 SpringBoot 2.X 入门》系列,已经 20 余篇,覆盖了 MyBatis、Redis、MongoDB、ES、分库分表、读写分离、SpringMVC、Webflux、权限、WebSocket、Dubbo、RabbitMQ、RocketMQ、Kafka、性能测试等等内容。文章源自JAVA秀-https://www.javaxiu.com/10757.html

提供近 3W 行代码的 SpringBoot 示例,以及超 4W 行代码的电商微服务项目。文章源自JAVA秀-https://www.javaxiu.com/10757.html

获取方式:点“在看”,关注公众号并回复 666 领取,更多内容陆续奉上。文章源自JAVA秀-https://www.javaxiu.com/10757.html

文章源自JAVA秀-https://www.javaxiu.com/10757.html

文章有帮助的话,在看,转发吧。谢谢支持哟 (*^__^*)
文章源自JAVA秀-https://www.javaxiu.com/10757.html

阅读原文文章源自JAVA秀-https://www.javaxiu.com/10757.html

继续阅读
速蛙云 - 极致体验,强烈推荐!!!购买套餐就免费送各大视频网站会员!快速稳定、独家福利社、流媒体稳定解锁!速度快,全球上网、视频、游戏加速、独立IP均支持!基础套餐性价比很高!这里不多说,我一直正在使用,推荐购买:https://www.javaxiu.com/59919.html
weinxin
资源分享QQ群
本站是JAVA秀团队的技术分享社区, 会经常分享资源和教程; 分享的时代, 请别再沉默!
沙海
匿名

发表评论

匿名网友 填写信息

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen:

确定