MySQL数据结构选择的合理性

从MySQL的角度讲，不得不考虑一个现实的问题的就是磁盘IO。如果我们能够让索引的数据结构尽量减少磁盘I/O操作，所消耗的时间也就越小。可以说，磁盘的I/O操作次数对索引的使用效率至关重要。

查找都是索引操作，一般来说索引非常大，尤其是关系型数据库，当数据量比较大时，索引的大小可能几个G甚至更多，为了减少索引在内存的占用，**数据库索引是存储在外部磁盘上的。**我们利用索引查询的时候，不可能把整个索引加载到内存，只能逐一加载，那么MySQL衡量查询效率的标准就是磁盘的I/O次数。

全表扫描

这里省略。就是索引顺序查找。

Hash结构

Hash本身是一个函数，又被称为散列函数，它可以帮助我们大幅度提升检索的效率。

Hash算法是通过某种确定性的算法（MD5、SHA1、SHA2、SHA3）将输入转变成输出。相同的输入永远可以得到相同的输出，假设输入内容有微小偏差，在输出中通常会有不同的结果。

举例：如果你想要验证两个文件是否相同，那么你不需要把两份文件直接拿来比对，只需要让对方把 Hash函数计算得到的结果告诉你即可，然后在本地同样对文件进行Hash 函数的运算，最后通过比较这两个Hash 函数的结果是否相同，就可以知道这两个文件是否相同。

加速查找的数据结构，常见的有两类“

（1）树，例如平衡二叉搜索树，查询/插入/修改/删除的平均时间复杂度都是O(log2N)；

（2）哈希，例如HashMap，查询/插入/修改/删除的平均时间复杂度是O(1);（key，value）

采用Hash进行检索效率非常高，基本上一次检索就可以找到数据，而B+树需要自顶向下依次查找，多次访问节点才能查找到数据，中间需要多次I/O操作，从效率上来说Hash 比 B树更快。

在哈希的方式下，一个元素K处于H(K)中，即利用哈希函数H，根据关键字K计算出槽的位置。函数H将关键字映射到哈希表T[0…m-1]的槽位上。

上图的哈希函数H可能有两个不同的关键字映射到相同的位置，这叫碰撞，在数据库中一般采用链接法来解决。在链接法中，将散列到同一槽位的元素放在一个链表中，如下图所示：（回忆jdk8中HashMap的底层结构）

全表扫描：

    // 时间复杂度O(log2n)@Testpublic void test1() {int[] arr = new int[100000];for (int i = 0; i < arr.length; i++) {arr[i] = i + 1;}long start = System.currentTimeMillis();for (int i = 1; i < 100000; i++) {int temp = i;for (int j = 0; j < arr.length; j++) {if (temp == arr[j]) {break;}}}long end = System.currentTimeMillis();System.out.println("time:    " + (end - start)); // 1276}

使用Hash算法

    // 时间复杂度O(1)@Testpublic void test2() {HashSet hashSet = new HashSet(100000);for (int i = 0; i < 100000; i++) {hashSet.add(i + 1);}long start = System.currentTimeMillis();for (int i = 0; i <= 100000; i++) {int temp = i;boolean contains = hashSet.contains(temp);}long end = System.currentTimeMillis();System.out.println("time:    " + (end - start)); // 5}

Hash结构效率高，那为什么索引结构要设计成树型呢?

原因1：Hash索引仅满足（=）（<>）和IN查询。如果进行范围查询，哈希型的索引，时间复杂度会退化成O(n)；而树型的“有序”特性，依然能够保持O(log2N)的高效率。（主要擅长于等值判断）

原因2：Hash索引还有一个缺陷，数据的存储是没有顺序的，在ORDER BY的情况下，使用Hash索引还需要对数据重新排序。

原因3：对于联合索引的情况，Hash值是将联合索引键合并一起来计算的，无法对单独的一个键或者几个索引键进行查询。（比如：c1=1，c2=a）

原因4：对于等值查询，通常Hash索引效率会更高，不过也存在一种情况，就是索引列的重复值如果很多，效率就会降低。这是遇到Hash冲突时，需要遍历桶中的指针来进行比较，找到查询的关键字，非常耗时。所以，Hash索引通常不会用到重复值多的列上，比如列的性别、年龄等。

Hash索引适用存储引擎如表所示：

索引/存储引擎	MyISAM	InnoDB	Memory
Hash索引	不支持	不支持	`支持`

Hash索引的适用性：

Hash索引存在着很多的限制，相比之下在数据库中B+树索引的使用面会更广，不过也有一些场景采用Hash索引效率更高，比如在键值型（Key-Value）数据库中，redis存储的核心就是Hash表。

MySQL中的Memory存储引擎支持Hash存储，如果我们需要用到查询的临时表时，就可以选择Memory存储引擎，把某个字段设置为Hash索引，比如字符串类型的字段，进行Hash计算之后长度可以缩短到几个字节。当字段的重复度低，而且经常需要进行等值查询的时候，采用Hash索引是个不错的选择。

另外，InnoDB本省不支持Hash索引，但是提供自适应的Hash索引（Adaptive Hash Index）。什么情况下才会使用自适应的Hash索引呢？如果某个数据经常被访问，当满足一定条件的时候，就会将这个数据页的地址存放到Hash表中。这样下次查询的时候，就可以直接找到这个页面所在的位置。这样B+树也具备了Hash索引的优点。

采用自适应Hash 索引目的是方便根据sQL的查询条件加速定位到叶子节点，特别是当B+树比较深的时候，通过自适应Hash索引可以明显提高数据的检索效率。

我们可以通过innodb_adaptive_hash_index变量查看是否开启了自适应Hash，比如：

show variables like '%adaptive_hash_index';

二叉搜索树

如果我们利用二叉树作为索引结构，那么磁盘的Io次数和索引树的高度是相关的。

二叉搜索树二点特点
- 一个节点只能由左右两个子节点，也就是节点度不能超过2
- 左子节点 < 本节点；右子节点 >= 本节点，比本届点大的放右边，小的放左边
查找规则

我们先来看下最基础的二叉搜索树〈Binary Search Tree)，搜索某个节点和插入节点的规则一样，我们假设搜索插入的数值的key：

如果key大于根节点，则在右子树中进行查找
如果key小于根节点，则在左子树中进行查找
如果key等于根节点，也就是找到了这个节点，返回根节点即可

举个例子：我们对数列(34，22，89，5，23，77，91)创造出来的二分查找树如下图所示：

但是存在特殊的情况，就是有时候二叉树的深度非常大。比如我们给出的数据顺序是(5, 22,23,34,77,89,91)，创造出来的二分搜索树如下图所示：

上面第二棵树也属于二分查找树，但是性能上已经退化成了一条链表，查找数据的时间复杂度变成了O(n)。你能看出来第一个树的深度是3，也就是说最多只需3次比较，就可以找到节点，而第二个树的深度是7，最多需要7次比较才能找到节点。

为了提高查询效率，就需要减少磁盘IO数。为了减少磁盘lo的次数，就需要尽量降低树的高度，需要把原来"瘦高”的树结构变的“矮胖”，树的每层的分叉越多越好。

AVL树

为了解决上面二叉查找树退化成链表的问题，人们提出了平衡二叉搜索树(Balanced Binary Tree)，又称为AVL树(有别于AVL算法)，它在二叉搜索树的基础上增加了约束，具有以下性质：

它是一棵空树或它的左右两个子树的高度差的绝对值不超过1，并且左右两个子树都是一棵平衡二叉树。

这里说一下，常见的平衡二叉搜索树有很多种，包括了平衡二叉搜索树、红黑树、数堆、伸展树。平衡二叉搜索树是最早提出来的自平衡二叉搜索树，当我们提到平衡二叉树时一般指的就是平衡二叉搜索树。事实上，第一棵树就属于平衡二叉搜索树，搜索的时间复杂度是O(log2n)。

数据查询的时间主要依赖于磁盘I/O的次数，我们采用的二叉树形式，即通过平衡二叉搜索树进行改进，树的深度是O(log2n)，当n比较大，深度也是比较高的，如下图的情况：

每访问一次节点需要进行一次磁盘I/O操作，对于上面的树来说，我们需要进行5次I/O操作。虽然平衡二叉树的效率高，但是树的深度同样也高，这意味着磁盘I/O操作次数多，会影响整体数据查询的效率。

针对同样的数据，如果我们把二叉树改成M叉树呢（M>2）呢？当M=3时，同样的31个节点可以由下面的三叉树来进行存储：

你能看到此时树的高度降低了，当数据量N大的时候，以及树的分叉数M大的时候，M叉树的高度会远小于二叉树的高度(M>2)。所以，我们需要把树从“瘦高"变"矮胖”。

B-Tree（注意和之前的B+树的区别）

B树的英文是Balance Tree，也就是多路平衡查找树。简写为B-Tree(注意横杠表示这两个单词连起来的意思，不是减号)。它的高度远小于平衡二叉树的高度。（第二层第一个是0_{17之间，中间是17}35，最右边是35以上）

B树作为多路平衡查找树，它的每一个节点最多包含M个子节点，**M 称为 B树的阶。**每个磁盘中包括了关键字和子节点的指针。如果一个磁盘块中包括了x个关键字，那么指针数就是x+1。对于一个100阶的B树来说，如果有3层的话最多可以存储约100万的索引数据。对于大量的索引数据来说，采用B树的结构是非常适合的，因为树的高度要远小于二叉树的高度。

一个M阶的B树（M>2）有一下特性：

根节点的儿子树的范围是[2,M]。
每个中间节点包含k-1个关键字和k个孩子，孩子的数量=关键字的数量+1，k的取值范围为[ceil(M/2),M]。（ceil是取整的意思）
叶子节点包括k-1个关键字（叶子节点没有孩子)，k的取值范围为[ceil(M/2),M]。
假设中间节点节点的关键字为：Key[1], Key[2], …,Key[k-1]，且关键字按照升序排序，即 Key[i] <Key[i+1]。此时 k-1 个关键字相当于划分了 k 个范围，也就是对应着 k个指针，即为：P[1], P[2], …, P[k]，其中 P[1] 指向关键字小于 Key[1] 的子树，P[k]指向关键字属于 (Key[i-1], Key[i]) 的子树，P[k] 指向关键字大于 Key[k-1] 的子树。
所有叶子节点位于同一层。

上面那张图所表示的B树就是一棵3阶的B树。我们可以看下磁盘块2，里面的关键字为(8，12)，它有3个孩子(3，5)，(9，10)和(13，15)，你能看到(3，5)小于8，(9，10)在8和12之间，而(13，15)大于12，刚好符合刚才我们给出的特征。

然后我们来看下如何用B树进行查找。假设我们想要查找的关键字是9，那么步骤可以分为以下几步:

我们与根节点的关键字 (17，35）进行比较，9 小于 17 那么得到指针 P1；

按照指针 P1 找到磁盘块 2，关键字为（8，12），因为 9 在 8 和 12之间，所以我们得到指针 P2；

按照指针 P2 找到磁盘块 6，关键字为（9，10），然后我们找到了关键字 9。

小结：

B树在插入和删除节点的时候如果导致树不平衡，就通过自动调整节点的位置来保持树的自平衡。

**关键字集合分布在整棵树中,即叶子节点和非叶子节点都存放数据。（这个是区分B-Tree和B+Tree的主要区别）**搜索有可能在非叶子节点结束

其搜索性能等价于在关键字全集内做一次二分查找。

再举例1：

B+Tree

B+树也是一种多路搜索树，基于B树做出了改进，主流的DBMS都支持B+树的索引方式，比如MysQL。相比于B-Tree，B+Tree适合文件索引系统。

MySQL官网说明

B+树的示意图：

B树的示意图

B+树和B树的差异在于以下几点：

有 k 个孩子的节点就有 k 个关键字。也就是孩子数量 = 关键字数，而 B 树中，孩子数量 = 关键字数+1。（以第二层为例：只有8和12两个关键字，下面有三个孩子）

非叶子节点的关键字也会同时存在在子节点中，并且是在子节点中所有关键字的最大（或最小）。

非叶子节点仅用于索引，不保存数据记录，跟记录有关的信息都放在叶子节点中。而 B 树中，非叶子节点既保存索引，也保存数据记录。

所有关键字都在叶子节点出现，叶子节点构成一个有序链表，而且叶子节点本身按照关键字的大小从小到大顺序链接。

下图就是一棵B+树，阶数为3，根节点中的关键字1、18、35分别是子节点(1，8，14)，(18，24，31）和(35，41，53)中的最小值。每一层父节点的关键字都会出现在下一层的子节点的关键字中，因此在叶子节点中包括了所有的关键字信息，并且每一个叶子节点都有一个指向下一个节点的指针，这样就形成了一个链表。

比如，我们想要查找关键字16，B+树会自顶向下逐层进行查找：

与根节点的关键字(1，18，35)进行比较，16在1和18之间，得到指针P1(指向磁盘块2)
找到磁盘块2，关键字为(1，8，14)，因为16大于14，所以得到指针P3(指向磁盘块7)
找到磁盘块7，关键字为(14，16，17)，然后我们找到了关键字16，所以可以找到关键字16所对应的数据。

整个过程一共进行了3次I/O操作，看起来B+树和B树的查询过程差不多，**但是B+树和B树有个根本的差异在于，B+树的中间节点并不直接存储数据。**这样的好处都有什么呢？

首先，B+树查询效率更稳定。因为B+树每次只有访问到叶子节点才能找到对应的数据，而在B树中，非叶子节点也会存储数据，这样就会造成查询效率不稳定的情况，到时候访问到了非叶子节点就可以找到关键字，而有时需要访问到叶子节点才能找到关键字。

其次，**B+树查询效率更高。**这是因为B+树比B树更矮胖(阶数更大，深度更低)，所查询需要的磁盘I/O也会更少。同样的磁盘页大小，B+树可以存储更多的节点关键字。（因为每一个目录页的大小是16K，B树的目录节点存放了数据的话，存索引的空间就变少了）

不仅是对单个关键字的查询上，**在查询范围上，B+树的效率也比B树高。**这是因为所有关键字都出现在B+树的叶子节点中，叶子节点之间会有指针，数据又是递增的，这使得我们范围查找可以通过指针连接查找。而在B树中则需要通过中序遍历才能完成查询范围的查找，效率要低得多。

B+树和B树都可以作为索引的数据结构，在MySQL中采用的是B+树。但B树和B+树各有自己的应用场景，不能说B+树完全比B树好，反之亦然。

思考题：为了减少I/O，索引树会一次性加载吗？

1、数据库索引是存储在磁盘上的，如果数据量很大，必然导致索引的大小也会很大，超过几个G。
2、当我们利用索引查询时候，是不可能将全部几个G的索引都加载进内存的，我们能做的只能是：逐一加载每一个磁盘页，因为磁盘页对应着索引树的节点。

思考题：B+树的存储能力如何?为何说一般查找行记录，最多只需1~3次磁盘IO

InnoDB存储引擎中页的大小为16KB，一般表的主键类型为INT（占用4个字节）或BIGINT（占用8个字节），指针类型也一般为4个或者8个字节，也就是一个页（B+Tree中的一个节点）中大概存储16KB/(8B+8B)=1K个键值（因为是估值，为了方便计算，这里的K取值为10^{3。也就是说一个深度为3的B+Tree索引可以维护10}3*10^3*103） = 10 亿条记录。（这里假定一个数据页也存储10^3条记录数据了）

实际情况中每个节点可能不能填充满，因此在数据库中，B+Tree的高度一般都在2_{4层。MySQL的**InnoDB存储引擎在设置时是将根节点常驻内存的**，也就是说查找某一简直的行记录时最多需要1}3次磁盘I/O操作。

思考题：Hash索引和B+树索引的区别

我们之前讲到过B+树索引的结构，Hash索引结构和B+树的不同，因此在索引使用上也会有差别。

1、Hash索引不能进行范围查询，而B+树可以。这是因为Hash 索引指向的数据是无序的，而B+树的叶子节点是个有序的链表。

2、Hash索引不支持联合索引的最左侧原则(即联合索引的部分索引无法使用)，而B+树可以。对于联合索引来说，Hash 索引在计算Hash值的时候是将索引键合并后再一起计算Hash值，所以不会针对每个索引单独计算Hash值。因此如果用到联合索引的一个或者几个索引时，联合索引无法被利用。

3、Hash索引不支持ORDER BY排序，因为Hash索引指向的数据是无序的，因此无法起到排序优化的作用，而B+树索引数据是有序的，可以起到对该字段ORDER BY排序优化的作用。同理，我们也无法用Hash索引进行模糊查询，而B+树使用LIKE进行模糊查询的时候，LIKE后面后模糊查询（比如%结尾)的话就可以起到优化作用。

4、InnoDB不支持Hash索引

你能看到，针对InnoDB和MyISAM存储引擎，都会默认采用B+树索引，无法使用Hash索引。InnoDB提供的自适应Hash是不需要手动指定的。如果是Memory/Heap和NDB存储引擎，是可以进行选择Hash索引的。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-GYBQgq2n-1647435266122)(C:/Users/losser/AppData/Roaming/Typora/typora-user-images/image-20220316113454966.png)]

R-Tree（了解）

R-Tree在MySQL很少使用，仅支持geometry数据类型，支持该类型的存储引擎只有myisam、bdb、innodb、ndb、archive几种。举个R树在现实领域中能够解决的例子:查找20英里以内所有的餐厅。如果没有R树你会怎么解决？一般情况下我们会把餐厅的坐标(x,y)分为两个字段存放在数据库中，一个字段记录经度，另一个字段记录纬度。这样的话我们就需要遍历所有的餐厅获取其位置信息，然后计算是否满足要求。如果一个地区有100家餐厅的话，我们就要进行100次位置计算操作了，如果应用到谷歌、百度地图这种超大数据库中，这种方法便必定不可行了。R树就很好的解决了这种高维空间搜索问题。它把B树的思想很好的扩展到了多维空间，采用了B树分割空间的思想，并在添加、删除操作时采用合并、分解结点的方法，保证树的平衡性。因此，R树就是一棵用来存储高维数据的平衡树。相对于B-Tree，R-Tree的优势在于范围查找。

索引/存储引擎	MyISAM	InnoDB	Memory
R-Tree索引	支持	支持	`不支持`

小结

使用索引可以帮助我们从海量的数据中快速定位想要查找的数据，不过索引也存在一些不足，比如占用存储空间、降低数据库写操作的性能等，如果有多个索引还会增加索引选择的时间。当我们使用索引时，需要平衡索引的利(提升查询效率）和弊（维护索引所需的代价)。

在实际工作中，我们还需要基于需求和数据本身的分布情况来确定是否使用索引，尽管索引不是万能的，但数据量大的时候不使用索引是不可想象的，毕竟索引的本质，是帮助我们提升数据检索的效率。