算法1.3.插入排序

一、什么是插入排序

插入排序（Insertion Sort）是一种简单直观的排序算法，它的工作原理是构建有序序列，不断将新的元素插入到已构建的有序序列中，从而实现排序。

插入排序过程就是打扑克牌时，你逐一拿扑克牌，并在手上排序的过程。

二、插入排序实现

1 基本实现思路

假设你在和朋友打牌

你先后拿到的牌的顺序为

5 , 2 , 4 , 6 , 1 , 3 {5,2,4,6,1,3} 5,2,4,6,1,3

首先你拿到5，无需排序，这就是排完序的状态：

5 5 5

随后, 你拿到2，你需要把这张牌插入之前手上的牌，也就是5，2比5小，所以放到5前面，得到：

2 , 5 2,5 2,5

继续，你拿到4，同上述过程，4比5小，但比2大，因此插入到5前面，2的后面，得到：

2 , 4 , 5 2,4,5 2,4,5

继续，拿到6，6大于5，因此不需要移动，得到排完序的数组：

2 , 4 , 5 , 6 2,4,5,6 2,4,5,6

后续，1和3安照此步骤进行，最后得到排完序的数组：

1 , 2 , 3 , 4 , 5 , 6 1,2,3,4,5,6 1,2,3,4,5,6

2 伪代码实现

get arr[] and arr.length //我们获取一个数组 arr ,并且得到它的长度 arr.lengthfor i = 1 to arr.length-1 // 0到(i-1)代表已经排完序的数组,由于单个数肯定属于排完序的，所以i从1开始key = arr[i] // 你拿到的牌，下面循环将其与之前的牌对比，从而找到它应该在哪个位置for j = i-1 to 0if arr[j] > key// 这里由于我们采用了数组的形式，计算机中数组属于连续空间，因此插入操作并没有像描述那样简单，插入需要将后面的数每个往后移一位exchange arr[j+1] and arr[j] //交换相当于将j往后移一位elsebreak; // 由于前面的数为排完序的状态，一旦发现拿到的牌小于某一张牌，即可确定拿到牌需放的位置，循环结束endifendfor
endfor

插入排序的实现也非常简单，关注公众号愿人人如龙回复插入排序即可免费领取c++代码（代码非常简陋，仅供学习使用），如有错误，非常感谢你通知我。

三、算法分析

1 空间复杂度

需要额外用于交换数据的一个储存位置 Θ ( 1 ) \Theta(1) Θ(1)

2 时间复杂度

对于插入排序，主要需要通过统计对比牌的次数和交换牌的次数。

考虑最差的情况（逆序状态）

第二张牌插入第一张牌最多需要对比一次，加交换一次；

第三张牌插入，需要最多对比两次，交换两次；

…

第n张牌插入，需要最多对比n-1次，交换n-1次。

因此，最坏情况为 2 ( 1 + 2 + . . . + n − 1 ) = n ( n − 1 ) 2(1+2+...+n-1)=n(n-1) 2(1+2+...+n−1)=n(n−1), 时间复杂度为 Θ ( n 2 ) \Theta(n^2) Θ(n2)

考虑最好情况（顺序状态）

每次循环只需要对比一次，发现要插入的牌大于最右边那张牌，循环结束。

一共 n-1次循环，时间复杂度为 Θ ( n ) \Theta(n) Θ(n)

平均情况

但是一般情况下，我们得到的数组不是最好情况也不是最坏情况。

首先，假设数组的排列是等可能性的，也就是说，顺序和逆序的概率都为 1 n ! \displaystyle\frac{1}{n!} n!1，可以看到当n较大时概率非常低。

总的来说，需要非常好的状态时算法才有 Θ ( n ) \Theta(n) Θ(n)，大部分情况时间复杂度为 Θ ( n 2 ) \Theta(n^2) Θ(n2) 。

考虑一个数组，当操作第k个数时，

有 1 , 2 , 3... , k − 1 1,2,3...,k-1 1,2,3...,k−1，需要比较1到k-1次（由于交换次数与比较基本一致，不影响时间复杂度的数量级，因此不考虑），考虑排列是等可能的，所以插入每个位置为等可能的，包含自己原来的位置共有k个位置可放置，概率为 1 k \displaystyle\frac{1}{k} k1，比较次数从右到左需要 1 , 2 , 3... , k − 1 , k − 1 1,2,3...,k-1,k-1 1,2,3...,k−1,k−1，放在第一个数字前后的比较次数均为k-1次，因此期望为 1 k ( 1 + 2 + 3... + k − 1 + k − 1 ) = ( ( 1 + k ) k 2 − 1 ) 1 k \displaystyle\frac{1}{k}(1+2+3...+k-1+k-1)=(\frac{(1+k)k}{2}-1)\frac{1}{k} k1(1+2+3...+k−1+k−1)=(2(1+k)k−1)k1

将括号里-1忽略，比较次数的期望为 1 + k 2 \displaystyle\frac{1+k}{2} 21+k

对于一个规模为n的数组，总的期望比较次数为

∑ k = 1 n 1 + k 2 = n 2 + 3 n 4 \displaystyle\sum_{k=1}^{n}\frac{1+k}{2}=\frac{n^2+3n}{4} k=1∑n21+k=4n2+3n （等差数列求和）

因此平均时间复杂度为 Θ ( n 2 ) \Theta(n^2) Θ(n2)。