对算法的时间复杂度的理解

“算法（algorithm）是为求解一个问题需要遵循的，被清楚地指定的简单指令集合。”

算法设计时，很重要的一步需要确定其占用的空间资源和时间资源，如果一个算法执行需要很长的时间，那么它很难有什么用处。同样的一个算法占用的空间太大，很有可能目前大多数的计算机都无法运行。这篇介绍的是算法的时间复杂度。

首先我们需要理解算法的时间复杂度是什么，其并不是一台计算机运行一个算法所花的时间。同样的一个算法在不同的计算机的运行时间是不同的，既与计算机的配置有关，也与计算机的使用时间有关，甚至于计算机所在的环境有关，所以算法执行的时间是难以确定的，也是没有太大意义的，因此需要找一个方式来作为专门比较算法的复杂度。使得在相同环境中算法的执行时间最低。

为了解决这个问题引入一个时间复杂度的计算法则：大O记法。

时间频度

一个算法花费的时间与算法中语句执行的次数成正相关，算法中语句执行的次数称为时间频度或语句频度。记作T(n)。

一般情况下，算法中语句的执行次数，是一个与那有关的函数，用T(n)来表示。若有一个辅助函数f(n)，在当n趋近于无穷大时，T(n)/f(n)时的极限值趋近于一个不等于零常数值，则称f(n)为T(n)的同数量级函数。记作T(n)=O(f(n))。称O(f(n))为算法的时间复杂度。

我们在这给出的是他们之间的相对级别，任意给定两个不同的函数，可能会存在某一个点使得f(n)>g(n)，但就此我们说f(n)的算法复杂度高于g(n)，这是这是没有意义的。于是我们比较的是其函数增长率。因此即使T(n)不同，但是其算法复杂度也可能相同。比如：T(n)=10n²+100n+100与T(n)=100n²+10n+200的时间复杂度是相同的都是O(n²)。

常见的时间复杂度

常数阶：O(1)
对数阶：O(logn)
线性阶：O(n)
线性对数阶：O(nlogn)
次方阶：O(n^k)
指数阶：O(2ⁿ)

说明：

其时间复杂度有小到大的排列关系为：O(1) < O(logn) < O(n) < O(nlogn) < O(n²) < O(n³) < O(n^k) < O(2ⁿ)

举例

对数阶 O(logn)

for (int i = 1; i < n; i++)
{i = i * 2;
}

线性阶 O(n)

int i = 1;
while (i < n)
{i++;
}

线性对数阶 O(nlogn)

for（int i = 1; i < n; i++)
{j = 1; while (j < n){j = j * 2;}
}

平方阶 O(n²)

for (int i = 0; i < n; i++)
{for (int j = 0; j < n; j++){int x = i; x++;}
}

平均时间复杂度和最坏时间复杂度

平均时间复杂度是指所有可能的输入实例均以等概率出现的情况下，该算法的运行时间
最坏情况下的时间复杂度称为最坏时间复杂度（大O记法）。一般讨论的时间复杂度均是最坏时间复杂度，因为最坏时间复杂度是算法在算法输入实例的上界，这样就保证了运行的时间不会比最坏情况更长。
平均时间复杂度和最坏时间复杂度是否一致，和算法有关。

举例：（八个著名的排序算法^ _ ^）

排序法	平均时间	最差时间	稳定性	额外空间	备注
冒泡排序	O(n²)	O(n²)	稳定	O(1)	n较小时比较好
简单选择排序	O(n²)	O(n²)	不稳定	O(1)	n较小时比较好
直接插入排序	O(n²)	O(n²)	稳定	O(1)	大部分已经排列好了的时候
快速排序	O(nlogn)	O(n²)	不稳定	O(nlogn)	n较大时比较好
归并排序	O(nlogn)	O(nlogn)	稳定	O(1)	n较大时比较好
堆排序	O(nlogn)	O(nlogn)	不稳定	O(1)	n较大时比较好
基数排序	O(log_RB)	O(log_RB)	稳定	O(n)	B是真数（0~9），R是基数（个十百）
希尔（shell）排序	O(nlogn)	O(n^s) 1<s<2	不稳定	O(1)	s是所选分组