笔记 算法与数据结构 复杂度分析

广义上讲,数据结构就是指一组数据的存储结构。算法就是操作数据的一组方法

比如图书馆储藏书籍,管理员一般会将书籍分门别类进行“存储”。按照一定规律编号,就是书籍这种“数据”的存储结构。
如何来找一本书?有很多种办法,你当然可以一本一本地找,也可以先根据书籍类别的编号,是人文,还是科学、计算机,来定位书架,然后再依次查找。
这些方法就是算法。

常见的数据结构:数组、链表、栈、队列、散列表、二叉树、堆、跳表、图、Trie 树;
算法:递归、排序、二分查找、搜索、哈希算法、贪心算法、分治算法、回溯算法、动态规划、字符串匹配算法

数据结构和算法的关系

数据结构是为算法服务的,算法要作用在特定的数据结构之上

比如,因为数组具有随机访问的特点,常用的二分查找算法需要用数组来存储数据。但如果我们选择链表这种数据结构,二分查找算法就无法工作了,因为链表并不支持随机访问。

数据结构是静态的,它只是组织数据的一种方式。不在它的基础上操作、构建算法,孤立存在的数据结构就是没用的。

复杂度分析

复杂度分析对于学习算法非常重要。为什么需要复杂度分析?

比如我们把代码跑一遍,通过统计、监控,就能得到算法执行的时间和占用的内存大小。为什么还要做时间、空间复杂度分析?

首先这种方法叫事后统计法,这种方法的局限性:

  1. 依赖测试环境。代码在不同的环境运行,结果是不同的,比如一个酷睿i9,和酷睿i3,很明显i9处理速度要快的多。
  2. 测试结构受数据规模的影响。测试数据规模太小,测试结果可能无法真实地反应算法的性能。

大 O 时间复杂度表示法

如何在不运行代码的情况下,用“肉眼”得到一段代码的执行时间?

1
2
3
4
5
6
7
8
int cal(int n) {
int sum = 0;
int i = 1;
for (; i <= n; ++i) {
sum = sum + i;
}
return sum;
}

上面的代码,假设每行代码执行的时间都一样,为unit_time。那么,第2、3行代码分别需要1个unit_time的执行时间,第4、5行都运行了n遍,
所以需要2n*unit_time的执行时间,所以这段代码总的执行时间就是(2n+2)*unit_time。可以看出来,所有代码的执行时间T(n)与每行代码的执行次数成正比。

1
2
3
4
5
6
7
8
9
10
11
int cal(int n) {
int sum = 0;
int i = 1;
int j = 1;
for (; i <= n; ++i) {
j = 1;
for (; j <= n; ++j) {
sum = sum + i * j;
}
}
}

现在再来分析上面的代码,第2、3、4行代码,每行都需要1个unit_time的执行时间,第5、6行代码循环执行了n遍,
需要2n * unit_time的执行时间,第7、8行代码循环执行了n2遍,所以需要2n^2 * unit_time的执行时间。所以,整段代码总的执行时间T(n) = (2n^2+2n+3)*unit_time

我们不知道unit_time的具体值,但是通过这两段代码执行时间的推导过程,我们可以得到一个非常重要的规律,那就是,所有代码的执行时间T(n)与每行代码的执行次数n成正比
把这个规律总结成一个公式:

1
T(n) = O(f(n))

T(n)表示代码执行的时间;n表示数据规模的大小;f(n)表示每行代码执行的次数总和。因为这是一个公式,所以用f(n)来表示。公式中的O,表示代码的执行
时间T(n)f(n)表达式成正比。

所以,第一个例子中的T(n) = O(2n+2),第二个例子中的T(n) = O(2n^2+2n+3)。这就是大O时间复杂度表示法。

大O时间复杂度实际上并不具体表示代码真正的执行时间,而是表示代码执行时间随数据规模增长的变化趋势,所以,也叫作渐进时间复杂度(asymptotic time complexity),简称时间复杂度

如何分析一段代码的时间复杂度?

  1. 只关注循环执行次数最多的一段代码,例如,前面第一个例子中的T(n) = O(2n+2),总的时间复杂度就是O(n)。第二个例子中的T(n) = O(2n^2+2n+3)。总的时间复杂度就是O(n^2)
  2. 加法法则:总复杂度等于量级最大的那段代码的复杂度
  3. 乘法法则:嵌套代码的复杂度等于嵌套内外代码复杂度的乘积
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
int cal(int n) {
int ret = 0;
int i = 1;
for (; i < n; ++i) {
ret = ret + f(i);}
}
}
int f(int n) {
int sum = 0;
int i = 1;
for (; i < n; ++i) {
sum = sum + i;
}
return sum;
}

单独看cal()函数。假设f()只是一个普通的操作,那第4~6行的时间复杂度就是,T1(n) = O(n)
f()函数本身不是一个简单的操作,它的时间复杂度是T2(n) =O(n),所以,整个cal()函数的时间复杂度就是,T(n) = T1(n) * T2(n) = O(n*n) = O(n^2)

复杂度量级

按数量级递增:

1
2
3
4
5
常量阶 O(1) 指数阶 O(2^n)
对数阶 O(logn) 阶乘阶 O(n!))
线性阶 O(n)
线性对数阶 O(nlogn)
平方阶O(n^2),立方阶O(n^2),k次方阶O(n^k)

上面的复杂度量级,可以分为两类,多项式量级非多项式量级

非多项式量级

时间复杂度为非多项式量级的算法问题叫作NP(Non-Deterministic Polynomial,非确定多项式)问题。

非多项式量级只有两个:O(2^n)O(n!)

当数据规模 n 越来越大时,非多项式量级算法的执行时间会急剧增加,求解问题的执行时间会无限增长。所以,非多项式时间复杂度的算法其实是非常低效的算法

常量阶 O(1)

O(1)只是常量级时间复杂度的一种表示方法,并不是指只执行了一行代码。比如这段代码,即便有3 行,它的时间复杂度也是O(1),而不是O(3)

1
2
3
int i = 8;
int j = 6;
int sum = i + j;

只要代码的执行时间不随n 的增大而增长,这样代码的时间复杂度我们都记作O(1)。或者说,一般情况下,只要算法中不存在循环语句、递归语句,即使有成千上万行的代码,
其时间复杂度也是Ο(1)

对数阶 O(logn) 线性对数阶 O(nlogn)

对数阶时间复杂度非常常见,同时也是最难分析的一种时间复杂度。

1
2
3
4
i=1;
while (i <= n) {
i = i * 2;
}

上面的代码中,变量i的值从1开始取,每循环一次就乘以2。当大于n时,循环结束。变量i的取值就是一个等比数列。
我们只要知道x值是多少,就知道这行代码执行的次数了。通过2x=n求解x这个问题我们想高中应该就学过了,我就不多说了。x=log2n,所以,这段代码的时间复杂度就是O(log2n)

不管是以2为底、以3为底,还是以10为底,我们可以把所有对数阶的时间复杂度都记为O(logn)

如果理解了O(logn),那O(nlogn)就很容易理解了。还记得我们刚讲的乘法法则吗?如果一段代码的时间复杂度是O(logn),我们循环执行n遍,
时间复杂度就是O(nlogn)了。而且,O(nlogn)也是一种非常常见的算法时间复杂度。比如,归并排序、快速排序的时间复杂度都是O(nlogn)

O(m+n)、O(m*n)

1
2
3
4
5
6
7
8
9
10
11
12
13
int cal(int m, int n) {
int sum_1 = 0;
int i = 1;
for (; i < m; ++i) {
sum_1 = sum_1 + i;
}
int sum_2 = 0;
int j = 1;
for (; j < n; ++j) {
sum_2 = sum_2 + j;
}
return sum_1 + sum_2;
}

m和n是表示两个数据规模。我们无法事先评估m和n谁的量级大,所以我们在表示复杂度的时候,就不能简单地利用加法法则,省略掉其中一个。所以,上面代码的时间复杂度就是O(m+n)
乘法法则继续有效:T1(m)*T2(n) = O(f(m) * f(n))

空间复杂度分析

空间复杂度全称是渐进空间复杂度(asymptotic space complexity),表示算法的存储空间与数据规模之间的增长关系

1
2
3
4
5
6
7
8
9
10
void print(int n) {
int i = 0;
int[] a = new int[n];
for (i; i <n; ++i) {
a[i] = i * i;
}
for (i = n-1; i >= 0; --i) {
print out a[i]
}
}

第2行代码中,我们申请了一个空间存储变量i,但是它是常量阶的,跟数据规模n没有关系,所以我们可以忽略。
第3行申请了一个大小为n的int类型数组,除此之外,剩下的代码都没有占用更多的空间,所以整段代码的空间复杂度就是O(n)

常见的空间复杂度就是O(1)O(n)O(n^2),像O(logn)、O(nlogn)这样的对数阶复杂度平时都用不到。

最好、最坏情况时间复杂度

1
2
3
4
5
6
7
8
9
// n表示数组array的长度int
find(int[] array, int n, int x) {
int i = 0;
int pos = -1;
for (; i < n; ++i) {
if (array[i] == x) pos = i;
}
return pos;
}

按照前面的方法分析,很明显复杂度是O(n)

但是在数组中查找一个数据,并不需要每次都把整个数组都遍历一遍,因为有可能中途找到就可以提前结束循环了。我们优化一下代码:

1
2
3
4
5
6
7
8
9
10
11
find(int[] array, int n, int x) {
int i = 0;
int pos = -1;
for (; i < n; ++i) {
if (array[i] == x) {
pos = i;
break;
}
}
return pos;
}

优化以后复杂度明显不再是O(n)

为了表示代码在不同情况下的不同时间复杂度,需要引入三个概念:最好情况时间复杂度、最坏情况时间复杂度

最好情况时间复杂度就是,在最理想的情况下,执行这段代码的时间复杂度。比如上面的例子,在最理想的情况下,要查找的变量x正好是数组的
第一个元素,这个时候对应的时间复杂度就是最好情况时间复杂度。复杂度就是O(1)

同理,最坏情况时间复杂度就是,在最糟糕的情况下,执行这段代码的时间复杂度。上面的例子,如果数组中没有要查找的变量x,我们需要把整个数组都遍历一遍才行,
所以这种最糟糕情况下对应的时间复杂度就是最坏情况时间复杂度。复杂度就是O(n)

平均情况时间复杂度

最好情况时间复杂度和最坏情况时间复杂度对应的都是极端情况下的代码复杂度,发生的概率其实并不大。为了更好地表示平均情况下的复杂度,
需要引入另一个概念:平均情况时间复杂度,后面我简称为平均时间复杂度。

还是前面的例子,要查找的变量x在数组中的位置,有n+1种情况:在数组的0~n-1位置中和不在数组中。我们把每种情况下,查找需要遍历的元素个数累加起来,然后再除以n+1
就可以得到需要遍历的元素个数的平均值。时间复杂度的大O标记法中,可以省略掉系数、低阶、常量,所以,咱们把刚刚这个公式简化之后,得到的平均时间复杂度就是O(n)

这个结论虽然是正确的,但是计算过程稍微有点儿问题。是什么问题?n+1种情况,出现的概率并不是一样的。

要查找的变量x,要么在数组里,要么就不在数组里。这两种情况对应的概率统计起来很麻烦,假设在数组中与不在数组中的概率都为1/2。另外,要查找的数据出现在0~n-1
n个位置的概率也是一样的,为1/n。所以,根据概率乘法法则,要查找的数据出现在0~n-1中任意位置的概率就是1/(2n)

引入概率之后,前面那段代码的加权平均值为(3n+1)/4。用大O表示法来表示,去掉系数和常量,这段代码的加权平均时间复杂度仍然是O(n)

很多时候,我们使用一个复杂度就可以满足需求了。

均摊时间复杂度

大部分情况下,我们并不需要区分最好、最坏、平均三种复杂度。平均复杂度只在某些特殊情况下才会用到,而均摊时间复杂度应用的场景比它更加特殊、更加有限。

均摊时间复杂度就是一种特殊的平均时间复杂度,一般均摊时间复杂度就等于最好情况时间复杂度。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
int[] array = new int[n];
int count = 0;
void insert(int val) {
if (count == array.length) {
int sum = 0;
for (int i = 0; i < array.length; ++i) {
sum = sum + array[i];
}
array[0] = sum;
count = 1;
}
array[count] = val;
++count;
}

上面的代码,数组满了之后,也就是代码中的count == array.length时,用for循环遍历数组求和,并清空数组,
将求和之后的sum值放到数组的第一个位置,然后再将新的数据插入。但如果数组一开始就有空闲空间,则直接将数据插入数组。

最理想的情况下,数组中有空闲空间,我们只需要将数据插入到数组下标为count的位置就可以了,所以最好情况时间复杂度为O(1)
最坏的情况下,数组中没有空闲空间了,我们需要先做一次数组的遍历求和,然后再将数据插入,所以最坏情况时间复杂度为O(n)

假设数组的长度是n,根据数据插入的位置的不同,我们可以分为n种情况,每种情况的时间复杂度是O(1)。除此之外,还有一种“额外”的情况,
就是在数组没有空闲空间时插入一个数据,这个时候的时间复杂度是O(n)。而且,这n+1种情况发生的概率一样,都是1/(n+1)。所以,根据加权平均的计算方法,
平均时间复杂度是O(1)

这个例子里的平均复杂度分析不需要引入概率论的知识。这是为什么?我们先来对比一下这个insert()的例子和前面那个find()的例子,你就会发现这两者有很大差别。
首先,find()函数在极端情况下,复杂度才为O(1)。但insert()在大部分情况下,时间复杂度都为O(1)。只有个别情况下,复杂度才比较高,为O(n)

第二个不同的地方。对于insert()函数来说,O(1)时间复杂度的插入和O(n)时间复杂度的插入,出现的频率是非常有规律的,而且有一定的前后时序关系,
一般都是一个O(n)插入之后,紧跟着n-1O(1)的插入操作,循环往复。

针对这种特殊的场景,引入了一种更加简单的分析方法:摊还分析法,通过摊还分析得到的时间复杂度我们起了一个名字,叫均摊时间复杂度

这个例子。每一次O(n)的插入操作,都会跟着n-1O(1)的插入操作,所以把耗时多的那次操作均摊到接下来的n-1次耗时少的操作上,均摊下来,这一组连续的操作的均摊
时间复杂度就是O(1)。这就是均摊分析的大致思路。