算法基础回顾-时间复杂度和空间复杂度

Posted 2022-04-13 hymKing

时间复杂度和空间复杂度主要还是从算法所占用的「时间」和「空间」两个维度去考量。

• 时间维度：是指执行当前算法所消耗的时间，我们通常用「时间复杂度」来描述。
• 空间维度：是指执行当前算法需要占用多少内存空间，我们通常用「空间复杂度」来描述。

时间复杂度

时间复杂度使用大O表示法，在大O符号表示法中，时间复杂度的公式是： T(n) = O( f(n) )，其中f(n) 表示每行代码执行次数之和，而 O 表示正比例关系，这个公式的全称是：算法的渐进时间复杂度。

大O符号表示法并不是用于来真实代表算法的执行时间的，它是用来表示代码执行时间的增长变化趋势的。

举例：比如T(n)=O(f(n)),f(n)=n²+n，随着n的增大，n²的影响权重不断增大，n的影响权重不断减小，那么最终在表示上述的时间复杂度就直接转换成O(n2)。

综上：时间复杂度只看最高复杂度运算。

下面是常用的一些时间复杂度

1. 常数阶O(1)

   无论代码执行了多少行，只要是没有循环等复杂结构，那这个代码的时间复杂度就都是O(1)，如：

   int i = 1;
   int j = 2;
   ++i;
   j++;
   int m = i + j;
   

   上述代码在执行的时候，它消耗的时候并不随着某个变量的增长而增长，那么无论这类代码有多长，即使有几万几十万行，都可以用O(1)来表示它的时间复杂度。

2. 线性阶O(n)

   这个在最开始的代码示例中就讲解过了，如：

   for(i=1; i<=n; ++i)
   
     j = i;
     j++;
   
   

   这段代码，for循环里面的代码会执行n遍，因此它消耗的时间是随着n的变化而变化的，因此这类代码都可以用O(n)来表示它的时间复杂度。

3. 对数阶O(logN)

   还是先来看代码（二分查找，这种相关的算法等等往往是对数阶段的时间复杂度）：

   int i = 1;
   while(i<n)
   
      i = i * 2;
   
   

   从上面代码可以看到，在while循环里面，每次都将 i 乘以 2，乘完之后，i 距离 n 就越来越近了。我们试着求解一下，假设循环x次之后，i 就大于 2 了，此时这个循环就退出了，也就是说 2 的 x 次方等于 n，那么 x = log2^n
   也就是说当循环 log2^n 次以后，这个代码就结束了。因此这个代码的时间复杂度为：O(logn)

4. 线性对数阶O(nlogN)

   线性对数阶O(nlogN) 其实非常容易理解，将时间复杂度为O(logn)的代码循环N遍的话，那么它的时间复杂度就是 n * O(logN)，也就是了O(nlogN)。

   就拿上面的代码加一点修改来举例：

   for(m=1; m<n; m++)
   
      i = 1;
      while(i<n)
      
          i = i * 2;
      
   
   

5. 平方阶O(n²)

   平方阶O(n²) 就更容易理解了，如果把 O(n) 的代码再嵌套循环一遍，它的时间复杂度就是 O(n²) 了。
   举例：

   for(x=1; i<=n; x++)
   
     for(i=1; i<=n; i++)
      
         j = i;
         j++;
      
   
   

   这段代码其实就是嵌套了2层n循环，它的时间复杂度就是 O(n*n)，即 O(n²)
   如果将其中一层循环的n改成m，即：

   for(x=1; i<=m; x++)
   
     for(i=1; i<=n; i++)
      
         j = i;
         j++;
      
   
   

   那它的时间复杂度就变成了 O(m*n)

6. 立方阶O(n³)

   参考上面的O(n²) 去理解就好了，O(n³)相当于三层n循环，其它的类似。

7. K次方阶O(n^k)

   //基数的指数次幂
   for (int i = 0; i < Math.pow(2,n); i++) 
          //执行一次
   
   

   另外，还有阶乘的时间复杂度，循环的次数是n!。

附上一张不同阶时间复杂度的对比变化曲线：

从此图的中我可以看出，随着量级(n)增大，不同的时间复杂度之间的差异，会越来越大，所以，从提升效率角度，我们在写程序的时候，应该至少要考虑算法的时间复杂度。

来源于维基百科的一张常用算法的时间复杂度对比表格：

空间复杂度

空间复杂度(Space Complexity)是对一个算法在运行过程中临时占用存储空间大小的量度。一个算法在计算机存储器上所占用的存储空间，包括存储算法本身所占用的存储空间，算法的输入输出数据所占用的存储空间和算法在运行过程中临时占用的存储空间这三个方面。

算法的空间复杂度通过计算算法所需的存储空间实现，算法空间复杂度的计算公式记作：S(n)= O(f(n))，其中，n为问题的规模，f(n)为语句关于n所占存储空间的函数。

空间复杂度比较常用的有：O(1)、O(n)、O(n²)，我们下面来看看：

空间复杂度 O(1)

如果算法执行所需要的临时空间不随着某个变量n的大小而变化，即此算法空间复杂度为一个常量，可表示为 O(1)

关于O(1)的问题， O(1)是说数据规模和临时变量数目无关，并不是说仅仅定义一个临时变量。举例：无论数据规模多大，我都定义100个变量，这就叫做数据规模和临时变量数目无关。就是说空间复杂度是O(1)。

同样的道理，如果数据规模n和临时变量的数目f(n)的关系是f(n)=n²,就是说空间复杂度是O(N²)。

参考文章：
https://en.wikipedia.org/wiki/Master_theorem_(analysis_of_algorithms)
https://zhuanlan.zhihu.com/p/50479555