各类排序算法的时间复杂度
排序算法概述:
排序大的分类可以分为两种:内排序和外排序。在排序过程中,全部记录存放在内存,则称为内排序,如果排序过程中需要使用外存,则称为外排序。下面讲的排序都是属于内排序。
内排序可以分为以下几类:
(1)、插入排序:直接插入排序、二分法插入排序、希尔排序。
(2)、选择排序:简单选择排序、堆排序。
(3)、交换排序:冒泡排序、快速排序。
外排序可以分为一下几类(既使用内部存储也使用外部存储,内存不够时建议使用):
(4)、归并排序
(5)、基数排序
稳定性:就是能保证排序前两个相等的数据其在序列中的先后位置顺序与排序后它们两个先后位置顺序相同。再简单具体一点,如果A i == A j,Ai 原来在 Aj 位置前,排序后 Ai 仍然是在 Aj 位置前。
不稳定:简单选择排序、快速排序、希尔排序、堆排序不是稳定的排序算法
稳定:冒泡排序、直接插入排序、二分法插入排序,归并排序和基数排序都是稳定的排序算法。
平均时间复杂度
O(n^2):直接插入排序,简单选择排序,冒泡排序。
在数据规模较小时(9W内),直接插入排序,简单选择排序差不多。当数据较大时,冒泡排序算法的时间代价最高。性能为O(n^2)的算法基本上是相邻元素进行比较,基本上都是稳定的。
O(nlogn):快速排序,归并排序,希尔排序,堆排序。
其中,快排是最好的, 其次是归并和希尔,堆排序在数据量很大时效果明显。
排序算法的选择
1.数据规模较小
(1)待排序列基本序的情况下,可以选择直接插入排序;
(2)对稳定性不作要求宜用简单选择排序,对稳定性有要求宜用插入或冒泡
2.数据规模不是很大
(1)完全可以用内存空间,序列杂乱无序,对稳定性没有要求,快速排序,此时要付出log(N)的额外空间。
(2)序列本身可能有序,对稳定性有要求,空间允许下,宜用归并排序
3.数据规模很大
(1)对稳定性有求,则可考虑归并排序。
(2)对稳定性没要求,宜用堆排序
4.序列初始基本有序(正序),宜用直接插入,冒泡
排序算法:
一、插入排序
①直接插入排序(从后向前找到合适位置后插入)
1、基本思想:每步将一个待排序的记录,按其顺序码大小插入到前面已经排序的字序列的合适位置(从后向前找到合适位置后),直到全部插入排序完为止。
2、实例
3、java实现
1 import java.util.Scanner; 2 3 public class Main { 4 public static void main(String[] args) { 5 //输入参数 6 Scanner in = new Scanner(System.in); 7 while (in.hasNext()) { 8 String inStr = in.nextLine(); 9 String[] str = inStr.split(" "); 10 int a[] = new int[str.length]; 11 for (int i = 0; i < a.length; i++) { 12 a[i] = Integer.parseInt(str[i]); 13 } 14 15 //输出结果 16 int[] results = zhiJieChaRu(a); 17 StringBuffer result = new StringBuffer(); 18 for (int i = 0; i < results.length; i++) { 19 result.append(results[i]).append(","); 20 } 21 //删除最后一个逗号 22 if (result.length() > 0) { 23 result.deleteCharAt(result.length() -1); 24 } 25 System.out.println(result); 26 27 } 28 } 29 30 /** 31 * 直接插入排序。 32 * @param a 33 * @return 34 */ 35 public static int[] zhiJieChaRu(int[] a) { 36 // 直接插入排序 37 for (int i = 1; i < a.length; i++) { 38 // 待插入元素 39 int temp = a[i]; 40 int j; 41 for (j = i - 1; j >= 0; j--) { 42 // 将大于temp的往后移动一位 43 if (a[j] > temp) { 44 a[j + 1] = a[j]; 45 } else { 46 break; 47 } 48 } 49 a[j + 1] = temp; 50 } 51 return a; 52 } 53 54 }
4、分析
直接插入排序是稳定的排序。
文件初态不同时,直接插入排序所耗费的时间有很大差异。若文件初态为正序,则每个待插入的记录只需要比较一次就能够找到合适的位置插入,
故算法的时间复杂度为O(n),这时最好的情况。若初态为反序,则第i个待插入记录需要比较i+1次才能找到合适位置插入,故时间复杂度为O(n2),这时最坏的情况。
直接插入排序的平均时间复杂度为O(n2)。
②二分法插入排序(按二分法找到合适位置插入)
1、基本思想:二分法插入排序的思想和直接插入一样,只是找合适的插入位置的方式不同,这里是按二分法找到合适的位置,可以减少比较的次数。
2、实例
3、java实现
1 import java.util.Scanner; 2 3 public class Main { 4 public static void main(String[] args) { 5 // 输入参数 6 Scanner in = new Scanner(System.in); 7 while (in.hasNext()) { 8 String inStr = in.nextLine(); 9 String[] str = inStr.split(" "); 10 int a[] = new int[str.length]; 11 for (int i = 0; i < a.length; i++) { 12 a[i] = Integer.parseInt(str[i]); 13 } 14 15 // 调用方法得到数组 16 int[] results = erFenChaRu(a); 17 18 //将数组转换成字符串输出 19 StringBuffer result = new StringBuffer(); 20 for (int i = 0; i < results.length; i++) { 21 result.append(results[i]).append(","); 22 } 23 // 删除最后一个逗号 24 if (result.length() > 0) { 25 result.deleteCharAt(result.length() - 1); 26 } 27 System.out.println(result); 28 29 } 30 } 31 32 /** 33 * 二分插入排序 34 * @param a 35 * @return 36 */ 37 public static int[] erFenChaRu(int[] a) { 38 for (int i = 0; i < a.length; i++) { 39 int temp = a[i]; 40 int left = 0; 41 int right = i - 1; 42 int mid = 0; 43 while (left <= right) { 44 mid = (left + right) / 2; 45 if (temp < a[mid]) { 46 right = mid - 1; 47 } else { 48 left = mid + 1; 49 } 50 } 51 for (int j = i - 1; j >= left; j--) { 52 a[j + 1] = a[j]; 53 } 54 if (left != i) { 55 a[left] = temp; 56 } 57 } 58 return a; 59 } 60 61 }
4、分析
当然,二分法插入排序也是稳定的。
二分插入排序的比较次数与待排序记录的初始状态无关,仅依赖于记录的个数。当n较大时,比直接插入排序的最大比较次数少得多。
但大于直接插入排序的最小比较次数。算法的移动次数与直接插入排序算法的相同,最坏的情况为n2/2,最好的情况为n,平均移动次数为O(n2)。
③希尔排序
1、基本思想:先取一个小于n的整数d1作为第一个增量,把文件的全部记录分成d1个组。所有距离为d1的倍数的记录放在同一个组中。先在各组内进行直接插入排序;
然后,取第二个增量d2<d1重复上述的分组和排序,直至所取的增量dt=1(dt<dt-l<…<d2<d1),即所有记录放在同一组中进行直接插入排序为止。该方法实质上是一种分组插入方法。
2、实例
3、java实现
1 /** 2 * 希尔排序。 3 * @param a 4 * @return 5 */ 6 public static int[] xiErSort(int[] a) { 7 int d = a.length; 8 while (true) { 9 d = d / 2; 10 for (int x = 0; x < d; x++) { 11 for (int i = x + d; i < a.length; i = i + d) { 12 int temp = a[i]; 13 int j; 14 for (j = i - d; j >= 0 && a[j] > temp; j = j - d) { 15 a[j + d] = a[j]; 16 } 17 a[j + d] = temp; 18 } 19 } 20 if (d == 1) { 21 break; 22 } 23 } 24 return a; 25 }
4、分析
我们知道一次插入排序是稳定的,但在不同的插入排序过程中,相同的元素可能在各自的插入排序中移动,最后其稳定性就会被打乱,所以希尔排序是不稳定的。
希尔排序的时间性能优于直接插入排序,原因如下:
①简单的选择排序
1 /** 2 * 直接选择排序。 3 * @param a 4 * @return 5 */ 6 public static int[] zhiJieXuanZe(int[] a) { 7 for (int i = 0; i < a.length; i++) { 8 int min = a[i]; 9 int n = i; // 最小数的索引 10 for (int j = i + 1; j < a.length; j++) { 11 if (a[j] < min) { // 找出最小的数 12 min = a[j]; 13 n = j; 14 } 15 } 16 a[n] = a[i]; 17 a[i] = min; 18 19 } 20 return a; 21 }
4、分析
简单选择排序是不稳定的排序。
时间复杂度:T(n)=O(n2)。
②堆排序
1、基本思想:
堆排序是一种树形选择排序,是对直接选择排序的有效改进。
堆的定义下:具有n个元素的序列 (h1,h2,...,hn),当且仅当满足(hi>=h2i,hi>=2i+1)或(hi<=h2i,hi<=2i+1) (i=1,2,...,n/2)时称之为堆。在这里只讨论满足前者条件的堆。
由堆的定义可以看出,堆顶元素(即第一个元素)必为最大项(大顶堆)。完全二 叉树可以很直观地表示堆的结构。堆顶为根,其它为左子树、右子树。
思想: 初始时把要排序的数的序列看作是一棵顺序存储的二叉树,调整它们的存储序,使之成为一个 堆,这时堆的根节点的数最大。然后将根节点与堆的最后一个节点交换。
然后对前面(n-1)个数重新调整使之成为堆。依此类推,直到只有两个节点的堆,并对 它们作交换,最后得到有n个节点的有序序列。从算法描述来看,堆排序需要两个过程,
一是建立堆,二是堆顶与堆的最后一个元素交换位置。所以堆排序有两个函数组成。一是建堆的渗透函数,二是反复调用渗透函数实现排序的函数。
2、实例
初始序列:46,79,56,38,40,84
建堆:
交换,从堆中踢出最大数
依次类推:最后堆中剩余的最后两个结点交换,踢出一个,排序完成。
3、java实现
1 /** 2 * 堆排序 3 * @param a 4 * @return 5 */ 6 public static int[] heapSort(int a[]) { 7 int arrayLength = a.length; 8 // 循环建堆 9 for (int i = 0; i < arrayLength - 1; i++) { 10 // 建堆 11 buildMaxHeap(a, arrayLength - 1 - i); 12 // 交换堆顶和最后一个元素 13 swap(a, 0, arrayLength - 1 - i); 14 } 15 return a; 16 } 17 // 对data数组从0到lastIndex建大顶堆 18 public static void buildMaxHeap(int[] data, int lastIndex) { 19 // 从lastIndex处节点(最后一个节点)的父节点开始 20 for (int i = (lastIndex - 1) / 2; i >= 0; i--) { 21 // k保存正在判断的节点 22 int k = i; 23 // 如果当前k节点的子节点存在 24 while (k * 2 + 1 <= lastIndex) { 25 // k节点的左子节点的索引 26 int biggerIndex = 2 * k + 1; 27 // 如果biggerIndex小于lastIndex,即biggerIndex+1代表的k节点的右子节点存在 28 if (biggerIndex < lastIndex) { 29 // 若果右子节点的值较大 30 if (data[biggerIndex] < data[biggerIndex + 1]) { 31 // biggerIndex总是记录较大子节点的索引 32 biggerIndex++; 33 } 34 } 35 // 如果k节点的值小于其较大的子节点的值 36 if (data[k] < data[biggerIndex]) { 37 // 交换他们 38 swap(data, k, biggerIndex); 39 // 将biggerIndex赋予k,开始while循环的下一次循环,重新保证k节点的值大于其左右子节点的值 40 k = biggerIndex; 41 } else { 42 break; 43 } 44 } 45 } 46 } 47 // 交换 48 private static void swap(int[] data, int i, int j) { 49 int tmp = data[i]; 50 data[i] = data[j]; 51 data[j] = tmp; 52 }
4、分析
堆排序也是一种不稳定的排序算法。
堆排序优于简单选择排序的原因:
直接选择排序中,为了从R[1..n]中选出关键字最小的记录,必须进行n-1次比较,然后在R[2..n]中选出关键字最小的记录,又需要做n-2次比较。
事实上,后面的n-2次比较中,有许多比较可能在前面的n-1次比较中已经做过,但由于前一趟排序时未保留这些比较结果,所以后一趟排序时又重复执行了这些比较操作。
堆排序可通过树形结构保存部分比较结果,可减少比较次数。
堆排序的最坏时间复杂度为O(nlogn)。堆序的平均性能较接近于最坏性能。由于建初始堆所需的比较次数较多,所以堆排序不适宜于记录数较少的文件。
三、交换排序
①冒泡排序
1、基本思想:在要排序的一组数中,对当前还未排好序的范围内的全部数,自上而下对相邻的两个数依次进行比较和调整,让较大的数往下沉,较小的往上冒。
即:每当两相邻的数比较后发现它们的排序与排序要求相反时,就将它们互换。
2、实例
3、java实现
1 /** 2 * 冒泡排序。 3 * @param a 4 * @return 5 */ 6 public static int[] maoPaoSort(int a[]) { 7 //冒泡排序 8 for (int i = 0; i < a.length; i++) { 9 for(int j = 0; j<a.length-i-1; j++){ 10 //这里-i主要是每遍历一次都把最大的i个数沉到最底下去了,没有必要再替换了 11 if(a[j]>a[j+1]){ 12 int temp = a[j]; 13 a[j] = a[j+1]; 14 a[j+1] = temp; 15 } 16 } 17 } 18 return a; 19 }
4、分析
冒泡排序是一种稳定的排序方法。
②快速排序
1、基本思想:选择一个基准元素,通常选择第一个元素或者最后一个元素,通过一趟扫描,将待排序列分成两部分,一部分比基准元素小,一部分大于等于基准元素,
此时基准元素在其排好序后的正确位置,然后再用同样的方法递归地排序划分的两部分。
2、实例
3、java实现
1 /** 2 * 快速排序。 3 * @param a 4 * @return 5 */ 6 public static int[] quick(int[] a) { 7 quickSort(a, 0, a.length - 1); 8 return a; 9 } 10 public static void quickSort(int[] a, int low, int high) { 11 if (low < high) { // 如果不加这个判断递归会无法退出导致堆栈溢出异常 12 int middle = getMiddle(a, low, high); 13 quickSort(a, 0, middle - 1); 14 quickSort(a, middle + 1, high); 15 } 16 } 17 public static int getMiddle(int[] a, int low, int high) { 18 int temp = a[low];// 基准元素 19 while (low < high) { 20 // 找到比基准元素小的元素位置 21 while (low < high && a[high] >= temp) { 22 high--; 23 } 24 a[low] = a[high]; 25 while (low < high && a[low] <= temp) { 26 low++; 27 } 28 a[high] = a[low]; 29 } 30 a[low] = temp; 31 return low; 32 }
4、分析
快速排序是不稳定的排序。
快速排序的时间复杂度为O(nlogn)。
当n较大时使用快排比较好,当序列基本有序时用快排反而不好。
四、归并排序
1、基本思想:归并(Merge)排序法是将两个(或两个以上)有序表合并成一个新的有序表,即把待排序序列分为若干个子序列,每个子序列是有序的。
然后再把有序子序列合并为整体有序序列。
2、实例
3、java实现
1 /** 2 * 归并排序。 3 * 4 * @param a 5 * @return 6 */ 7 public static int[] guiBingSort(int[] a) { 8 mergeSort(a, 0, a.length-1); 9 return a; 10 } 11 12 public static void mergeSort(int[] a, int left, int right) { 13 if (left < right) { 14 int middle = (left + right) / 2; 15 // 对左边进行递归 16 mergeSort(a, left, middle); 17 // 对右边进行递归 18 mergeSort(a, middle + 1, right); 19 // 合并 20 merge(a, left, middle, right); 21 } 22 } 23 24 public static void merge(int[] a, int left, int middle, int right) { 25 int[] tmpArr = new int[a.length]; 26 int mid = middle + 1; // 右边的起始位置 27 int tmp = left; 28 int third = left; 29 while (left <= middle && mid <= right) { 30 // 从两个数组中选取较小的数放入中间数组 31 if (a[left] <= a[mid]) { 32 tmpArr[third++] = a[left++]; 33 } else { 34 tmpArr[third++] = a[mid++]; 35 } 36 } 37 // 将剩余的部分放入中间数组 38 while (left <= middle) { 39 tmpArr[third++] = a[left++]; 40 } 41 while (mid <= right) { 42 tmpArr[third++] = a[mid++]; 43 } 44 // 将中间数组复制回原数组 45 while (tmp <= right) { 46 a[tmp] = tmpArr[tmp++]; 47 } 48 }
4、分析
归并排序是稳定的排序方法。
归并排序的时间复杂度为O(nlogn)。
速度仅次于快速排序,为稳定排序算法,一般用于对总体无序,但是各子项相对有序的数列。
五、基数排序
1、基本思想:将所有待比较数值(正整数)统一为同样的数位长度,数位较短的数前面补零。然后,从最低位开始,依次进行一次排序。
这样从最低位排序一直到最高位排序完成以后,数列就变成一个有序序列。
2、实例
3、java实现
1 public static int[] jiShuSort(int[] array) { 2 //找到最大数,确定要排序几趟 3 int max = 0; 4 for (int i = 0; i < array.length; i++) { 5 if(max<array[i]){ 6 max = array[i]; 7 } 8 } 9 //判断位数 10 int times = 0; 11 while(max>0){ 12 max = max/10; 13 times++; 14 } 15 //建立十个队列 16 List<ArrayList> queue = new ArrayList<ArrayList>(); 17 for (int i = 0; i < 10; i++) { 18 ArrayList queue1 = new ArrayList(); 19 queue.add(queue1); 20 } 21 //进行times次分配和收集 22 for (int i = 0; i < times; i++) { 23 //分配 24 for (int j = 0; j < array.length; j++) { 25 int x = array[j]%(int)Math.pow(10, i+1)/(int)Math.pow(10, i); 26 ArrayList queue2 = queue.get(x); 27 queue2.add(array[j]); 28 queue.set(x,queue2); 29 } 30 //收集 31 int count = 0; 32 for (int j = 0; j < 10; j++) { 33 while(queue.get(j).size()>0){ 34 ArrayList<Integer> queue3 = queue.get(j); 35 array[count] = queue3.get(0); 36 queue3.remove(0); 37 count++; 38 } 39 } 40 } 41 return array; 42 }
4、分析
基数排序是稳定的排序算法。
基数排序的时间复杂度为O(d(n+r)),d为位数,r为基数。