算法概述

算法分类

十种常见排序算法可以分为两大类：

比较类排序：通过比较来决定元素之间的相对次序，由于其时间复杂度不能突破O(nlogn),因此也被称为非线性时间比较类排序。
非比较类排序：不通过比较来决定元素之间的相对次序，他可以突破基于比较排序的时间下界，以线性时间运行，因此也被称为线性时间非比较排序。

算法复杂度

相関概念

稳定：如果a原本在b前面，而a=b，排序之后a仍然在b的前面。
不稳定：如果a原本在b的前面，a=b，排序之后a可能会出现在b的后面。
时间复杂度：对排序数据的总的操作次数。反应当n变化时，操作次数呈现什么规律。
空间复杂度：是指算法在计算机内执行时所需要的空间质量，他也是数据规模n的函数。

经典排序

一.冒泡排序（Bubble Sort）

冒泡排序是一种简单的排序算法，他重复地放过要排序的数列，一次比较两个元素，如果他们的顺序错误就把他们交换过来。走访数列的工作是重复地进行指导没有需要交换，也就是说该数列已经排序完成。这个算法的名字由来是因为越小的元素会经由交换慢慢“浮”到数列的顶端。

算法描述

比较相邻的元素。如果第一个比第二个大，就交换他们两个；
对每一对相邻元素做同样工作，从开始第一队到结尾的最后一对，这样在最后的元素应该就会是最大的数；
针对所有的元素重复以上的步骤，除了最后一个；
重复步骤1~3，直到排序完成。

动画演示

代码实现

JavaScript

function bubbleSort(arr) {
    var len = arr.length;
    for (var i = 0; i < len - 1; i++) {
        for (var j = 0; j < len - 1 - i; j++) {
            if (arr[j] > arr[j+1]) {        // 相邻元素两两对比
                var temp = arr[j+1];        // 元素交换
                arr[j+1] = arr[j];
                arr[j] = temp;
            }
        }
    }
    return arr;
}

Python

def bubble_sort(blist):
    count = len(blist)
    for i in range(0, count):
        for j in range(i + 1, count):
            if blist[i] > blist[j]:
                blist[i], blist[j] = blist[j], blist[i]
    return blist

blist = bubble_sort([4,5,6,7,3,2,6,9,8])
print(blist)

def bubble_sort(origin_items, *, comp=lambda x, y: x > y):
    """冒泡排序"""
    items = origin_items[:]
    for i in range(1, len(items)):
        swapped = False
        for j in range(i - 1, len(items) - i):
            if comp(items[j], items[j + 1]):
                items[j], items[j + 1] = items[j + 1], items[j]
                swapped = True
        if swapped:
            swapped = False
            for j in range(len(items) - i - 1, i - 1, -1):
                if comp(items[j - 1], items[j]):
                    items[j], items[j - 1] = items[j - 1], items[j]
                    swapped = True
        if not swapped:
            break
    return items

Go Lang

二.选择排序（Selection Sort）

选择排序（Selection-sort）是一种简单直观的排序算法。他的工作原理：首先是在末排序序列中找到最小（大）元素，存放到排序序列的起始位置，然后，再从剩余莫排序元素中继续寻找最小（大）元素，然后放到已排序序列的末尾。以此类推，直到所有元素均排序完毕。

算法描述

n个记录的直接选择排序可以经过n-1趟直接选择排序得到所有有序结果。

具体算法描述如下：

初始状态：无序区为R[1..n],有序为空。
第i趟排序(i=1,2,3,…n-1)开始时，当前有序区和无序区分别为R[1..i-1]和R(i..n)。该躺排序从当前无序区中-选出关键字最小的记录，R[K]，将他与无序区的第1个记录R交换，使R[1..i]和R[i+1..n]分别变为记录个数增加1个的寻有序区和记录数减少的新无序区；
n-1趟结束，数组有序化了。

动图演示

代码实现

JavaScript

function selectionSort(arr) {
    var len = arr.1length;
    var minIndex, temp;
    for (var i = 0; i < len - 1; i++) {
        minIndex = i;
        for (var j = i + 1; j < len; j++) {
            if (arr[j] < arr[minIndex]) {     // 寻找最小的数
                minIndex = j;                 // 将最小数的索引保存
            }
        }
        temp = arr[i];
        arr[i] = arr[minIndex];
        arr[minIndex] = temp;
    }
    return arr;
}

Python

def select_sort(slist, comp=lambda x, y: x > y):
    for i in range(len(slist) - 1):
        x = i
        for j in range(i + 1, len(slist)):
            if comp(slist[j], slist[x]):
                x = j
        slist[i], slist[x] = slist[x], slist[i]
    return slist
if __name__ == '__main__':
    slist = [4,5,6,7,3,2,6,9,8]
    print(select_sort(slist))

Go Lang

1
2

算法分析

表现最稳定的排序算法之一，因为无论什么数据进入都是O(n²)的时间复杂度，所以用到他的时候，数据规模越小越好。唯一的好处可能就是不占用额外的内存空间了吧。理论上讲，选择排序可能也是平时排序一般人想到用到的最多的排序方法了吧。

三.插入排序（Insertion Sort）

插入排序（Insertion-Sort）的算法描述是一种简单直观的排序算法。他的工作原理是通过构建有序序列，对于未排序的数据在已排序序列中从后向前扫描，找到相应位置并插入。

算法描述

一般来说，插入排序都采用in-place在数组上实现。

具体算法描述如下：

从第一个元素开始，该元素可以认为已经被排序；
取出下一个元素，在已经排序的元素序列中从后向前扫描；
如果该元素（已排序）大于新元素，将该元素移到下一个位置；
重复步骤3，直到找到已排序的元素小于或者等于新元素的位置；
将新元素插入到该位置后；
重复步骤2~5。

动图演示

代码实现

JavaScript

function insertionSort(arr) {
    var len = arr.length;
    var preIndex, current;
    for (var i = 1; i < len; i++) {
        preIndex = i - 1;
        current = arr[i];
        while (preIndex >= 0 && arr[preIndex] > current) {
            arr[preIndex + 1] = arr[preIndex];
            preIndex--;
        }
        arr[preIndex + 1] = current;
    }
    return arr;

Python

1
2

go Lang

1
2

算法分析

插入排序在实现上，通常采用in-place排序（即只需要O(1)的额外空间排序），因而在从后向前扫描过程中，需要反复把已排序元素逐步向后挪位，为最新元素提供插入空间。

四.希尔排序（Shell Sort）

1959年Shell发明，第一个突破O(n²)的排序算法，简单插入排序的改进版。他与插入排序的不同之处在于，他会有限比较距离较近的元素。希尔排序又叫缩小增量排序。

算法描述

现将整个待排序的记录序列分割成若干子序列分别进行直接插入排序，具体算法描述：

选择一个增量序列t1，t2，….tk，其中tj，tk=1;
安增量序列个数k，对序列进行k趟排序；
每趟排序，根据对应的增量 ti ，将待排序列分隔成若干长度为m的子序列，分别对个子表进行直接插入排序。仅增量因子为1时，整个序列作为一个表来处理，表长度即为序列的长度。

代码实现

JavaScript

// 修改于 2019-03-06
function shellSort(arr) {
    var len = arr.length;
    for (var gap = Math.floor(len / 2); gap > 0; gap = Math.floor(gap / 2)) {
        // 注意：这里和动图演示的不一样，动图是分组执行，实际操作是多个分组交替执行
        for (var i = gap; i < len; i++) {
            var j = i;
            var current = arr[i];
            while (j - gap >= 0 && current < arr[j - gap]) {
                 arr[j] = arr[j - gap];
                 j = j - gap;
            }
            arr[j] = current;
        }
    }
    return arr;
}

Python

1
2

go Lang

1
2

算法分析

希尔排序的核心在于间隔序列的设定。既可以提前设定好间隔序列，也可以动态的定义间隔序列。动态定义间隔序列的算法时《算法（第四版）》的合著者Robert Sedgewick提出的。

五.归并排序（Merge Sort）

归并排序是建立在归并操作上的一种有效的排序算法。该算法是采用分治法（Divide and Conquer）的一个非常典型的应用。将已有序的子序列合并，得到完全有序的序列；即先使每一个子序列有序，再使子序列段间有序。若将两个有序表合并成一个有序表，成为2-路归并。

算法描述

把长度为n的输入序列分成两个长度为n/2的子序列；
对这两个子序列分别采用归并排序；
将两个排序好的子序列合并成一个最终的排序序列。

动图演示

代码实现

JavaScript

function mergeSort(arr) {
    var len = arr.length;
    if (len < 2) {
        return arr;
    }
    var middle = Math.floor(len / 2),
        left = arr.slice(0, middle),
        right = arr.slice(middle);
    return merge(mergeSort(left), mergeSort(right));
}
 
function merge(left, right) {
    var result = [];
    while (left.length>0 && right.length>0) {
        if (left[0] <= right[0]) {
            result.push(left.shift());
        } else {
            result.push(right.shift());
        }
    }
    while (left.length)
        result.push(left.shift());
    while (right.length)
        result.push(right.shift());
    return result;
}

Python

1
2

go Lang

1
2

算法分析

归并排序是一种稳定的排序算法。和选择排序一样，归并排序的性能不受数据的影响，但表现比选择排序好的多，因为始终都是O(nlogn)的时间复杂度。代价是需要额外的内存空间。

六.快速排序（Quick Sort）

快速排序的基本思想：通过一趟排序将待排记录分隔成独立的两部分，其中一部分记录的关键字均比另一部分的关键字小，则可分别对这两部分记录继续进行排序，已达到整个序列有序。

算法描述

快速排序使用分治法来把一个串（list）分为两个串（sub-lists）。

具体算法描述如下：

从数列中挑一个元素，成为”基准”（pivot）;
重新排序数列，所有元素比基准小的摆放在基准前面，所有元素比基准值大的摆在基准的后面（相同的数可以放到任一边）。在这个分区退出之后，该基准就处于数列的中间位置。这个成为分区（partition）操作；
递归地（recursive）把小于基准值元素的字数列和大于准元素的子数列排序。

动图演示

代码实现

JavaScript

function quickSort(arr, left, right) {
    var len = arr.length,
        partitionIndex,
        left = typeof left != 'number' ? 0 : left,
        right = typeof right != 'number' ? len - 1 : right;
 
    if (left < right) {
        partitionIndex = partition(arr, left, right);
        quickSort(arr, left, partitionIndex-1);
        quickSort(arr, partitionIndex+1, right);
    }
    return arr;
}
 
function partition(arr, left ,right) {     // 分区操作
    var pivot = left,                      // 设定基准值（pivot）
        index = pivot + 1;
    for (var i = index; i <= right; i++) {
        if (arr[i] < arr[pivot]) {
            swap(arr, i, index);
            index++;
        }       
    }
    swap(arr, pivot, index - 1);
    return index-1;
}
 
function swap(arr, i, j) {
    var temp = arr[i];
    arr[i] = arr[j];
    arr[j] = temp;
}

Python

1
2

go Lang

1
2

七.堆排序（Heap Sort）

堆排序（Heapsort）是指利用堆这种数据结构所设计的一种排序算法。堆积是一个近似完全二叉树的结构，并同时满足堆积的性质：既子节点的键值或索引总是小于（或者大于）他的父节点。

算法描述

将初始待排序关键字序列（R1，R2…Rn）构建成大顶堆，此堆为初始的无序区；
将堆顶元素R[1]与最后一个元素R[n]交换，此时得到新的无序区（R1，R2，…Rn-1）和新的有序区（Rn），且满足R[1,2….n-1] <= R[n]；
由于交换后新的堆顶R[1]可能违反堆的性质，因此需要对当前无序区（R1，R2，…Rn-1）调整为新堆，然后再次将R[1]与无序区最后一个元素交换，得到新的无序区（R1，R2….Rn-2）和新的有序区（Rn-1,Rn）。不断重复此过程知道有序区的元素个数为n-1,则整个排序过程完成。

动图演示

代码实现

JavaScript

var len;    // 因为声明的多个函数都需要数据长度，所以把len设置成为全局变量
 
function buildMaxHeap(arr) {   // 建立大顶堆
    len = arr.length;
    for (var i = Math.floor(len/2); i >= 0; i--) {
        heapify(arr, i);
    }
}
 
function heapify(arr, i) {     // 堆调整
    var left = 2 * i + 1,
        right = 2 * i + 2,
        largest = i;
 
    if (left < len && arr[left] > arr[largest]) {
        largest = left;
    }
 
    if (right < len && arr[right] > arr[largest]) {
        largest = right;
    }
 
    if (largest != i) {
        swap(arr, i, largest);
        heapify(arr, largest);
    }
}
 
function swap(arr, i, j) {
    var temp = arr[i];
    arr[i] = arr[j];
    arr[j] = temp;
}
 
function heapSort(arr) {
    buildMaxHeap(arr);
 
    for (var i = arr.length - 1; i > 0; i--) {
        swap(arr, 0, i);
        len--;
        heapify(arr, 0);
    }
    return arr;
}

Python

1
2

go Lang

1
2

八.计数排序（Countiong Sort）

计数排序不是基于比较的排序算法，其核心在于将输入的数据值转换为键存储在额外开辟的数组空间中。作为一种线性时间复杂度的排序，计数排序的要求输入的数据必须是有确定范围的整数。

算法描述

找出待排序的数组中最大和最小的元素。
统计数组中每个值为i的元素出现次数，存入数组C的第i项；
对所有的技术累加（从C中的第一个元素开始，每一项和前一项相加）；
反向填充目标数组：将每个元素i放在新数组的C(i)项，每放一个元素就将C(i)减去1。

动图演示

代码实现

JavaScript

function countingSort(arr, maxValue) {
    var bucket = new Array(maxValue + 1),
        sortedIndex = 0;
        arrLen = arr.length,
        bucketLen = maxValue + 1;
 
    for (var i = 0; i < arrLen; i++) {
        if (!bucket[arr[i]]) {
            bucket[arr[i]] = 0;
        }
        bucket[arr[i]]++;
    }
 
    for (var j = 0; j < bucketLen; j++) {
        while(bucket[j] > 0) {
            arr[sortedIndex++] = j;
            bucket[j]--;
        }
    }
 
    return arr;
}

Python

1
2

go Lang

1
2

算法分析

计数排序是一个稳定的排序算法。当输入的元素时n个0到k之间的整数时，时间复杂度是O(n+k)，空间复杂度也是O(n+k)，其排序速度快于任何比较排序算法。当k不是很大且序列比较集中时，计数排序是一个很有效的排序算法。

九.桶排序（Bucker Sort）

桶排序是计数排序的升级版。他利用了函数的映射关系，高效与否的关键就在于这个映射函数的确定。桶排序（Bucket sort）的工作原理：假设输入数据服从均匀分布，将数据分到有限数量的桶里，每个桶在分别排序（有可能在使用别的排序算法或是以递归方式来继续使用桶排序进行排）。

算法描述

设置一个定量的数组当做桶；
遍历输入数据，并且把数据一个一个放到对应的桶里去；
对每个不是空的桶进行排序；
从不是空的桶里把排好序的数据拼接起来。

图片演示

代码实现

JavaScript

function bucketSort(arr, bucketSize) {
    if (arr.length === 0) {
      return arr;
    }
 
    var i;
    var minValue = arr[0];
    var maxValue = arr[0];
    for (i = 1; i < arr.length; i++) {
      if (arr[i] < minValue) {
          minValue = arr[i];                // 输入数据的最小值
      } else if (arr[i] > maxValue) {
          maxValue = arr[i];                // 输入数据的最大值
      }
    }
 
    // 桶的初始化
    var DEFAULT_BUCKET_SIZE = 5;            // 设置桶的默认数量为5
    bucketSize = bucketSize || DEFAULT_BUCKET_SIZE;
    var bucketCount = Math.floor((maxValue - minValue) / bucketSize) + 1;  
    var buckets = new Array(bucketCount);
    for (i = 0; i < buckets.length; i++) {
        buckets[i] = [];
    }
 
    // 利用映射函数将数据分配到各个桶中
    for (i = 0; i < arr.length; i++) {
        buckets[Math.floor((arr[i] - minValue) / bucketSize)].push(arr[i]);
    }
 
    arr.length = 0;
    for (i = 0; i < buckets.length; i++) {
        insertionSort(buckets[i]);                      // 对每个桶进行排序，这里使用了插入排序
        for (var j = 0; j < buckets[i].length; j++) {
            arr.push(buckets[i][j]);                     
        }
    }
 
    return arr;
}

Python

1
2

go Lang

1
2

算法分析

桶排序最好情况下使用线性时间O(n)，桶排序的时间复杂度，取决于对各个桶之间数据进行排序的时间复杂度，因为其他部分的时间复杂度都是O(n)。很显然，桶划分的越小，各个桶之间的数据越少，排序所用的时间也会越少。但响应的空间消耗就会增大。

十.基数排序（Radix Sort）

基数排序是按照低位先排序，然后收集；在按照高位排序，然后再收集；以此类推，知道最高位。有时候有些属性是有优先级顺序的，先按低优先级排序，再按高优先级排序。最后的次序就是高优先级高的在前，高优先级相同的低优先级高的在前。

算法描述

取得数组中的最大数，并取得位数；
arr为原始数组，并最低位开始取每个位组成radix数组；
对radix进行排序（利用计数排序适用于小范围数的特点）；

动图演示

代码实现

JavaScript

var counter = [];
function radixSort(arr, maxDigit) {
    var mod = 10;
    var dev = 1;
    for (var i = 0; i < maxDigit; i++, dev *= 10, mod *= 10) {
        for(var j = 0; j < arr.length; j++) {
            var bucket = parseInt((arr[j] % mod) / dev);
            if(counter[bucket]==null) {
                counter[bucket] = [];
            }
            counter[bucket].push(arr[j]);
        }
        var pos = 0;
        for(var j = 0; j < counter.length; j++) {
            var value = null;
            if(counter[j]!=null) {
                while ((value = counter[j].shift()) != null) {
                      arr[pos++] = value;
                }
          }
        }
    }
    return arr;
}

Python

1
2

go Lang

1
2

算法分析

基数排序基于分别排序，分别收集，所以是稳定的。但基数排序的性能比桶排序要略差，每一次关键字的桶分配都需要O(n)的时间复杂度，而且分配之后得到新的关键字序列有需要O(n)的时间复杂度。假如待排数据可以分为d个关键字，则基数排序的时间复杂度将是O(d*2n)，当然d要远远小于n，因此基本上还是线性级别的。

基数排序的空间复杂度为O(n+k)，其中k为桶的数量。一般来说n>>k，因此额外空间需要大概n个左右。