1. 排序
2. 搜索
1. 排序
排序算法（英语：Sorting algorithm）是一种能将一串数据依照特定顺序进行排列的一种算法。
排序算法的稳定性
稳定性：稳定排序算法会让原本有相等键值的纪录维持相对次序。也就是如果一个排序算法是稳定的，当有两个相等键值的纪录R和S，且在原本的列表中R出现在S之前，在排序过的列表中R也将会是在S之前。
当相等的元素是无法分辨的，比如像是整数，稳定性并不是一个问题。然而，假设以下的数对将要以他们的第一个数字来排序。
(4, 1) (3, 1) (3, 7) (5, 6)
在这个状况下，有可能产生两种不同的结果，一个是让相等键值的纪录维持相对的次序，而另外一个则没有：
(3, 1) (3, 7) (4, 1) (5, 6) （维持次序） (3, 7) (3, 1) (4, 1) (5, 6) （次序被改变）
不稳定排序算法可能会在相等的键值中改变纪录的相对次序，但是稳定排序算法从来不会如此。不稳定排序算法可以被特别地实现为稳定。作这件事情的一个方式是人工扩充键值的比较，如此在其他方面相同键值的两个对象间之比较，（比如上面的比较中加入第二个标准：第二个键值的大小）就会被决定使用在原先数据次序中的条目，当作一个同分决赛。然而，要记住这种次序通常牵涉到额外的空间负担。
常见算法效率比较
性能从优到劣：
1.1 冒泡排序
介绍
冒泡排序（英语：Bubble Sort）是一种简单的排序算法。它重复地遍历要排序的数列，一次比较两个元素，如果他们的大小顺序有误则把它们交换过来。遍历数列的工作是重复地进行直到没有元素再需要交换，也就是说该数列已经排序完成。这个算法的名字由来是因为越小的元素会经由交换慢慢“浮”到数列的顶端。
冒泡排序算法的运作如下：
- 比较相邻的元素。如果第一个比第二个大（升序），就交换他们两个。
- 对每一对相邻元素作同样的工作，从开始第一对到结尾的最后一对。这步做完后，最后的元素会是最大的数。
- 针对所有的元素重复以上的步骤，除了最后一个。
- 持续每次对越来越少的元素重复上面的步骤，直到没有任何一对元素需要比较。
交换过程图示（第一次遍历）
那么我们需要进行n-1次冒泡过程，每次对应的比较次数如下图所示：
演示效果
代码实现
1 def bubble_sort(alist): 2 "冒泡排序" 3 n = len(alist) 4 for j in range(n-1): # 控制遍历的次数（图示中的Pass） 5 count = 0 6 for i in range(n-1-j): # 每次遍历需要比较的次数，逐渐减少（图示中的Comparisons） 7 if alist[i] > alist[i+1]: 8 alist[i], alist[i+1] = alist[i+1], alist[i] 9 count += 1 10 # 优化算法复杂度，若第一遍遍历时没有交换元素，即代表元素本身已排好序。例如[1, 2, 3] 11 # 无需再进行第二次遍历，即可直接退出 12 if count == 0: 13 return 14 15 16 # j: 0 i: range(n-1-0) = n-1 17 # j: 1 i: range(n-1-1) = n-2 18 # j: 2 i: range(n-1-2) = n-3 19 # ... 20 # j: n-2 i: range(n-1-(n-2)) = 1 21 22 23 if __name__ == "__main__": 24 li = [1, 21, 4, 2, 56, 2, 34, 67] 25 bubble_sort(li) 26 print(li) # [1, 2, 2, 4, 21, 34, 56, 67]
时间复杂度
- 最优时间复杂度：O(n)（表示第一次遍历发现没有任何可以交换的元素，则排序结束）
- 最坏时间复杂度：O(n^2)
- 稳定性：稳定
1.2 选择排序
选择排序（Selection sort）是一种简单直观的排序算法。它的工作原理如下：
- 在未排序序列中找到最小（大）元素，存放到排序序列的起始位置。
- 从剩余未排序元素中继续寻找最小（大）元素，然后放到已排序序列的末尾。
- 以此类推，直到所有元素均排序完毕。
选择排序的主要优点与数据移动有关。如果某个元素位于正确的最终位置上，则它不会被移动。选择排序每次交换一对元素，它们当中至少有一个将被移到其最终位置上，因此对n个元素的表进行排序总共进行至多n-1次交换。在所有的完全依靠交换去移动元素的排序方法中，选择排序属于非常好的一种。
排序过程图示
红色表示当前最小值，黄色表示已排序序列，蓝色表示当前位置。
演示效果
代码实现
1 def selected_sort(alist): 2 n = len(alist) 3 # 需要进行n-1次选择操作 4 for i in range(n-1): 5 # 记录最小位置 6 min_index = i 7 # 从i+1位置到末尾，选择出最小的元素 8 for j in range(i+1, n): 9 if alist[j] < alist[min_index]: 10 min_index = j 11 # 如果选择出的元素不在正确位置，进行交换 12 if min_index != i: 13 alist[i], alist[min_index] = alist[min_index], alist[i] 14 15 16 alist = [54, 226, 93, 17, 77, 31, 44, 55, 20] 17 selected_sort(alist) 18 print(alist)
时间复杂度
- 最优时间复杂度：O(n^2)
- 最坏时间复杂度：O(n^2)
- 稳定性：不稳定（考虑升序每次选择最大的情况）
1.3 插入排序
插入排序（英语：Insertion Sort）是一种简单直观的排序算法。它的工作原理是通过构建有序序列，对于未排序数据，在已排序序列中从后向前扫描，找到相应位置并插入。插入排序在实现上，在从后向前扫描过程中，需要反复把已排序元素逐步向后挪位，为最新元素提供插入空间。
排序过程图示
演示效果
代码实现
1 def insert_sort(alist): 2 n = len(alist) 3 # 从第二个位置开始（未排序数据），即把下标为1的元素开始向前插入（有序数据） 4 for i in range(1, n): 5 # 从第i个元素开始向前比较，如果小于前一个元素，则交换 6 for j in range(i, 0, -1): 7 if alist[j] < alist[j-1]: 8 alist[j], alist[j-1] = alist[j-1], alist[j] 9 10 11 alist = [54, 226, 93, 17, 77, 31, 44, 55, 20] 12 insert_sort(alist) 13 print(alist)
时间复杂度
- 最优时间复杂度：O(n)（升序排列，序列已经处于升序状态）
- 最坏时间复杂度：O(n^2)
- 稳定性：稳定
1.4 希尔排序
希尔排序（Shell Sort）是插入排序的一种。也称缩小增量排序，是直接插入排序算法的一种更高效的改进版本。希尔排序是非稳定排序算法。该方法因DL．Shell于1959年提出而得名。 希尔排序是把记录按下标的一定增量分组，对每组使用直接插入排序算法排序；随着增量逐渐减少，每组包含的关键词越来越多，当增量减至1时，整个文件恰被分成一组，算法便终止。
希尔排序过程
希尔排序的基本思想是：将数组列在一个表中并对列分别进行插入排序，重复这过程，不过每次用更长的列（步长更长了，列数更少了）来进行。最后整个表就只有一列了。将数组转换至表是为了更好地理解这算法，算法本身还是使用数组进行排序。
例如，假设有这样一组数 [13 14 94 33 82 25 59 94 65 23 45 27 73 25 39 10 ]，如果我们以步长为5开始进行排序，我们可以通过将这列表放在有5列的表中来更好地描述算法，这样他们就应该看起来是这样（竖着的元素是步长组成）：
13 14 94 33 82 25 59 94 65 23 45 27 73 25 39 10
然后我们对每列进行排序：
10 14 73 25 23 13 27 94 33 39 25 59 94 65 82 45
将上述四行数字，依序接在一起时我们得到：[ 10 14 73 25 23 13 27 94 33 39 25 59 94 65 82 45 ]。这时10已经移至正确位置了，然后再以3为步长进行排序：
10 14 73 25 23 13 27 94 33 39 25 59 94 65 82 45
排序之后变为：
10 14 13 25 23 33 27 25 59 39 65 73 45 94 82 94
最后以1步长进行排序（此时就是简单的插入排序了）。
示例分析
演示效果
代码实现
1 def shell_sort(alist): 2 n = len(alist) 3 # 初始步长 4 gap = n / 2 5 while gap > 0: 6 # 按步长进行插入排序 7 for i in range(gap, n): 8 j = i 9 # 插入排序 10 while j>=gap and alist[j-gap] > alist[j]: 11 alist[j-gap], alist[j] = alist[j], alist[j-gap] 12 j -= gap 13 # 得到新的步长 14 gap = gap / 2 15 16 alist = [54,26,93,17,77,31,44,55,20] 17 shell_sort(alist) 18 print(alist)
时间复杂度
- 最优时间复杂度：根据步长序列的不同而不同
- 最坏时间复杂度：O(n2)
- 稳定想：不稳定
1.5 快速排序
快速排序（英语：Quicksort），又称划分交换排序（partition-exchange sort），通过一趟排序将要排序的数据分割成独立的两部分，其中一部分的所有数据都比另外一部分的所有数据都要小，然后再按此方法对这两部分数据分别进行快速排序，整个排序过程可以递归进行，以此达到整个数据变成有序序列。
步骤为：
- 从数列中挑出一个元素，称为“基准”(pivot)。
- 重新排序数列，所有元素比基准值小的摆放在基准前面，所有元素比基准值大的摆在基准的后面（相同的数可以到任一边）。在这个分区结束之后，该基准就处于数列的中间位置。这个称为分区（partition）操作。
- 递归地（recursive）把小于基准值元素的子数列和大于基准值元素的子数列排序。
递归的最底部情形，是数列的大小是零或一，也就是永远都已经被排序好了。虽然一直递归下去，但是这个算法总会结束，因为在每次的迭代（iteration）中，它至少会把一个元素摆到它最后的位置去。
排序过程图示
演示效果
代码实现
方式一：改变原列表
1 def quick_sort(alist, start, end): 2 # 递归的退出条件 3 if start >= end: 4 return 5 # 设定起始元素为要寻找位置的基准元素 6 mid = alist[start] 7 # low为从左往右的游标 8 low = start 9 # high为从右往左的游标 10 high = end 11 # 当low与high未重合 12 while low < high: 13 # 当low与high未重合时，若high指向的元素不比基准元素小，则high向左移动一位 14 while low < high and alist[high] >= mid: 15 high -= 1 16 # 若high指向的元素比基准元素小，则推出循环，交换元素位置 17 alist[low] = alist[high] 18 # 当low与high未重合时，若low指向的元素比基准元素小，则low向右移动一位 19 while low < high and alist[low] < mid: 20 low += 1 21 # 若low指向的元素比基准元素大，则推出循环，交换元素位置 22 alist[high] = alist[low] 23 # 当low与high重合，推出循环，此时所指位置为基准元素的正确位置 24 # 将基准元素放到该位置 25 alist[low] = mid 26 # 对基准元素左边的子序列进行快速排序 27 quick_sort(alist, start, low-1) 28 # 对基准元素右边的子序列进行快速排序 29 quick_sort(alist, low+1, end) 30 31 32 alist = [54, 226, 93, 17, 77, 31, 44, 55, 20] 33 quick_sort(alist, 0, len(alist)-1) 34 print(alist)
方式二：不改变原列表
1 def quick_sort(alist): 2 if len(alist) <= 1: 3 return alist 4 pivot = alist[0] 5 left = [x for x in alist if x < pivot] 6 middle = [x for x in alist if x == pivot] 7 right = [x for x in alist if x > pivot] 8 return quick_sort(left) + middle + quick_sort(right) 9 10 11 alist = [54, 226, 93, 17, 77, 31, 44, 55, 20] 12 print(quick_sort(alist))
时间复杂度
- 最优时间复杂度：O(nlogn)
- 最坏时间复杂度：O(n^2)
- 稳定性：不稳定
从一开始快速排序平均需要花费O(n log n)时间的描述并不明显。但是不难观察到的是分区运算，数组的元素都会在每次循环中走访过一次，使用O(n)的时间。在使用结合（concatenation）的版本中，这项运算也是O(n)。
在最好的情况，每次我们运行一次分区，我们会把一个数列分为两个几近相等的片段。这个意思就是每次递归调用处理一半大小的数列。因此，在到达大小为一的数列前，我们只要作log n次嵌套的调用。这个意思就是调用树的深度是O(log n)。但是在同一层次结构的两个程序调用中，不会处理到原来数列的相同部分；因此，程序调用的每一层次结构总共全部仅需要O(n)的时间（每个调用有某些共同的额外耗费，但是因为在每一层次结构仅仅只有O(n)个调用，这些被归纳在O(n)系数中）。结果是这个算法仅需使用O(nlogn)时间。
1.6 归并排序
归并排序是采用分治法的一个非常典型的应用。归并排序的思想就是先递归分解数组，再合并数组。
将数组分解最小之后，然后合并两个有序数组，基本思路是比较两个数组的最前面的数，谁小就先取谁，取了后相应的指针就往后移一位。然后再比较，直至一个数组为空，最后把另一个数组的剩余部分复制过来即可。
归并排序的分析
代码实现
1 def merge_sort(alist): 2 """归并排序""" 3 n = len(alist) 4 if n <= 1: 5 return alist 6 mid = n // 2 7 # left 采用归并排序后形成的有序的新的列表 8 left_li = merge_sort(alist[:mid]) 9 # right 采用归并排序后形成的有序的新的列表 10 right_li = merge_sort(alist[mid:]) 11 12 # 将两个有序的子序列合并为一个新的整体 13 # merge(left, right) 14 left_pointer, right_pointer = 0, 0 15 result = [] 16 17 while left_pointer < len(left_li) and right_pointer < len(right_li): 18 if left_li[left_pointer] <= right_li[right_pointer]: 19 result.append(left_li[left_pointer]) 20 left_pointer += 1 21 else: 22 result.append(right_li[right_pointer]) 23 right_pointer += 1 24 25 result += left_li[left_pointer:] 26 result += right_li[right_pointer:] 27 return result 28 29 30 if __name__ == "__main__": 31 li = [54, 26, 93, 17, 77, 31, 44, 55, 20] 32 print(li) 33 sorted_li = merge_sort(li) 34 print(li) 35 print(sorted_li)
时间复杂度
- 最优时间复杂度：O(nlogn)
- 最坏时间复杂度：O(nlogn)
- 稳定性：稳定
2. 搜索
搜索是在一个项目集合中找到一个特定项目的算法过程。搜索通常的答案是真的或假的，判断该项目是否存在。
搜索的几种常见方法：顺序查找、二分法查找、二叉树查找、哈希查找等。
二分法查找
二分查找又称折半查找，优点是比较次数少，查找速度快，平均性能好；其缺点是要求待查表为有序表，且插入删除困难。因此，折半查找方法适用于不经常变动而查找频繁的有序列表。
算法步骤：
- 首先，假设表中元素是按升序排列，将表中间位置记录的关键字与查找关键字比较，如果两者相等，则查找成功。
- 否则利用中间位置记录将表分成前、后两个子表，如果中间位置记录的关键字大于查找关键字，则进一步查找前一子表，否则进一步查找后一子表。
- 重复以上过程，直到找到满足条件的记录，使查找成功，或直到子表不存在为止，此时查找不成功。
代码实现
方式一：递归实现
1 def binary_search(alist, item): 2 """二分查找法：递归实现""" 3 n = len(alist) 4 if n > 0: 5 mid = n // 2 6 if item == alist[mid]: 7 return True 8 elif item < alist[mid]: 9 return binary_search(alist[:mid], item) 10 else: 11 return binary_search(alist[mid+1:], item) 12 # n=0，即未找到该元素 13 return False 14 15 16 if __name__ == '__main__': 17 li = [1, 2, 34, 45, 65, 78] 18 print(binary_search(li, 2)) # True 19 print(binary_search(li, 44)) # False
方式二：非递归实现
1 def binary_search(alist, item): 2 """二分查找法：非递归实现""" 3 n = len(alist) 4 first = 0 # 第一个下标 5 last = n - 1 # 最后一个下标 6 while first <= last: 7 mid = (first + last) // 2 # 中间下标 8 if item == alist[mid]: 9 return True 10 elif item < alist[mid]: 11 last = mid - 1 12 else: 13 first = mid + 1 14 return False 15 16 17 if __name__ == '__main__': 18 li = [1, 2, 34, 45, 65, 78] 19 print(binary_search(li, 2)) # True 20 print(binary_search(li, 44)) # False
时间复杂度
- 最优时间复杂度：O(1)
- 最坏时间复杂度：O(logn)