[数据结构]——堆(Heap)、堆排序和TopK

堆(heap),是一种特殊的数据结构。之所以特殊,因为堆的形象化是一个棵完全二叉树,并且满足任意节点始终不大于(或者不小于)左右子节点(有别于二叉搜索树Binary Search Tree)。其中,前者称为小顶堆(最小堆,堆顶为最小值),后者为大顶堆(最大堆,堆顶为最大值)。然而更加特殊的是,通常使用数组去存储堆,而不是二叉树。关于完全二叉树,可以参见另一篇博文http://www.cnblogs.com/eudiwffe/p/6207196.html

// Heap is a sepcial complete binary tree(CBT)
/* Heap sketch is a CBT, but stored in Array
* 9 ---> maxtop 7 7
* / \ / \ / \
* / \ / \ / \
* 7 8 4 8 4 5
* / \ / \ / \ / /
* / \ / \ / \ / /
* 5 3 2 4 3 5 3 6
*
* (1) (2) (3)
* maxtop heap not maxtop(mintop) not heap(CBT)
* */

具体而言,对于长度为N的数组A中的任意一个元素i(0<=i<N/2),其左右子节点为i*2+1和i*2+2。以大顶堆为例,该堆始终满足:

A[i]>=A[i*2+1] && A[i]>=A[i*2+2]。(下文不做特殊说明均以大顶堆为例

如何创建一个堆呢?对于给定的一个数组arr[]和长度n,一般使用在数组上就地堆化。堆化的过程实际是调整堆的过程。有自上到下和自下到上两种堆化方法。

1)自上到下构建堆

// Method 1
// Create (Initialize) Heap, from top to bottom
void heap_create(int arr[], int n)
{
int i; // from top to bottom
for(i=1; i<n; heap_adjust(arr,i++));
}

自上到下很好理解,首先假设当前数组arr的前i个元素已经满足堆性质(arr[0]只有一个元素肯定满足);然后每次在数组之后添加一个元素A[i],使得新的数组A[0~i]满足堆化性质,其中heap_adjust可以调整当前节点i使其满足堆化;直到i为n时,调整完毕,即堆化完毕。其中heap_adjust如下:

void heap_adjust(int arr[], int c)
{ // c - children, p - parent
int p = (c-1)>>1, temp;
// heap adjust from maxtop, from bottom to top
for(; arr[p]<arr[c]; c=p, p=(c-1)>>1){
temp = arr[p];
arr[p] = arr[c];
arr[c] = temp;
}
} // Time O(logn)

调整代码也很好理解,首先找到当前节点c的父节点p,如果arr[p]<arr[c],则交换,然后继续寻找p的父节点进行调整;否则,调整完毕(因为前文已经假设,数组的前i-1已经满足堆化,新添一个元素i进行调整)。

很有意思,构建堆时使用自上到下,那么调整堆就必须自下到上。

2)自下到上构建堆

// Method 2
// Create (Initialize) Heap, from bottom to top
void heap_create(int arr[], int n)
{
int i; // from bottom to top
for(i=(n>>1)-1; i>-1; heap_adjust(arr,i--,n));
}

此处自下到上的“下”,并不是数组最后一个元素,而是最后一个父节点n/2-1。也就是以父节点为线索,逐渐调整该节点的子节点。因此,此处heap_adjust是自上到下的调整,如下

void heap_adjust(int arr[], int p, int n)
{ // c - children, p - parent
int maxid=p, temp;
// heap_adjust for maxtop, from top to bottom
for(; p<(n>>1); p=maxid){
if ((p<<1)+1<n && arr[(p<<1)+1]>arr[maxid])
maxid = (p<<1)+1;
if ((p<<1)+2<n && arr[(p<<1)+2]>arr[maxid])
maxid = (p<<1)+2;
if (maxid == p) break;
// swap arr[maxid] and arr[p]
temp = arr[maxid];
arr[maxid] = arr[p];
arr[p] = temp;
}
} // Time O(logn)

首先保证当前p节点是作为父节点,然后在找到其子节点p*2+1和p*2+2,在三者中选择最大的一个maxid,然后交换;否则调整结束。

两种构建堆的方法各有利弊,方法1)是逐渐增加新节点,堆的节点增加方法数组尾部;方法2)是逐渐删除堆顶节点,然后在剩下的节点中寻找最大的放在堆顶(一般会将数组尾元素与堆顶交换,以保证其符合完全二叉树结构)。堆的调整时间复杂度均为O(logn),堆的创建时间复杂度均为O(nlogn)。

3)堆排序

堆的常见应用是堆排序。堆排序方法十分巧妙,无须额外空间,直接在原数组中进行堆排序。对于给定的数组arr[]以及其长度n,首先进行原地堆化,上面两种方法均可,推荐第二种;然后每次将堆顶元素与数组尾元素交换,即arr[0]与arr[n-1]交换;将数组arr[]以及其长度n-1进行堆调整,此调整使用2)中的调整方法;反复迭代,直到调整数组的长度为1为止,排序完毕。

以非降序排序为例,每次删除堆顶的元素放入数组尾部,所以需要使用大顶堆。

// Heap Sort - ascending order
void heap_sort(int arr[], int n)
{
int i, temp;
// init maxtop heap, using method 2 (from bottom to top)
for (i=(n>>1)-1; i>-1; heap_adjust(arr,i--,n));
for (i=n-1; i>0; heap_adjust(arr,0,i--)){
// mv heap top to end (heap top is max)
temp = arr[0];
arr[0] = arr[i];
arr[i] = temp;
}
} // Time O(nlogn)

每次调整堆,只需将堆顶调整即可。堆化时间复杂度为O(nlogn),排序时间复杂度为O(nlogn),总的时间复杂度为O(nlogn)。因为调整堆必须使用自上到下的方法调整heap_adjust,所以使用方法2)进行堆化和调整,十分巧妙。

4)TopK问题

TopK问题描述:在N个无序元素中,找到最大的K个(或最小的K)。

如果使用排序类似的算法,其时间复杂度为O(NlogN)+O(K)。当N远大于K时,例如N为1e9,而K为10时,这种方法显然太慢。使用堆化和堆调整则可以快速解决。以下以寻找最小的K个元素为例

设有一个K长度的最大堆,如果在数组中有一个元素小于该堆顶,则该元素有可能为寻找的最小K元素之一。则将该元素替换堆顶,然后进行堆调整。反复迭代,直到遍历了数组中的所有元素。此时,该长度为K的最大堆就是待寻找的TopK。

// TopK problem : find max k (or min k) elements from unordered set
// eg. find min k elements from arr[], stored in res[]
void topk(int arr[], int n, int res[], int k)
{
int i; // copy and k elements to res
for (i=0; i<k; res[i]=arr[i],++i);
// make maxtop heap for res[]
for(i=(k>>1)-1; i>-1; heap_adjust(res,i--,k));
for(i=k; i<n; ++i){
if (res[0] <= arr[i]) continue;
// now arr[i] < heap top
res[0] = arr[i];
heap_adjust(res,0,k);
}
} // Time O(nlogk)

其中arr[]为原始无序数据,res[]为寻找结果。堆调整使用2)中的调整方法。首先任意选择无序数组arr[]中的K个元素,对其进行堆化;然后从K开始遍历无序数组arr[],每次将比堆顶小的放入堆顶,然后堆调整;最后得到堆res[]为TopK结果。其时间复杂度:创建K个元素堆O(KlogK),寻找最小K元素O((N-K)logK),总时间复杂度为O(NlogK),(当N远大于K时)。

对于寻找最大K个元素,则需要构建最小堆,以及最小堆的堆调整,不再赘述。

注:本文涉及的源码:https://git.oschina.net/eudiwffe/codingstudy/blob/master/src/heap/heap.c

上一篇:优先队列与TopK


下一篇:Thinkphp 缓存微信jssdk相关认证参数