一个n个元素组成的集合中，第K个顺序统计量（Order Statistic）指的是该集合中第K小的元素，我们这里要讨论的是如何在线性时间（linear time）里找出一个数组的第K个顺序统计量。该问题的算法对于C++程序员来说有一定的借鉴价值。具体如下：
一、问题描述：
问题：给定一个含有n个元素的无序数组，找出第k小的元素。
k = 1 ：最小值
k = n ：最大值
k = ⌊(n+1)/2⌋ or ⌈(n+1)/2⌉ ：中位数
找最大值或最小值很简单，只需要遍历一次数组并记录下最大值或最小值就可以了。我们在这里要解决的问题是一般性的选择问题。
一种原始的解决方案是，用堆排序或归并排序将输入数据进行排序，然后返回第k个元素。这样在Θ(nlgn)时间内一定可以解决。但是我们希望有更好的方案，最好是线性时间。
二、期望线性时间的解决方案：
为了在线性时间内解决这个选择问题，我们使用一个随机的分治算法，即RANDOMIZED-SELECT算法。此算法是使用随机化的快速排序中的随机划分子程序，对输入数组进行随机划分操作，然后判断第k小元素在划分后的哪个区域，对所在区域进行递归划分，最后找到第k小元素。
伪代码如下：
|
1
2
3
4
5
6
7
8
9
10
11
|
RANDOMIZED-SELECT(A,p,q,i) // i-th smallest in A[p..q] if p = q then return A[p] r = RANDOMIZED-PARTITION(A, p, q) k = r-p+1 // A[r] is k-th smallest if i=k then return A[r] if i<k then return RANDOMIZED-SELECT(A, p, r-1, i) else then return RANDOMIZED-SELECT(A, r+1, q, i-k) |
这里的RANDOMIZED-PARTITION()是随机版的划分操作（快速排序的分析与优化），可见本算法是一个随机算法，它的期望时间是Θ(n)（假设元素的值是不同的）。
1、Lucky-Case：最好的情况是在正中划分，划分的右边和右边的元素数量相等，但是1/10和9/10的划分也几乎一样好。可以这么说，任何常数比例的划分都和1/2:1/2的划分一样好。这里以1/10和9/10的划分为例，算法运行时间递归式为T(n) <= T(9n/10) + Θ(n)，根据主定理得到T(n) <= Θ(n)。
2、Unlucky-Case：虽然主元的选取是随机的，但是如果你运气足够差，每次都得到0：n-1的划分，这就是最坏的情况。此时递归式为T(n) = T(n-1) + Θ(n)，则时间复杂度为T(n) = Θ(n^2)。
3、Expected-Time：期望运行时间为Θ(n)，即线性时间。这里就不证明了，证明需要用到指示器随机变量。
C++代码如下：
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
|
/************************************************************************* > File Name: RandomizedSelect.cpp > Author: SongLee ************************************************************************/#include<iostream> #include<cstdlib> // srand rand using namespace std; void swap(int &a, int &b) { int tmp = a; a = b; b = tmp; } int Partition(int A[], int low, int high) { int pivot = A[low]; int i = low; for(int j=low+1; j<=high; ++j) { if(A[j] <= pivot) { ++i; swap(A[i], A[j]); } } swap(A[i], A[low]); return i; } int Randomized_Partition(int A[], int low, int high) { srand(time(NULL)); int i = rand() % (high+1); swap(A[low], A[i]); return Partition(A, low, high); } int Randomized_Select(int A[], int p, int q, int i) { if(p == q) return A[p]; int r = Randomized_Partition(A, p, q); int k = r-p+1; if(i == k) return A[r]; if(i < k) return Randomized_Select(A, p, r-1, i); else return Randomized_Select(A, r+1, q, i-k); } /* 测试 */int main() { int A[] = {6,10,13,5,8,3,2,11}; int i = 7; int result = Randomized_Select(A, 0, 7, i); cout << "The " << i << "th smallest element is " << result << endl; return 0; } |
三、最坏情况线性时间的解决方案
虽然最坏情况Θ(n2)出现的概率非常非常小，但是不代表它不会出现。这里就介绍一个非同一般的算法，以保证在最坏情况下也能达到线性时间。
这个SELECT算法的基本思想就是要保证对数组的划分是一个好的划分，它通过自己的方法选取主元（pivot），然后将pivot作为参数传递给快速排序的确定性划分操作PARTITION。
基本步骤：
①.将输入数组的n个元素划分为n/5（上取整）组，每组5个元素，且至多只有一个组有剩下的n%5个元素组成。
②.寻找每个组织中中位数。首先对每组中的元素（至多为5个）进行插入排序，然后从排序后的序列中选择出中位数。
③.对第2步中找出的n/5（上取整）个中位数，递归调用SELECT以找出其中位数x。（如果是偶数取下中位数）
④.调用PARTITION过程，按照中位数x对输入数组进行划分。确定中位数x的位置k。
⑤.如果i=k，则返回x。否则，如果i < k，则在地区间递归调用SELECT以找出第i小的元素，若干i > k，则在高区找第(i-k)个最小元素。
如下图所示：
总结：
RANDOMIZED-SELECT和SELECT算法是基于比较的。我们知道，在比较模型中，排序时间不会优于Ω(nlgn)。之所以这里的选择算法达到了线性时间，是因为它们没有使用排序就解决了选择问题。另外，我们没有使用线性时间排序算法（计数排序/桶排序/基数排序），是因为它们要达到线性时间对输入有很高的要求，而这里不需要关于输入的任何假设。
