寻找第K大元素的八大算法、源码及拓展

http://www.cnblogs.com/bethunebtj/p/4861378.html

一、问题描述

所谓“第(前)k大数问题”指的是在长度为n(n>=k)的乱序数组中S找出从大到小顺序的第(前)k个数的问题。

第K大问题可以是现实问题,譬如竞价排名中的第K个排名,或者多个出价者中的第K大价格等等。


二、解法归纳

解法1: 我们可以对这个乱序数组按照从大到小先行排序,然后取出前k大,总的时间复杂度为O(n*logn + k)。

很好理解,利用快排对所有元素进行排序,然后找到第K个元素即可。

解法2: 利用选择排序或交互排序,K次选择后即可得到第k大的数。总的时间复杂度为O(n*k)。

也是初级解法,且很鸡肋。快排只有第一次时间复杂度较高,后面每次查询时间复杂度均为常数。而选择排序不论是排序还是查询,时间复杂度都很高。

解法3: 利用快速排序的思想,从数组S中随机找出一个元素dX,把数组分为两部分Sa和Sb。Sa中的元素大于等于X,Sb中元素小于X。时间复杂度可以达到近似O(n)

这时有两种情况:

1. Sa中元素的个数小于k,则Sb中的第k-|Sa|个元素即为第k大数;

2. Sa中元素的个数大于等于k,则返回Sa中的第k大数。时间复杂度近似为O(n)。

3.递归以上两步直到找到为止。

解法4:对原数组建最大堆,然后pop出k次即可。时间复杂度为O(n+ k*logn)

这其实也是个排序算法。

解法5:维护一个k大小的最小堆,对于数组中的每一个元素判断与堆顶的大小,若堆顶较大,则不管,否则,弹出堆顶,将当前值插入到堆中。时间复杂度O(n * logk)

这个算法的最大优势在于,如果数组非常非常大的话,利用普通的排序是爆内存的。用它的话,则只用到K的内存。

解法6:解法4的优化版解法,建堆后不完全重建

与上述思路4类似,不同的是在对元素数组原地建最大堆O(n)后,然后提取K次,但是每次提取时,换到顶部的元素只需要下移顶多k次就足够了,下移次数逐次减少(而上述思路7每次提取都需要logn,所以提取k次,思路7需要k*logn。而本思路8只需要K^2)。此种方法的复杂度为O(n+k^2)。每次提取K后,换到顶部的元素需要下移的最大次数越少,保证了最坏情况下的效率。

解法7:利用hash保存数组中元素Si出现的次数,利用计数排序的思想,线性从大到小扫描过程中,前面有k-1个数则为第k大数,平均情况下时间复杂度O(n)。

解法8:来自圣经的算法,BFPRT算法。又名五划分中项的中项法。采用了与解法3相似的解法,但是由于高超的选择了枢纽元素,在最坏情况下亦能做到O(N)的复杂度。

下面是算法主要步骤:

其中有些细节的处理,主要是边界问题还是比较关键,后面会给出这些问题。

数据有n个,取出最小的k个数字

终止条件:n=1时,返回的即是i小元素。

算法步骤:

     step1:将n个元素每5个一组,分成n/5(上界)组,最后的一个组的元素个数为n%5,有效的组数为n/5。step2:取出每一组的中位数,最后一个组的不用计算中位数,任意排序方法,这里的数据比较少只有5个,可以用简单的冒泡排序或是插入排序。step3: 将各组的中位数与数组开头的数据在组的顺序依次交换,这样各个组的中位数都排在了数据的左边。递归的调用中位数选择算法查找上一步中所有组的中位数的中位数,设为x,偶数个中位数的情况下设定为选取中间小的一个。step4: 按照x划分,大于或者等于x的在右边,小于x的在左边,关于setp4数据的划分,中位数放在左边或是右边会有些影响。后面的代码调试将会看到。step5:step4中划分后数据后返回一个下表i,i左边的元素均是小于x,i右边的元素包括i都是大于或是等于x的。若i==k,返回x;若i<k,在小于x的元素中递归查找第i小的元素;若i>k,在大于等于x的元素中递归查找第i-k小的元素。

我在github上贴出了代码实现:点击查看


三、中位数问题

中位数问题其实是第K大问题的一个自问题。可以用所有第K大问题的算法来解答。我们在这里提出几个更加严格的中位数问题。

1.动态中位数查找。实现在对数时间内插入元素,常数时间内找到中位数,对数时间内删除中位数。

我们假定在集合中有偶数个元素时,中位数是指较小的那个中间数。用两个堆,一个大顶堆包含集合里较小的(N+1)/2个数,另一个小顶堆包含集合里较大的另一半数。查询中位数时,直接看大顶堆的堆顶元素即可。插入元素时,先将其与两个堆顶元素比较,以决定插入哪个堆。如果插入之后两堆的元素个数之差超过了1,就把多的那个堆的堆顶元素插入到另一堆里。删除元素时,将中位数删掉之后,同样调整两个堆的元素个数。

在GitHub上找到了别人的一个实现:点击查看

2.求两个有序数组的中位数。

这又是一个变体,可以扩展为求两个有序数组的第K位数。最简单的思路当然是合并数组,然后再直接求有序数组的第K位数,这是一个O(n)的解法。然而,对于“Kth element in 2 sorted array”一类问题来说, 如下图,两个中位数 A[m/2] 和 B[n/2], 可以将数组划分为四个部分。而丢弃哪一个部分取决于两个条件:1, (m/2 + n/2)?k;2,A[m/2] ? B[n/2];

如果 (m/2 + n/2) > k,那么意味着,当前中位数取高了,正确的中位数要么在 Section 1或者Section3中。如果A[m/2] > B[n/2], 意味着中位数肯定不可能在Section 2里面,那么新的搜索可以丢弃这个区间段了。同理可以推断出余下三种情况,如下所示:

If (m/2+n/2+1) > k && am/2 > bn/2 , drop Section 2
If (m/2+n/2+1) > k && am/2 < bn/2 , drop Section 4
If (m/2+n/2+1) < k && am/2 > bn/2 ,  drop Section 3
If (m/2+n/2+1) < k && am/2 < bn/2 ,  drop Section 1

简单的说,就是或者丢弃最大中位数的右区间,或者丢弃最小中位数的左区间。

附上代码如下:

 Kth number of 2 sorted arrays

四、一些扩展( 《编程之美》2.5节课后习题):

1. 如果需要找出N个数中最大的K个不同的浮点数呢?比如,含有10个浮点数的数组(1.5,1.5,2.5,3.5,3.5,5,0,- 1.5,3.5)中最大的3个不同的浮点数是(5,3.5,2.5)。
    解答:上面的解法均适用,需要注意的是浮点数比较时和整数不同,另外求hashkey的方法也会略有不同。

2. 如果是找第k到第m(0<k<=m<=n)大的数呢?
    解答:如果把问题看做m-k+1个第k大问题,则前面解法均适用。但是对于类似前k大这样的问题,最好使用解法5或者解法7,总体复杂度较低。

3. 在搜索引擎中,网络上的每个网页都有“权威性”权重,如page rank。如果我们需要寻找权重最大的K个网页,而网页的权重会不断地更新,那么算法要如何变动以达到快速更新(incremental update)并及时返回权重最大的K个网页?
    提示:堆排序?当每一个网页权重更新的时候,更新堆。还有更好的方法吗?
    解答:要达到快速的更新,我们可以解法5,使用映射二分堆,可以使更新的操作达到O(logn)

4. 在实际应用中,还有一个“精确度”的问题。我们可能并不需要返回严格意义上的最大的K个元素,在边界位置允许出现一些误差。当用户输入一个query的时候,对于每一个文档d来说,它跟这个query之间都有一个相关性衡量权重f (query, d)。搜索引擎需要返回给用户的就是相关性权重最大的K个网页。如果每页10个网页,用户不会关心第1000页开外搜索结果的“精确度”,稍有误差是可以接受的。比如我们可以返回相关性第10 001大的网页,而不是第9999大的。在这种情况下,算法该如何改进才能更快更有效率呢?网页的数目可能大到一台机器无法容纳得下,这时怎么办呢?

提示:归并排序?如果每台机器都返回最相关的K个文档,那么所有机器上最相关K个文档的并集肯定包含全集中最相关的K个文档。由于边界情况并不需要非常精确,如果每台机器返回最好的K’个文档,那么K’应该如何取值,以达到我们返回最相关的90%*K个文档是完全精确的,或者最终返回的最相关的K个文档精确度超过90%(最相关的K个文档中90%以上在全集中相关性的确排在前K),或者最终返回的最相关的K个文档最差的相关性排序没有超出110%*K。
      解答:正如提示中所说,可以让每台机器返回最相关的K'个文档,然后利用归并排序的思想,得到所有文档中最相关的K个。 最好的情况是这K个文档在所有机器中平均分布,这时每台机器只要K' = K / n (n为所有机器总数);最坏情况,所有最相关的K个文档只出现在其中的某一台机器上,这时K'需近似等于K了。我觉得比较好的做法可以在每台机器上维护一个堆,然后对堆顶元素实行归并排序。

5. 如第4点所说,对于每个文档d,相对于不同的关键字q1, q2, …, qm,分别有相关性权重f(d, q1),f(d, q2), …, f(d, qm)。如果用户输入关键字qi之后,我们已经获得了最相关的K个文档,而已知关键字qj跟关键字qi相似,文档跟这两个关键字的权重大小比较靠近,那么关键字qi的最相关的K个文档,对寻找qj最相关的K个文档有没有帮助呢?

解答:肯定是有帮助的。在搜索关键字qj最相关的K个文档时,可以在qj的“近义词”相关文档中搜索部分,然后在全局的所有文档中在搜索部分。

寻找第K大元素的八大算法、源码及拓展相关推荐

  1. Hoare选择算法 寻找第k小元素C实现 算法的“AWK脚手架和grap运行过程分析”

    现实生活中常有找"最大"."最小"及"中位数"等需求,解决这样的问题不用将整个序列排序.寻找"最大"."最小& ...

  2. 在一个无序的int数组上构建一个最小堆的时间复杂度_漫画:寻找无序数组的第k大元素(修订版)...

    ----- 第二天 ----- 题目是什么意思呢?比如给定的无序数组如下: 如果 k=6,也就是要寻找第6大的元素,这个元素是哪一个呢? 显然,数组中第一大的元素是24,第二大的元素是20,第三大的元 ...

  3. 数组中的元素赋值给元素_漫画:寻找无序数组的第k大元素

    本期封面作者:泰勒太乐 -----  第二天  ----- 题目是什么意思呢?比如给定的无序数组如下: 如果 k=6,也就是要寻找第6大的元素,这个元素是哪一个呢? 显然,数组中第一大的元素是24,第 ...

  4. 如何寻找无序数组中的第K大元素?

    如何寻找无序数组中的第K大元素? 有这样一个算法题:有一个无序数组,要求找出数组中的第K大元素.比如给定的无序数组如下所示: 如果k=6,也就是要寻找第6大的元素,很显然,数组中第一大元素是24,第二 ...

  5. 从当前元素继续寻找_云漫圈 | 寻找无序数组的第k大元素

    戳蓝字"CSDN云计算"关注我们哦! 作者:小灰 来源:程序员小灰 本期封面作者:泰勒太乐 -----  第二天  ----- 题目是什么意思呢?比如给定的无序数组如下: 如果 k ...

  6. 云漫圈 | 寻找无序数组的第k大元素

    戳蓝字"CSDN云计算"关注我们哦! 作者:小灰 来源:程序员小灰 本期封面作者:泰勒太乐 -----  第二天  ----- 题目是什么意思呢?比如给定的无序数组如下: 如果 k ...

  7. 遍历数组是什么意思_漫画:寻找无序数组的第k大元素(修订版)

    ----- 第二天 ----- 题目是什么意思呢?比如给定的无序数组如下: 如果 k=6,也就是要寻找第6大的元素,这个元素是哪一个呢? 显然,数组中第一大的元素是24,第二大的元素是20,第三大的元 ...

  8. 【算法】快速选择算法 ( 数组中找第 K 大元素 )

    算法 系列博客 [算法]刷题范围建议 和 代码规范 [算法]复杂度理论 ( 时间复杂度 ) [字符串]最长回文子串 ( 蛮力算法 ) [字符串]最长回文子串 ( 中心线枚举算法 ) [字符串]最长回文 ...

  9. 解决寻找第K小元素问题——三种不同的算法实现

    个人原创,禁止转载--Zetrue_Li 问题描述:在一个序列里找出第K小元素 以下程序基于函数 int select_kth_smallest(list q, int k) 实现 :返回向量q中第k ...

最新文章

  1. VBA:指定なフォルダしたのすべてのファイル名
  2. Matlab学习笔记——二进制文件的读写
  3. python type函数
  4. 在JSP中如何或得当前绝对路径
  5. RTD-D项目总结(MATLAB)
  6. XTU -1231 人生成就 (dp + 记录最优解的个数)
  7. java我的世界显示合成表_我的世界:谁动了我的合成表?每10秒打乱合成配方,你撑不过一晚...
  8. 第五人格pcmac_第五人格:未上线,勘探员已经让庄园内的CP乱了分寸,祭司最绝...
  9. 使用MRUnit测试Hadoop程序
  10. 视频PPT互动问答丨数据驱动的业务实践专题
  11. 你真的会使用数据库的索引吗?
  12. git学习(二):git config命令
  13. unity中的web player与webGL
  14. 交通灯控制——汇编小设计
  15. 流利阅读12.16 ‘Aquaman’ is already a box office titan
  16. 投影幕布尺寸计算器_投影幕布:投影幕布的尺寸计算
  17. deepin更新依赖错误_Ubuntu安装deepin-wine解决依赖问题
  18. 计算机应用情话,情话大全浪漫情话 最美的情话莫过于我也爱你
  19. 【渝粤教育】国家开放大学2018年秋季 1318T社会统计学 参考试题
  20. android陀螺仪判断手机旋转方向,unity 陀螺仪判断手机方向

热门文章

  1. 使用CubeMX实现定时器捕获脉冲频率
  2. HPPC,循环工况测试,EIS测试
  3. RFID医疗资产管理解决方案-RFID电子标签-RFID固定资产管理-新导智能
  4. Py之pymssql:Python库之pymssql的简介、安装、使用方法之详细攻略
  5. android 限速工具,Android下载器之限速篇
  6. 在电网上使用的储能系统模拟(simulink)
  7. Chrome谷歌浏览器如何截取整个网页长图?
  8. learnpythonthehardway pdf_福利:热门技术看什么?这份书单告诉你!(内含PDF链接)...
  9. Qt 6.3.1 桌面时钟控件
  10. html 日历时钟插件,日历时钟 - Chrome生产工具插件 - 画夹插件网