亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb

首頁 > 編程 > JavaScript > 正文

使用堆實現Top K算法(JS實現)

2019-11-20 10:55:54
字體:
來源:轉載
供稿:網友

先來聊一聊Top K算法,具體內容如下

應用場景:

        搜索引擎會通過日志文件把用戶每次檢索使用的所有檢索串都記錄下來,每個查詢串的長度為1-255字節。
        假設目前有一千萬個記錄(這些查詢串的重復度比較高,雖然總數是1千萬,但如果除去重復后,不超過3百萬個。一個查詢串的重復度越高,說明查詢它的用戶越多,也就是越熱門。),請你統計最熱門的10個查詢串,要求使用的內存不能超過1G。

必備知識:
什么是哈希表?
        哈希表(Hash table,也叫散列表),是根據關鍵碼值(Key value)而直接進行訪問的數據結構。

        也就是說,它通過把關鍵碼值映射到表中一個位置來訪問記錄,以加快查找的速度。這個映射函數叫做散列函數,存放記錄的數組叫做散列表。

哈希表的做法其實很簡單,就是把Key通過一個固定的算法函數既所謂的哈希函數轉換成一個整型數字,然后就將該數字對數組長度進行取余,取余結果就當作數組的下標,將value存儲在以該數字為下標的數組空間里。
       而當使用哈希表進行查詢的時候,就是再次使用哈希函數將key轉換為對應的數組下標,并定位到該空間獲取value,如此一來,就可以充分利用到數組的定位性能進行數據定位。
問題解析:

要統計最熱門查詢,首先就是要統計每個Query出現的次數,然后根據統計結果,找出Top 10。所以我們可以基于這個思路分兩步來設計該算法。

即,此問題的解決分為以下倆個步驟:

第一步:Query統計  (統計出每個Query出現的次數)
Query統計有以下倆個方法,可供選擇:
        1)、直接排序法  (經常在日志文件中統計時,使用cat file|format key|sort | uniq -c | sort -nr | head -n 10,就是這種方法)
首先我們最先想到的的算法就是排序了,首先對這個日志里面的所有Query都進行排序,然后再遍歷排好序的Query,統計每個Query出現的次數了。

但是題目中有明確要求,那就是內存不能超過1G,一千萬條記錄,每條記錄是255Byte,很顯然要占據2.375G內存,這個條件就不滿足要求了。

讓我們回憶一下數據結構課程上的內容,當數據量比較大而且內存無法裝下的時候,我們可以采用外排序的方法來進行排序,這里我們可以采用歸并排序,因為歸并排序有一個比較好的時間復雜度O(NlgN)。

排完序之后我們再對已經有序的Query文件進行遍歷,統計每個Query出現的次數,再次寫入文件中。

綜合分析一下,排序的時間復雜度是O(NlgN),而遍歷的時間復雜度是O(N),因此該算法的總體時間復雜度就是O(N+NlgN)=O(NlgN)。

       2)、Hash Table法 (這種方法統計字符串出現的次數非常好)
       在第1個方法中,我們采用了排序的辦法來統計每個Query出現的次數,時間復雜度是NlgN,那么能不能有更好的方法來存儲,而時間復雜度更低呢?

       題目中說明了,雖然有一千萬個Query,但是由于重復度比較高,因此事實上只有300萬的Query,每個Query 255Byte,因此我們可以考慮把他們都放進內存中去,而現在只是需要一個合適的數據結構,在這里,Hash Table絕對是我們優先的選擇,因為Hash Table的查詢速度非常的快,幾乎是O(1)的時間復雜度。

       那么,我們的算法就有了:

      維護一個Key為Query字串,Value為該Query出現次數的HashTable,每次讀取一個Query,如果該字串不在Table中,那么加入該字串,并且將Value值設為1;如果該字串在Table中,那么將該字串的計數加一即可。最終我們在O(N)的時間復雜度內完成了對該海量數據的處理。

      本方法相比算法1:在時間復雜度上提高了一個數量級,為O(N),但不僅僅是時間復雜度上的優化,該方法只需要IO數據文件一次,而算法1的IO次數較多的,因此該算法2比算法1在工程上有更好的可操作性。

第二步:找出Top 10(找出出現次數最多的10個)
算法一:普通排序(我們只用找出top10,所以全部排序有冗余)
     我想對于排序算法大家都已經不陌生了,這里不在贅述,我們要注意的是排序算法的時間復雜度是NlgN,在本題目中,三百萬條記錄,用1G內存是可以存下的。

算法二:部分排序        
     題目要求是求出Top 10,因此我們沒有必要對所有的Query都進行排序,我們只需要維護一個10個大小的數組,初始化放入10個Query,按照每個Query的統計次數由大到小排序,然后遍歷這300萬條記錄,每讀一條記錄就和數組最后一個Query對比,如果小于這個Query,那么繼續遍歷,否則,將數組中最后一條數據淘汰(還是要放在合適的位置,保持有序),加入當前的Query。最后當所有的數據都遍歷完畢之后,那么這個數組中的10個Query便是我們要找的Top10了。

      不難分析出,這樣,算法的最壞時間復雜度是N*K, 其中K是指top多少。

算法三:
       在算法二中,我們已經將時間復雜度由NlogN優化到N*K,不得不說這是一個比較大的改進了,可是有沒有更好的辦法呢?

       分析一下,在算法二中,每次比較完成之后,需要的操作復雜度都是K,因為要把元素插入到一個線性表之中,而且采用的是順序比較。這里我們注意一下,該數組是有序的,一次我們每次查找的時候可以采用二分的方法查找,這樣操作的復雜度就降到了logK,可是,隨之而來的問題就是數據移動,因為移動數據次數增多了。不過,這個算法還是比算法二有了改進。

       基于以上的分析,我們想想,有沒有一種既能快速查找,又能快速移動元素的數據結構呢?

       回答是肯定的,那就是堆。
       借助堆結構,我們可以在log量級的時間內查找和調整/移動。因此到這里,我們的算法可以改進為這樣,維護一個K(該題目中是10)大小的小根堆,然后遍歷300萬的Query,分別和根元素進行對比。

思想與上述算法二一致,只是在算法三,我們采用了最小堆這種數據結構代替數組,把查找目標元素的時間復雜度有O(K)降到了O(logK)。
       那么這樣,采用堆數據結構,算法三,最終的時間復雜度就降到了N*logK,和算法二相比,又有了比較大的改進。

至此,算法就完全結束了,經過上述第一步、先用Hash表統計每個Query出現的次數,O(N);然后第二步、采用堆數據結構找出Top 10,N*O(logK)。所以,我們最終的時間復雜度是:O(N) + N'*O(logK)。(N為1000萬,N'為300萬)。

js如何使用堆實現Top K 算法?

1. 使用堆算法實現Top,時間復雜度為 O(LogN)

function top(arr,comp){ if(arr.length == 0){return ;} var i = arr.length / 2 | 0 ; for(;i >= 0; i--){ if(comp(arr[i], arr[i * 2])){exch(arr, i, i*2);} if(comp(arr[i], arr[i * 2 + 1])) {exch(arr, i, i*2 + 1);} } return arr[0];     }    function exch(arr,i,j){ var t = arr[i]; arr[i] = arr[j]; arr[j] = t; }

2. 調用K次堆實現,時間復雜度為 O(K * LogN)

function topK(arr,n,comp){ if(!arr || arr.length == 0 || n <=0 || n > arr.length){ return -1; }     var ret = new Array(); for(var i = 0;i < n; i++){ var max = top(arr,comp); ret.push(max); arr.splice(0,1); } return ret; }

3.測試

var ret = topK(new Array(16,22,91,0,51,44,23),3,function (a,b){return a < b;}); console.log(ret);

以上就是為大家分享的使用堆實現Top K算法,何為Top K算法,希望對大家的學習有所幫助。

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb
久久色免费在线视频| 欧美日韩福利电影| 亚洲国产精品美女| 日韩精品亚洲视频| 日韩美女视频中文字幕| 97在线精品视频| 亚洲电影在线观看| 亚洲一区二区久久久久久久| 亚洲欧美国产日韩天堂区| 久久av在线播放| 国产suv精品一区二区| 日本久久久久久| www.美女亚洲精品| 欧美极品美女视频网站在线观看免费| 成人国产亚洲精品a区天堂华泰| 超碰91人人草人人干| 亚洲视频在线视频| 亚洲人成电影网站| 正在播放欧美视频| 26uuu亚洲伊人春色| 久久久久久伊人| 色综合亚洲精品激情狠狠| 国产精品久久久久久av福利| 日韩成人av在线播放| 2019中文字幕免费视频| 国产成人精品在线视频| 韩国一区二区电影| 欧美一区三区三区高中清蜜桃| 国产精品伦子伦免费视频| 日韩毛片在线看| 日韩成人在线视频| 亚洲成在人线av| 欧美午夜片在线免费观看| 欧美黑人一级爽快片淫片高清| xx视频.9999.com| 性色av一区二区三区红粉影视| 国产精品一区二区3区| 亚洲片国产一区一级在线观看| 亚洲自拍另类欧美丝袜| 午夜剧场成人观在线视频免费观看| 国产精品高潮呻吟久久av无限| 啊v视频在线一区二区三区| 久久久精品日本| 成人妇女淫片aaaa视频| 国产精品高潮粉嫩av| 亚洲国产欧美一区二区三区同亚洲| 国产精品视频专区| 国产精品久久久久久久久久久久久久| 精品国产一区二区三区在线观看| 神马久久久久久| 日韩电影第一页| 亚洲综合第一页| 欧美性猛交xxxx免费看漫画| 亚洲男人天堂视频| 亚洲欧美精品伊人久久| 亚洲日韩欧美视频| 欧美精品videos| 日本成人精品在线| 国产精品美女www爽爽爽视频| 国产亚洲精品美女久久久| 91精品免费视频| 91精品啪aⅴ在线观看国产| 久久久人成影片一区二区三区观看| 91国产视频在线播放| 欧美在线视频播放| www.亚洲天堂| 96pao国产成视频永久免费| yellow中文字幕久久| 97久久超碰福利国产精品…| 91久久综合亚洲鲁鲁五月天| 欧美亚洲午夜视频在线观看| 国产成人精品视| 57pao成人永久免费视频| 精品福利视频导航| 国产亚洲精品一区二555| 91亚洲精品在线观看| 欧美激情视频网| 亚洲国产日韩欧美在线图片| 亚洲国产精品嫩草影院久久| 日韩电影在线观看永久视频免费网站| 日韩美女福利视频| 国产一区二区三区三区在线观看| 成人情趣片在线观看免费| 亚洲精品小视频在线观看| 欧美有码在线视频| 91精品国产乱码久久久久久蜜臀| 成人啪啪免费看| 欧美丝袜美女中出在线| 中文字幕精品国产| 国产一区二区三区欧美| 久久精品国产一区| 午夜精品免费视频| 国产精品日韩在线| 中文字幕精品www乱入免费视频| 韩国一区二区电影| 日本久久久久亚洲中字幕| 久久久女人电视剧免费播放下载| 久久久久久久久91| 精品亚洲男同gayvideo网站| 欧美一性一乱一交一视频| 91超碰中文字幕久久精品| 国产欧美日韩最新| 国产精品色婷婷视频| 国产精品国语对白| 日韩欧美a级成人黄色| 久久精品国产久精国产思思| 国产精品欧美激情在线播放| 亚洲欧美日韩中文视频| 欧美精品www| www国产精品com| 91精品久久久久久久久久另类| 中文字幕欧美专区| 91精品视频在线免费观看| 国产精品亚洲视频在线观看| 91精品视频在线看| 亚洲国产成人精品一区二区| 亚洲国产成人精品一区二区| 国产精品丝袜高跟| 欧美大人香蕉在线| 97精品视频在线播放| 欧美日本黄视频| 国产精品久久久久久久av电影| 久久久久久欧美| 美日韩丰满少妇在线观看| 亚洲a∨日韩av高清在线观看| 超碰日本道色综合久久综合| 国产精品久久久av久久久| 日韩极品精品视频免费观看| 久久久久久久久久久亚洲| 欧美日韩激情网| 都市激情亚洲色图| 国产成人在线亚洲欧美| 国产精品男人爽免费视频1| 欧美—级高清免费播放| 日韩中文字幕在线精品| 日韩精品中文字幕在线观看| 欧美性极品少妇精品网站| 超碰日本道色综合久久综合| 一区二区三区视频免费在线观看| 国产精品网站大全| 亚洲精品动漫久久久久| 性欧美办公室18xxxxhd| 中文字幕欧美日韩va免费视频| 日本国产欧美一区二区三区| 欧美黄网免费在线观看| 97国产suv精品一区二区62| 91丨九色丨国产在线| 国产精品扒开腿做爽爽爽男男| 国产91精品高潮白浆喷水| 日韩精品免费电影| 久久精品99国产精品酒店日本| 成人日韩av在线| 国产精品96久久久久久| 欧美精品在线第一页| 久久免费国产精品1| 亚洲色图15p| 综合国产在线视频| 国产日本欧美一区二区三区| 亚洲欧美三级伦理| 欧美在线免费视频| 91黑丝高跟在线| 日本国产欧美一区二区三区| 欧美在线一区二区视频| 在线播放日韩专区|