亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb

首頁 > 數據庫 > MongoDB > 正文

MongoDB中MapReduce的使用方法詳解

2020-03-14 12:51:09
字體:
來源:轉載
供稿:網友

前言

玩過Hadoop的小伙伴對MapReduce應該不陌生,MapReduce的強大且靈活,它可以將一個大問題拆分為多個小問題,將各個小問題發送到不同的機器上去處理,所有的機器都完成計算后,再將計算結果合并為一個完整的解決方案,這就是所謂的分布式計算。本文我們就來看看MongoDB中MapReduce的使用。

打算用mongodb mapreduce之前一定要知道的事!?。?/strong>

mapreduce其實是分批處理數據的,每一百次重新reduce處理,所以到reduce里的數據如果是101條,那就會分2次進入。

這導致的問題就是在reduce中 如果 初始化 var count = 0;在循環中 count ++,最后輸出的是1???

避免都方法是,把數據存在返回的value里,這個value是會在循環進入reduce的時候重用的。在循環中 count += value.count就能把之前都100加上了!?。?/p>

還有如果只有一條數據,那它不會進入reduce,會直接返回。

下面是具體例子:

string map = @"function() {var view = this;emit(view.activity, {pv: 1});}";string reduce = @" function(key, values) {var result = {pv: 0};values.forEach(function(value){ result.pv += value.pv;});return result;}";string finalize = @"function(key, value){return value;}";

mapReduce

MongoDB中的MapReduce可以用來實現更復雜的聚合命令,使用MapReduce主要實現兩個函數:map函數和reduce函數,map函數用來生成鍵值對序列,map函數的結果作為reduce函數的參數,reduce函數中再做進一步的統計,比如我的數據集如下:

{"_id" : ObjectId("59fa71d71fd59c3b2cd908d7"),"name" : "魯迅","book" : "吶喊","price" : 38.0,"publisher" : "人民文學出版社"}{"_id" : ObjectId("59fa71d71fd59c3b2cd908d8"),"name" : "曹雪芹","book" : "紅樓夢","price" : 22.0,"publisher" : "人民文學出版社"}{"_id" : ObjectId("59fa71d71fd59c3b2cd908d9"),"name" : "錢鐘書","book" : "宋詩選注","price" : 99.0,"publisher" : "人民文學出版社"}{"_id" : ObjectId("59fa71d71fd59c3b2cd908da"),"name" : "錢鐘書","book" : "談藝錄","price" : 66.0,"publisher" : "武林網書店"}{"_id" : ObjectId("59fa71d71fd59c3b2cd908db"),"name" : "魯迅","book" : "彷徨","price" : 55.0,"publisher" : "花城出版社"}

假如我想查詢每位作者所出的書的總價,操作如下:

var map=function(){emit(this.name,this.price)}var reduce=function(key,value){return Array.sum(value)}var options={out:"totalPrice"}db.sang_books.mapReduce(map,reduce,options);db.totalPrice.find()

emit函數主要用來實現分組,接收兩個參數,第一個參數表示分組的字段,第二個參數表示要統計的數據,reduce來做具體的數據處理操作,接收兩個參數,對應emit方法的兩個參數,這里使用了Array中的sum函數對price字段進行自加處理,options中定義了將結果輸出的集合,屆時我們將在這個集合中去查詢數據,默認情況下,這個集合即使在數據庫重啟后也會保留,并且保留集合中的數據。

查詢結果如下:

{ "_id" : "曹雪芹", "value" : 22.0}{ "_id" : "錢鐘書", "value" : 165.0}{ "_id" : "魯迅", "value" : 93.0}

再比如我想查詢每位作者出了幾本書,如下:

var map=function(){emit(this.name,1)}var reduce=function(key,value){return Array.sum(value)}var options={out:"bookNum"}db.sang_books.mapReduce(map,reduce,options);db.bookNum.find()

查詢結果如下:

{ "_id" : "曹雪芹", "value" : 1.0}{ "_id" : "錢鐘書", "value" : 2.0}{ "_id" : "魯迅", "value" : 2.0}

將每位作者的書列出來,如下:

var map=function(){emit(this.name,this.book)}var reduce=function(key,value){return value.join(',')}var options={out:"books"}db.sang_books.mapReduce(map,reduce,options);db.books.find()

結果如下:

{ "_id" : "曹雪芹", "value" : "紅樓夢"}{ "_id" : "錢鐘書", "value" : "宋詩選注,談藝錄"}{ "_id" : "魯迅", "value" : "吶喊,彷徨"}

比如查詢每個人售價在¥40以上的書:

var map=function(){emit(this.name,this.book)}var reduce=function(key,value){return value.join(',')}var options={query:{price:{$gt:40}},out:"books"}db.sang_books.mapReduce(map,reduce,options);db.books.find()

query表示對查到的集合再進行篩選。

結果如下:

{ "_id" : "錢鐘書", "value" : "宋詩選注,談藝錄"}{ "_id" : "魯迅", "value" : "彷徨"}

runCommand實現

我們也可以利用runCommand命令來執行MapReduce。格式如下:

db.runCommand(    {     mapReduce: <collection>,     map: <function>,     reduce: <function>,     finalize: <function>,     out: <output>,     query: <document>,     sort: <document>,     limit: <number>,     scope: <document>,     jsMode: <boolean>,     verbose: <boolean>,     bypassDocumentValidation: <boolean>,     collation: <document>    }    )

含義如下:

 

參數 含義
mapReduce 表示要操作的集合
map map函數
reduce reduce函數
finalize 最終處理函數
out 輸出的集合
query 對結果進行過濾
sort 對結果排序
limit 返回的結果數
scope 設置參數值,在這里設置的值在map、reduce、finalize函數中可見
jsMode 是否將map執行的中間數據由javascript對象轉換成BSON對象,默認為false
verbose 是否顯示詳細的時間統計信息
bypassDocumentValidation 是否繞過文檔驗證
collation 其他一些校對

 

如下操作,表示執行MapReduce操作并對統計的集合限制返回條數,限制返回條數之后再進行統計操作,如下:

var map=function(){emit(this.name,this.book)}var reduce=function(key,value){return value.join(',')}db.runCommand({mapreduce:'sang_books',map,reduce,out:"books",limit:4,verbose:true})db.books.find()

執行結果如下:

{ "_id" : "曹雪芹", "value" : "紅樓夢"}{ "_id" : "錢鐘書", "value" : "宋詩選注,談藝錄"}{ "_id" : "魯迅", "value" : "吶喊"}

小伙伴們看到,魯迅有一本書不見了,就是因為limit是先限制集合返回條數,然后再執行統計操作。

finalize操作表示最終處理函數,如下:

var f1 = function(key,reduceValue){var obj={};obj.author=key;obj.books=reduceValue; return obj}var map=function(){emit(this.name,this.book)}var reduce=function(key,value){return value.join(',')}db.runCommand({mapreduce:'sang_books',map,reduce,out:"books",finalize:f1})db.books.find()

f1第一個參數key表示emit中的第一個參數,第二個參數表示reduce的執行結果,我們可以在f1中對這個結果進行再處理,結果如下:

{ "_id" : "曹雪芹", "value" : {  "author" : "曹雪芹",  "books" : "紅樓夢" }}{ "_id" : "錢鐘書", "value" : {  "author" : "錢鐘書",  "books" : "宋詩選注,談藝錄" }}{ "_id" : "魯迅", "value" : {  "author" : "魯迅",  "books" : "吶喊,彷徨" }}

scope則可以用來定義一個在map、reduce和finalize中都可見的變量,如下:

var f1 = function(key,reduceValue){var obj={};obj.author=key;obj.books=reduceValue;obj.sang=sang; return obj}var map=function(){emit(this.name,this.book)}var reduce=function(key,value){return value.join(',--'+sang+'--,')}db.runCommand({mapreduce:'sang_books',map,reduce,out:"books",finalize:f1,scope:{sang:"haha"}})db.books.find()

執行結果如下:

{ "_id" : "曹雪芹", "value" : {  "author" : "曹雪芹",  "books" : "紅樓夢",  "sang" : "haha" }}{ "_id" : "錢鐘書", "value" : {  "author" : "錢鐘書",  "books" : "宋詩選注,--haha--,談藝錄",  "sang" : "haha" }}{ "_id" : "魯迅", "value" : {  "author" : "魯迅",  "books" : "吶喊,--haha--,彷徨",  "sang" : "haha" }}

好了,MongoDB中的MapReduce我們就先說到這里,小伙伴們有問題歡迎留言討論。

總結

以上就是這篇文章的全部內容了,希望本文的內容對大家的學習或者工作具有一定的參考學習價值,如果有疑問大家可以留言交流,謝謝大家對VEVB武林網的支持。

參考資料:

1.《MongoDB權威指南第2版》

2.mongodb mapreduce小試

3.mongoDB--mapreduce用法詳解(未找到原始出處)


注:相關教程知識閱讀請移步到MongoDB頻道。
發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb
精品爽片免费看久久| 日韩在线观看电影| 亚洲精品永久免费| 国产99在线|中文| 国产精品久久999| 2018日韩中文字幕| 国产精品影院在线观看| 欧美性猛交xxxxx免费看| 亚洲精品美女久久久| 国产精品中文字幕在线观看| 成人免费高清完整版在线观看| 日韩中文字幕视频在线| 伊人久久久久久久久久久久久| 亚洲www永久成人夜色| 亚洲电影免费观看高清完整版在线| 国产午夜精品一区理论片飘花| 日韩中文视频免费在线观看| 久久免费少妇高潮久久精品99| 亚洲国产一区二区三区四区| 欧美激情在线一区| 国产精品海角社区在线观看| 91在线观看免费高清完整版在线观看| 欧美精品videos性欧美| 在线午夜精品自拍| 日韩一区二区三区在线播放| 国产精品自在线| 色综久久综合桃花网| 欧美精品在线网站| 精品亚洲va在线va天堂资源站| 国产精品久久9| 亚洲美女性视频| 在线视频一区二区| 成人在线免费观看视视频| 亚洲视频视频在线| 不卡av电影在线观看| 久久精品国产清自在天天线| 福利二区91精品bt7086| 日韩av在线免费观看| 欧美老女人性视频| 久久天天躁狠狠躁夜夜躁| 亚洲精品电影网在线观看| 欧美日韩亚洲一区二区三区| 成人精品一区二区三区| 国产精品av网站| 国产精品 欧美在线| 久久精品视频播放| 国产精品久久久久aaaa九色| 欧美在线视频一区| 亚洲欧美日韩国产中文专区| 国产高清在线不卡| 亲爱的老师9免费观看全集电视剧| 国产免费一区视频观看免费| 亚洲综合在线中文字幕| 国产午夜精品一区理论片飘花| 日韩欧美国产网站| 97av在线视频免费播放| 中文字幕少妇一区二区三区| 欧美性少妇18aaaa视频| 成人h视频在线| 91精品国产91久久久久久最新| 久久免费视频这里只有精品| 国产在线观看91精品一区| 成人免费自拍视频| 久久久久久97| 91精品久久久久久久久久久久久| 国产成人精品a视频一区www| 国产综合久久久久久| 久久久999国产精品| 日韩美女写真福利在线观看| 精品国产自在精品国产浪潮| 亚洲激情 国产| 久久亚洲欧美日韩精品专区| 亚洲高清久久久久久| 日韩精品免费一线在线观看| 精品国产一区二区三区久久久| 97视频在线免费观看| 中文字幕不卡av| 国产91色在线|免| 97视频在线观看亚洲| 亚洲国产欧美一区二区三区久久| 亚洲欧美日韩另类| 九九久久国产精品| 亚洲在线免费视频| 免费av在线一区| 日韩美女在线看| 欧美二区在线播放| 久久久爽爽爽美女图片| 青青草原一区二区| 国产精品久久久久久av福利软件| 欧美成aaa人片免费看| 国产亚洲欧美另类中文| 欧美成人黑人xx视频免费观看| 国产精品免费一区二区三区都可以| 久久久精品国产一区二区| 亚洲精品国产精品国自产在线| 亚洲一区二区三区四区在线播放| 久久99国产精品久久久久久久久| 91国产视频在线| 亚洲精品美女在线| 欧美三级欧美成人高清www| 亚洲аv电影天堂网| 国产精品久久久久久久久久小说| 国产美女扒开尿口久久久| 久久久久日韩精品久久久男男| 国产精品久久久久aaaa九色| 色综合色综合网色综合| 亚洲自拍小视频| 成人做爰www免费看视频网站| 久久久久久久久久久免费精品| 日韩电影在线观看永久视频免费网站| 国产精品久久久久影院日本| 中文字幕不卡av| 中文字幕亚洲一区二区三区五十路| 欧美激情xxxx性bbbb| 亚洲综合av影视| 日韩精品丝袜在线| 亚洲九九九在线观看| 国产日本欧美在线观看| 国产精品一区二区三区成人| 亚洲一区二区中文| 啊v视频在线一区二区三区| 色yeye香蕉凹凸一区二区av| 久久国产加勒比精品无码| 精品久久久久久久久久国产| 欧洲亚洲女同hd| 亚洲va欧美va国产综合久久| 欧美理论电影网| 亚洲精品日产aⅴ| 视频在线观看一区二区| 777午夜精品福利在线观看| 欧美成人小视频| 欧美激情久久久久| 亚洲色图校园春色| 日韩美女写真福利在线观看| 欧美日韩国产在线看| 久久久久久久久中文字幕| 亚洲aⅴ日韩av电影在线观看| 久久精品精品电影网| 久久夜色精品亚洲噜噜国产mv| 色综合伊人色综合网站| 亚洲激情视频在线| 成人信息集中地欧美| 欧美视频专区一二在线观看| 久久国内精品一国内精品| 麻豆乱码国产一区二区三区| 日韩在线视频观看正片免费网站| 国产91在线播放| 日韩高清电影免费观看完整| 亚洲黄页视频免费观看| 欧美精品做受xxx性少妇| 亚洲四色影视在线观看| 亚洲成人久久网| 日本人成精品视频在线| 92福利视频午夜1000合集在线观看| 亚洲欧洲黄色网| 欧美大片在线免费观看| 国产精品成人在线| 久久久999精品免费| 黑人巨大精品欧美一区二区一视频| 国产精品小说在线| 亚洲天堂av在线免费观看| 91老司机精品视频| 亚洲欧美在线看| 欧美日韩第一页|