亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb

首頁 > 網管 > 服務器 > 正文

Hadoop 參數配置優化

2020-05-27 13:46:52
字體:
來源:轉載
供稿:網友

  主要參照官方給出的配置指南進行的。

  hadoop.tmp.dir

  默認值: /tmp

  說明: 盡量手動配置這個選項,否則的話都默認存在了里系統的默認臨時文件/tmp里。并且手動配置的時候,如果服務器是多磁盤的,每個磁盤都設置一個臨時文件目錄,這樣便于mapreduce或者hdfs等使用的時候提高磁盤IO效率。

  fs.trash.interval

  默認值: 0

  說明: 這個是開啟hdfs文件刪除自動轉移到垃圾箱的選項,值為垃圾箱文件清除時間。一般開啟這個會比較好,以防錯誤刪除重要文件。單位是分鐘。

  fs.inmemory.size.mb

  默認值:

  說明: reduce階段用戶合并map輸出的內存限制。這里設置200,可根據自身硬件設備進行更改測試。

  io.sort.factor

  默認值:10

  說明:排序文件的時候一次同時最多可并流的個數,這里設置100。新版本為mapreduce.task.io.sort.factor。

  io.sort.mb

  默認值:100

  說明: 排序內存使用限制,這里設置200m。新版本看說明貌似改成了這個mapreduce.task.io.sort.mb。

  io.file.buffer.size

  默認值:4096

  說明:SequenceFiles在讀寫中可以使用的緩存大小,這里設置為131072。貌似這個參數在新版本里變為了:file.stream-buffer-size,單位bytes 。

  dfs.blocksize

  默認值:67108864

  說明: 這個就是hdfs里一個文件塊的大小了,默認64M,這里設置134217728,即128M,太大的話會有較少map同時計算,太小的話也浪費可用map個數資源,而且文件太小namenode就浪費內存多。根據需要進行設置。

  dfs.namenode.handler.count

  默認值:10

  說明:hadoop系統里啟動的任務線程數,這里改為40,同樣可以嘗試該值大小對效率的影響變化進行最合適的值的設定。

  mapred.child.java.opts

  默認值:-Xmx200m

  說明:jvms啟動的子線程可以使用的最大內存。改為-Xmx1024m,內存再大也可以繼續增加。但是如果一般任務文件小,邏輯不復雜用不了那么多的話太大也浪費。

  mapreduce.jobtracker.handler.count

  默認值:10

  說明:JobTracker可以啟動的線程數,一般為tasktracker節點的4%。

  mapreduce.reduce.shuffle.parallelcopies

  默認值:5

  說明:reuduce shuffle階段并行傳輸數據的數量。這里改為10。集群大可以增大。

  mapreduce.tasktracker.http.threads

  默認值:40

  說明:map和reduce是通過http進行數據傳輸的,這個是設置傳輸的并行線程數。

  mapreduce.map.output.compress

  默認值:false

  說明: map輸出是否進行壓縮,如果壓縮就會多耗cpu,但是減少傳輸時間,如果不壓縮,就需要較多的傳輸帶寬。配合mapreduce.map.output.compress.codec使用,默認是org.apache.hadoop.io.compress.DefaultCodec,可以根據需要設定數據壓縮方式。

  mapreduce.reduce.shuffle.merge.percent

  默認值: 0.66

  說明:reduce歸并接收map的輸出數據可占用的內存配置百分比。類似mapreduce.reduce.shuffle.input.buffer.percen屬性。

  mapreduce.reduce.shuffle.memory.limit.percent

  默認值: 0.25

  說明:一個單一的shuffle的最大內存使用限制。

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb
欧美在线一区二区视频| 97久久伊人激情网| 国产一区二区三区在线视频| 九九热这里只有精品6| 亚洲欧美日韩精品| 亚洲夜晚福利在线观看| 中文字幕欧美日韩va免费视频| 色婷婷av一区二区三区在线观看| 91av视频在线| 成人福利视频在线观看| 欧美性猛交xxxx乱大交3| 欧美俄罗斯性视频| 欧美日韩国产综合新一区| 国产精品久久久久久亚洲影视| 在线观看国产精品淫| 91久久久国产精品| 久久九九热免费视频| 日韩精品在线免费观看视频| 欧美激情精品久久久久久免费印度| 日本亚洲精品在线观看| 777国产偷窥盗摄精品视频| 亚洲人成电影网站色www| 日韩中文有码在线视频| 亚洲爱爱爱爱爱| 日韩在线视频播放| 国产视频久久久久久久| 亚洲精品av在线播放| 亚洲综合中文字幕68页| 性欧美xxxx视频在线观看| 午夜精品99久久免费| 日韩最新av在线| 亚洲欧美国产一本综合首页| 国产91在线播放精品91| 欧美在线观看一区二区三区| 91视频国产高清| 57pao成人国产永久免费| 国产精品久久久久久一区二区| 亚洲国产婷婷香蕉久久久久久| 欧美日韩一区二区在线播放| 国产精品欧美激情在线播放| 日韩精品免费在线视频观看| 欧美激情一区二区三区久久久| 亚洲高清福利视频| 国产日韩欧美成人| 亚洲精品日韩久久久| 国内精品视频一区| 国产在线视频一区| 国产精品综合久久久| 国产精品美女网站| 国产成人福利夜色影视| 国产精品三级在线| 在线观看国产精品淫| 欧美激情精品久久久久久久变态| 奇米4444一区二区三区| 日韩成人久久久| 国产精品精品视频| 狠狠色噜噜狠狠狠狠97| 欧美激情亚洲综合一区| 欧美午夜视频一区二区| 久久影院资源站| 亚洲精品456在线播放狼人| 日本乱人伦a精品| 91色琪琪电影亚洲精品久久| 国产成人黄色av| 日韩电影中文字幕| 国产精品第七十二页| 精品福利在线观看| 成人一区二区电影| 亚洲欧美国产精品va在线观看| 久久久99久久精品女同性| 久久久久久久久中文字幕| 日韩欧美a级成人黄色| 国产综合香蕉五月婷在线| 日韩美女视频免费看| 欧美另类极品videosbestfree| 国产999精品久久久影片官网| 色悠悠国产精品| 欧美在线欧美在线| 欧美久久精品午夜青青大伊人| 色天天综合狠狠色| 日韩欧美aaa| 亚洲色图50p| 97精品欧美一区二区三区| 亚洲天堂视频在线观看| 日本亚洲欧美三级| 亚洲第一区在线观看| 国产精品青青在线观看爽香蕉| 日韩精品丝袜在线| 亚洲网站在线看| 久久精品91久久久久久再现| 久久久久久久久久久免费| 精品美女永久免费视频| 91在线免费视频| 全亚洲最色的网站在线观看| 久久久久久国产精品美女| 成人久久一区二区三区| 亚洲国产欧美久久| 欧洲成人在线观看| 欧美性极品xxxx娇小| 国产精品一区二区久久久| 国产成人黄色av| 国产成人精品久久二区二区| 神马久久桃色视频| 成人av番号网| 亚洲精品视频二区| 欧美多人爱爱视频网站| 色中色综合影院手机版在线观看| 97在线免费观看视频| 萌白酱国产一区二区| 亚洲精品久久久久中文字幕二区| 亚洲老板91色精品久久| 精品成人在线视频| 久久网福利资源网站| 国产精品综合网站| 亚洲毛茸茸少妇高潮呻吟| 91亚洲精品在线观看| 在线看日韩欧美| 国产欧美日韩中文| 亚洲国产中文字幕在线观看| 国产日韩在线视频| 免费97视频在线精品国自产拍| 久久精品亚洲国产| 国内精品久久久久久中文字幕| 中文字幕亚洲一区在线观看| 日韩人体视频一二区| 91精品国产91久久久久| 国产精品高潮视频| 国产免费观看久久黄| 成人中心免费视频| 国产成人精品在线播放| 国产一区二区三区高清在线观看| 国产91精品视频在线观看| 亚洲欧美自拍一区| 国产经典一区二区| 国产视频欧美视频| 日韩欧美在线免费| 亚洲老板91色精品久久| 国产精品欧美激情| 欧美在线不卡区| 日韩美女中文字幕| 日韩在线视频网| 欧美日韩色婷婷| 欧美性猛交xxxx黑人| 国产999在线| 国内精品美女av在线播放| 8x海外华人永久免费日韩内陆视频| 欧美福利在线观看| 成人激情视频免费在线| 国产视频亚洲精品| 国产美女精品视频| 欧美成人久久久| 欧美一区二区三区免费观看| 欧美天天综合色影久久精品| 55夜色66夜色国产精品视频| 亚洲深夜福利在线| 国产精品日日做人人爱| 亚洲成人精品视频在线观看| 国产精品久久久久免费a∨大胸| 亚洲自拍高清视频网站| 亚洲精品不卡在线| 久久久人成影片一区二区三区观看| 欧美剧在线观看| 欧美精品手机在线| 亚洲成人网久久久|