亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb

首頁 > 數據庫 > MongoDB > 正文

MongoDB磁盤IO問題的3種解決方法

2020-10-29 18:43:44
字體:
來源:轉載
供稿:網友

IO概念

在數據庫優化和存儲規劃過程中,總會提到IO的一些重要概念,在這里就詳細記錄一下,對這個概念的熟悉程度也決定了對數據庫與存儲優化的理解程度,以下這些概念并非權威文檔,權威程度肯定就不能說了。

讀/寫IO,最為常見說法,讀IO,就是發指令,從磁盤讀取某段扇區的內容。指令一般是通知磁盤開始扇區位置,然后給出需要從這個初始扇區往后讀取的連續扇區個數,同時給出動作是讀,還是寫。磁盤收到這條指令,就會按照指令的要求,讀或者寫數據??刂破靼l出的這種指令+數據,就是一次IO,讀或者寫。

大/小塊IO,指控制器的指令中給出的連續讀取扇區數目的多少,如果數目很大,比如128,64等等,就應該算是大塊IO,如果很小,比如1, 4,8等等,就應該算是小塊IO,大塊和小塊之間,沒有明確的界限。

連續/隨機IO,連續和隨機,是指本次IO給出的初始扇區地址,和上一次IO的結束扇區地址,是不是完全連續的,或者相隔不多的,如果是,則本次IO應該算是一個連續IO,如果相差太大,則算一次隨機IO。連續IO,因為本次初始扇區和上次結束扇區相隔很近,則磁頭幾乎不用換道或換道時間極短;如果相差太大,則磁頭需要很長的換道時間,如果隨機IO很多,導致磁頭不停換道,效率大大降底。

順序/并發IO,這個的意思是,磁盤控制器每一次對磁盤組發出的指令套(指完成一個事物所需要的指令或者數據),是一條還是多條。如果是一條,則控制器緩存中的IO隊列,只能一個一個的來,此時是順序IO;如果控制器可以同時對磁盤組中的多塊磁盤,同時發出指令套,則每次就可以執行多個IO,此時就是并發IO模式。并發IO模式提高了效率和速度。

IO并發幾率。單盤,IO并發幾率為0,因為一塊磁盤同時只可以進行一次IO。對于raid0,2塊盤情況下,條帶深度比較大的時候(條帶太小不能并發IO,下面會講到),并發2個IO的幾率為1/2。其他情況請自行運算。

IOPS。一個IO所用的時間=尋道時間+數據傳輸時間。 IOPS=IO并發系數/(尋道時間+數據傳輸時間),由于尋道時間相對傳輸時間,大幾個數量級,所以影響IOPS的關鍵因素,就是降底尋道時間,而在連續IO的情況下,尋道時間很短,僅在換磁道時候需要尋道。在這個前提下,傳輸時間越少,IOPS就越高。

每秒IO吞吐量。顯然,每秒IO吞吐量=IOPS乘以平均IO SIZE。 Io size越大,IOPS越高,每秒IO吞吐量就越高。設磁頭每秒讀寫數據速度為V,V為定值。則IOPS=IO并發系數/(尋道時間+IO SIZE/V),代入,得每秒IO吞吐量=IO并發系數乘IO SIZE乘V/(V乘尋道時間+IO SIZE)。我們可以看出影響每秒IO吞吐量的最大因素,就是IO SIZE和尋道時間,IO SIZE越大,尋道時間越小,吞吐量越高。相比能顯著影響IOPS的因素,只有一個,就是尋道時間。

MongoDB磁盤IO問題的3種解決方法

1.使用組合式的大文檔

我們知道MongoDB是一個文檔數據庫,其每一條記錄都是一個JSON格式的文檔。比如像下面的例子,每一天會生成一條這樣的統計數據:

  { metric: content_count, client: 5, value: 51, date: ISODate(2012-04-01 13:00) }

  { metric: content_count, client: 5, value: 49, date: ISODate(2012-04-02 13:00) }

而如果采用組合式大文檔的話,就可以這樣將一個月的數據全部存到一條記錄里:

  { metric: content_count, client: 5, month: 2012-04, 1: 51, 2: 49, ... }

通過上面兩種方式存儲,預先一共存儲大約7GB的數據(機器只有1.7GB的內存),測試讀取一年信息,這二者的讀性能差別很明顯:

  第一種: 1.6秒

  第二種: 0.3秒

  那么問題在哪里呢?

實際上原因是組合式的存儲在讀取數據的時候,可以讀取更少的文檔數量。而讀取文檔如果不能完全在內存中的話,其代價主要是被花在磁盤seek上,第一種存儲方式在獲取一年數據時,需要讀取的文檔數更多,所以磁盤seek的數量也越多。所以更慢。

實際上MongoDB的知名使用者foursquare就大量采用這種方式來提升讀性能。

2.采用特殊的索引結構

我們知道,MongoDB和傳統數據庫一樣,都是采用B樹作為索引的數據結構。對于樹形的索引來說,保存熱數據使用到的索引在存儲上越集中,索引浪費掉的內存也越小。所以我們對比下面兩種索引結構:

  db.metrics.ensureIndex({ metric: 1, client: 1, date: 1}) 與 db.metrics.ensureIndex({ date: 1, metric: 1, client: 1 })

采用這兩種不同的結構,在插入性能上的差別也很明顯。

當采用第一種結構時,數據量在2千萬以下時,能夠基本保持10k/s 的插入速度,而當數據量再增大,其插入速度就會慢慢降低到2.5k/s,當數據量再增大時,其性能可能會更低。

而采用第二種結構時,插入速度能夠基本穩定在10k/s。

其原因是第二種結構將date字段放在了索引的第一位,這樣在構建索引時,新數據更新索引時,不是在中間去更新的,只是在索引的尾巴處進行修改。那些插入時間過早的索引在后續的插入操作中幾乎不需要進行修改。而第一種情況下,由于date字段不在最前面,所以其索引更新經常是發生在樹結構的中間,導致索引結構會經常進行大規模的變化。

3.預留空間

與第1點相同,這一點同樣是考慮到傳統機械硬盤的主要操作時間是花在磁盤seek操作上。

比如還是拿第1點中的例子來說,我們在插入數據的時候,預先將這一年的數據需要的空間都一次性插入。這能保證我們這一年12個月的數據是在一條記錄中,是順序存儲在磁盤上的,那么在讀取的時候,我們可能只需要一次對磁盤的順序讀操作就能夠讀到一年的數據,相比前面的12次讀取來說,磁盤seek也只有一次。

  db.metrics.insert([  { metric: content_count, client: 3, date: 2012-01, 0: 0, 1: 0, 2: 0, ... }  { .................................., date:  { .................................., date:  { .................................., date:  { .................................., date:  { .................................., date:  { .................................., date:  { .................................., date:  { .................................., date:  { .................................., date:  { .................................., date:  { .................................., date:  ])

結果:

  如果不采用預留空間的方式,讀取一年的記錄需要62ms

  如果采用預留空間的方式,讀取一年的記錄只需要6.6ms

總結

以上就是這篇文章的全部內容了,希望本文的內容對大家的學習或者工作具有一定的參考學習價值,如果有疑問大家可以留言交流,謝謝大家對武林網的支持。

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb
国产主播在线一区| 亚洲国产美女久久久久| 97人人爽人人喊人人模波多| 日韩免费av片在线观看| 日韩亚洲一区二区| 日韩亚洲综合在线| 欧美成人免费在线观看| 久久夜色精品国产亚洲aⅴ| 国产精品一区av| 欧美日韩国产一区中文午夜| 国产精品91久久久| 欧美精品在线播放| 日韩美女免费观看| 丁香五六月婷婷久久激情| 亚洲一区二区三区四区在线播放| 亚洲欧美制服中文字幕| 亚洲电影免费观看高清完整版| 成人在线一区二区| 亚洲国产成人在线播放| 国产精品一区二区3区| 国产日韩精品一区二区| 日韩欧美中文免费| 91精品啪aⅴ在线观看国产| 在线中文字幕日韩| 97人洗澡人人免费公开视频碰碰碰| 久久这里有精品视频| 国产精品久久久久免费a∨大胸| 亚洲国产精品成人av| 欧美超级乱淫片喷水| 国产精品网址在线| 亚洲国产古装精品网站| 亚洲综合精品一区二区| 亚洲男人天堂手机在线| 欧美电影免费观看高清| 国产日韩av在线播放| 亚洲天堂av网| 欧美性色视频在线| 国产一区二区三区四区福利| 欧美成人剧情片在线观看| 成人免费午夜电影| 欧美精品久久一区二区| 欧美理论电影网| 国产日韩欧美视频在线| 亚洲成人aaa| 中文字幕欧美专区| 日本免费一区二区三区视频观看| 日韩电影免费观看中文字幕| 国产精品免费福利| 欧美黑人xxxx| 成人情趣片在线观看免费| 亚洲国产天堂久久国产91| 视频在线观看一区二区| 久久久精品久久久久| 亚洲www视频| 成人国产精品一区二区| 全色精品综合影院| 日本国产欧美一区二区三区| 日本亚洲欧美成人| 在线丨暗呦小u女国产精品| 92看片淫黄大片欧美看国产片| 日韩国产精品亚洲а∨天堂免| 91av在线免费观看视频| 欧美在线播放视频| 亚洲精品久久7777777| 欧美激情精品久久久久久变态| 啪一啪鲁一鲁2019在线视频| 久久久久国产精品www| 中文字幕日韩有码| 美女黄色丝袜一区| 久久夜色精品国产| 中文字幕日韩在线播放| 亚洲人成电影在线播放| 91在线|亚洲| 欧美日韩国产精品一区二区不卡中文| 北条麻妃在线一区二区| 国产精品视频白浆免费视频| 国外成人免费在线播放| 成人精品在线观看| 亚洲欧美一区二区三区情侣bbw| 美女精品久久久| 91久久久久久久一区二区| 久久全球大尺度高清视频| 欧美精品videos| 国产精品久久久久久久久男| 中文字幕精品www乱入免费视频| 日韩在线视频导航| 久久久久久高潮国产精品视| 国产精品一区二区三区久久| 91精品国产综合久久香蕉的用户体验| 欧美成人剧情片在线观看| 色琪琪综合男人的天堂aⅴ视频| 最近更新的2019中文字幕| 国产精品一区二区三区久久久| 欧洲精品久久久| 91精品久久久久久综合乱菊| 亚洲综合色激情五月| 一区二区三区天堂av| 亚洲性夜色噜噜噜7777| 美女扒开尿口让男人操亚洲视频网站| 456亚洲影院| 色哟哟网站入口亚洲精品| 日韩在线高清视频| 欧美激情精品久久久久久大尺度| 伊人久久久久久久久久| 美女性感视频久久久| 久久中文字幕一区| 韩国欧美亚洲国产| 91av在线精品| 日本一区二区三区四区视频| www.日韩视频| 国产精品精品一区二区三区午夜版| 久久久999精品视频| 国产97色在线|日韩| 97视频国产在线| 91超碰caoporn97人人| 日韩中文字幕精品视频| 欧美专区在线观看| 欧美理论在线观看| 久久免费成人精品视频| 日日摸夜夜添一区| 91免费的视频在线播放| 久久久免费高清电视剧观看| 久色乳综合思思在线视频| 欧美做爰性生交视频| 久久久久久香蕉网| 97久久伊人激情网| 欧美日韩在线视频观看| 亚洲免费av网址| 国产精品久久久久久久app| 57pao国产精品一区| 亚洲日本欧美日韩高观看| 韩国欧美亚洲国产| 亚洲a∨日韩av高清在线观看| 日韩在线免费视频观看| 午夜精品美女自拍福到在线| 欧美精品福利视频| 欧美激情网站在线观看| 国产精品wwwwww| 久久久天堂国产精品女人| 成人综合网网址| 欧美成人免费全部观看天天性色| 欧美性猛交xxxx富婆弯腰| 日韩欧美国产网站| 久久久中精品2020中文| 亚洲精品国产综合区久久久久久久| 欧美日韩综合视频| 成人av.网址在线网站| 夜夜躁日日躁狠狠久久88av| 久久精品国产亚洲一区二区| 1769国内精品视频在线播放| 精品成人在线视频| 国产精品国产福利国产秒拍| 欧美小视频在线| 91成人国产在线观看| 国产精品久久久久久久久久久久| 久久久伊人欧美| 日本精品视频网站| 草民午夜欧美限制a级福利片| 97av视频在线| 日韩视频在线免费| 亚洲二区中文字幕| 欧美日韩国产一区在线| 精品国产福利视频| 性欧美亚洲xxxx乳在线观看|