亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb

首頁 > 數據庫 > Redis > 正文

將MongoDB作為Redis式的內存數據庫的使用方法

2020-03-17 12:42:03
字體:
來源:轉載
供稿:網友
這篇文章主要介紹了將MongoDB作為Redis式的內存數據庫的使用方法,原理其實只是將內存虛擬作為磁盤,需要的朋友可以參考下
 

 基本思想

將MongoDB用作內存數據庫(in-memory database),也即,根本就不讓MongoDB把數據保存到磁盤中的這種用法,引起了越來越多的人的興趣。這種用法對于以下應用場合來講,超實用:

  •     置于慢速RDBMS系統之前的寫操作密集型高速緩存
  •     嵌入式系統
  •     無需持久化數據的PCI兼容系統
  •     需要輕量級數據庫而且庫中數據可以很容易清除掉的單元測試(unit testing)

如果這一切可以實現就真是太優雅了:我們就能夠巧妙地在不涉及磁盤操作的情況下利用MongoDB的查詢/檢索功能??赡苣阋仓?,在99%的情況下,磁盤IO(特別是隨機IO)是系統的瓶頸,而且,如果你要寫入數據的話,磁盤操作是無法避免的。

MongoDB有一個非??岬脑O計決策,就是她可以使用內存影射文件(memory-mapped file)來處理對磁盤文件中數據的讀寫請求。這也就是說,MongoDB并不對RAM和磁盤這兩者進行區別對待,只是將文件看作一個巨大的數組,然后按照字節為單位訪問其中的數據,剩下的都交由操作系統(OS)去處理!就是這個設計決策,才使得MongoDB可以無需任何修改就能夠運行于RAM之中。

實現方法

這一切都是通過使用一種叫做tmpfs的特殊類型文件系統實現的。在Linux中它看上去同常規的文件系統(FS)一樣,只是它完全位于RAM中(除非其大小超過了RAM的大小,此時它還可以進行swap,這個非常有用!)。我的服務器中有32GB的RAM,下面讓我們創建一個16GB的 tmpfs:

 

復制代碼代碼如下:
# mkdir /ramdata
# mount -t tmpfs -o size=16000M tmpfs /ramdata/
# df
Filesystem           1K-blocks      Used Available Use% Mounted on
/dev/xvde1             5905712   4973924    871792  86% /
none                  15344936         0  15344936   0% /dev/shm
tmpfs                 16384000         0  16384000   0% /ramdata

 

接下來要用適當的設置啟動MongoDB。為了減小浪費的RAM數量,應該把smallfiles和noprealloc設置為true。既然現在是基于RAM的,這么做完全不會降低性能。此時再使用journal就毫無意義了,所以應該把nojournal設置為true。

 

復制代碼代碼如下:
dbpath=/ramdata
nojournal = true
smallFiles = true
noprealloc = true

 

MongoDB啟動之后,你會發現她運行得非常好,文件系統中的文件也正如期待的那樣出現了:

 

復制代碼代碼如下:
# mongo
MongoDB shell version: 2.3.2
connecting to: test
> db.test.insert({a:1})
> db.test.find()
{ "_id" : ObjectId("51802115eafa5d80b5d2c145"), "a" : 1 }

 

# ls -l /ramdata/
total 65684
-rw-------. 1 root root 16777216 Apr 30 15:52 local.0
-rw-------. 1 root root 16777216 Apr 30 15:52 local.ns
-rwxr-xr-x. 1 root root        5 Apr 30 15:52 mongod.lock
-rw-------. 1 root root 16777216 Apr 30 15:52 test.0
-rw-------. 1 root root 16777216 Apr 30 15:52 test.ns
drwxr-xr-x. 2 root root       40 Apr 30 15:52 _tmp

 

現在讓我們添加一些數據,證實一下其運行完全正常。我們先創建一個1KB的document,然后將它添加到MongoDB中4百萬次:

 

復制代碼代碼如下:
> str = ""

 

> aaa = "aaaaaaaaaa"
aaaaaaaaaa
> for (var i = 0; i < 100; ++i) { str += aaa; }

> for (var i = 0; i < 4000000; ++i) { db.foo.insert({a: Math.random(), s: str});}
> db.foo.stats()
{
        "ns" : "test.foo",
        "count" : 4000000,
        "size" : 4544000160,
        "avgObjSize" : 1136.00004,
        "storageSize" : 5030768544,
        "numExtents" : 26,
        "nindexes" : 1,
        "lastExtentSize" : 536600560,
        "paddingFactor" : 1,
        "systemFlags" : 1,
        "userFlags" : 0,
        "totalIndexSize" : 129794000,
        "indexSizes" : {
                "_id_" : 129794000
        },
        "ok" : 1
}

 


可以看出,其中的document平均大小為1136字節,數據總共占用了5GB的空間。_id之上的索引大小為130MB?,F在我們需要驗證一件 非常重要的事情:RAM中的數據有沒有重復,是不是在MongoDB和文件系統中各保存了一份?還記得MongoDB并不會在她自己的進程內緩存任何數據,她的數據只會緩存到文件系統的緩存之中。那我們來清除一下文件系統的緩存,然后看看RAM中還有有什么數據:

 

復制代碼代碼如下:
# echo 3 > /proc/sys/vm/drop_caches 
# free
             total       used       free     shared    buffers     cached
Mem:      30689876    6292780   24397096          0       1044    5817368
-/+ buffers/cache:     474368   30215508
Swap:            0          0          0

 

可以看到,在已使用的6.3GB的RAM中,有5.8GB用于了文件系統的緩存(緩沖區,buffer)。為什么即使在清除所有緩存之后,系統中仍然還有5.8GB的文件系統緩存??其原因是,Linux非常聰明,她不會在tmpfs和緩存中保存重復的數據。太棒了!這就意味著,你在RAM只有一份數據。下面我們訪問一下所有的document,并驗證一下,RAM的使用情況不會發生變化:

 

復制代碼代碼如下:
> db.foo.find().itcount()
4000000

 

# free
             total       used       free     shared    buffers     cached
Mem:      30689876    6327988   24361888          0       1324    5818012
-/+ buffers/cache:     508652   30181224
Swap:            0          0          0
# ls -l /ramdata/
total 5808780
-rw-------. 1 root root  16777216 Apr 30 15:52 local.0
-rw-------. 1 root root  16777216 Apr 30 15:52 local.ns
-rwxr-xr-x. 1 root root         5 Apr 30 15:52 mongod.lock
-rw-------. 1 root root  16777216 Apr 30 16:00 test.0
-rw-------. 1 root root  33554432 Apr 30 16:00 test.1
-rw-------. 1 root root 536608768 Apr 30 16:02 test.10
-rw-------. 1 root root 536608768 Apr 30 16:03 test.11
-rw-------. 1 root root 536608768 Apr 30 16:03 test.12
-rw-------. 1 root root 536608768 Apr 30 16:04 test.13
-rw-------. 1 root root 536608768 Apr 30 16:04 test.14
-rw-------. 1 root root  67108864 Apr 30 16:00 test.2
-rw-------. 1 root root 134217728 Apr 30 16:00 test.3
-rw-------. 1 root root 268435456 Apr 30 16:00 test.4
-rw-------. 1 root root 536608768 Apr 30 16:01 test.5
-rw-------. 1 root root 536608768 Apr 30 16:01 test.6
-rw-------. 1 root root 536608768 Apr 30 16:04 test.7
-rw-------. 1 root root 536608768 Apr 30 16:03 test.8
-rw-------. 1 root root 536608768 Apr 30 16:02 test.9
-rw-------. 1 root root  16777216 Apr 30 15:52 test.ns
drwxr-xr-x. 2 root root        40 Apr 30 16:04 _tmp
# df
Filesystem           1K-blocks      Used Available Use% Mounted on
/dev/xvde1             5905712   4973960    871756  86% /
none                  15344936         0  15344936   0% /dev/shm
tmpfs                 16384000   5808780  10575220  36% /ramdata

 

果不其然! :)

復制(replication)呢?

既然服務器在重啟時RAM中的數據都會丟失,所以你可能會想使用復制。采用標準的副本集(replica set)就能夠獲得自動故障轉移(failover),還能夠提高數據讀取能力(read capacity)。如果有服務器重啟了,它就可以從同一個副本集中另外一個服務器中讀取數據從而重建自己的數據(重新同步,resync)。即使在大量數據和索引的情況下,這個過程也會足夠快,因為索引操作都是在RAM中進行的 :)

有一點很重要,就是寫操作會寫入一個特殊的叫做oplog的collection,它位于local數據庫之中。缺省情況下,它的大小是總數據量的5%。在我這種情況下,oplog會占有16GB的5%,也就是800MB的空間。在拿不準的情況下,比較安全的做法是,可以使用oplogSize這個選項為oplog選擇一個固定的大小。如果備選服務器宕機時間超過了oplog的容量,它就必須要進行重新同步了。要把它的大小設置為1GB,可以這樣:

 

復制代碼代碼如下:
oplogSize = 1000

 

分片(sharding)呢?

既然擁有了MongoDB所有的查詢功能,那么用它來實現一個大型的服務要怎么弄?你可以隨心所欲地使用分片來實現一個大型可擴展的內存數據庫。配置服務器(保存著數據塊分配情況)還還是用過采用基于磁盤的方案,因為這些服務器的活動數量不大,老從頭重建集群可不好玩。
注意事項

RAM屬稀缺資源,而且在這種情況下你一定想讓整個數據集都能放到RAM中。盡管tmpfs具有借助于磁盤交換(swapping)的能力,但其性能下降將非常顯著。為了充分利用RAM,你應該考慮:

  •     使用usePowerOf2Sizes選項對存儲bucket進行規范化
  •     定期運行compact命令或者對節點進行重新同步(resync)
  •     schema的設計要相當規范化(以避免出現大量比較大的document)

結論

寶貝,你現在就能夠將MongoDB用作內存數據庫了,而且還能使用她的所有功能!性能嘛,應該會相當驚人:我在單線程/核的情況下進行測試,可以達到每秒20K個寫入的速度,而且增加多少個核就會再增加多少倍的寫入速度。 


發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb
欧美怡春院一区二区三区| 国产欧美日韩精品在线观看| 精品久久香蕉国产线看观看gif| www亚洲精品| 欧美激情一级二级| 日韩**中文字幕毛片| 国产精品美女在线| 欧美制服第一页| 欧美亚洲在线观看| 国产欧美一区二区三区视频| 97精品久久久中文字幕免费| 欧美日韩国产一区二区三区| 亚洲bt天天射| 欧美日韩午夜视频在线观看| 亚洲久久久久久久久久久| 国产盗摄xxxx视频xxx69| 亚洲欧洲一区二区三区久久| 亚洲乱码国产乱码精品精| 欧美成人午夜激情视频| 欧美主播福利视频| 国产精品电影久久久久电影网| 91在线高清免费观看| 亚洲国产天堂久久国产91| 欧美多人乱p欧美4p久久| 大胆欧美人体视频| 亚洲mm色国产网站| 久久久久久国产精品| 久久香蕉国产线看观看网| 国产精品美女免费视频| 午夜精品一区二区三区在线视| 91在线观看免费高清完整版在线观看| 91免费人成网站在线观看18| 久久免费视频在线| 亚洲男人天堂2024| 中文字幕视频在线免费欧美日韩综合在线看| 在线观看久久av| 精品视频久久久| 亚洲成人国产精品| 久久伊人91精品综合网站| 亚洲人成电影在线| 国产视频精品在线| 日韩精品中文在线观看| 亚洲毛茸茸少妇高潮呻吟| 欧美一级片一区| 亚洲91精品在线观看| 欧美激情日韩图片| 日韩国产在线播放| 欧美中文字幕在线| 精品福利视频导航| 亚洲精品www| 亚洲欧美日韩视频一区| 欧美丰满老妇厨房牲生活| 在线观看国产欧美| 91久久精品久久国产性色也91| 久久亚洲精品一区| 亚洲欧洲在线免费| 亚洲欧美综合精品久久成人| 欧美在线视频网| 欧洲亚洲在线视频| 欧美日韩一区二区精品| 成人国产精品av| 亚洲网站视频福利| 91av免费观看91av精品在线| 国产精品v片在线观看不卡| 福利一区福利二区微拍刺激| 欧美日韩精品在线视频| 欧美小视频在线观看| 久久久久成人精品| 九九精品在线播放| 日韩免费观看视频| 欧美韩日一区二区| 亚洲品质视频自拍网| 欧美精品18videos性欧美| 亚洲a中文字幕| 国产亚洲一区精品| 超碰97人人做人人爱少妇| 久久久久久成人精品| 成人97在线观看视频| 久久夜精品香蕉| 国产精品久久久久久亚洲影视| 亚洲在线观看视频网站| 亚洲精品国产精品国自产观看浪潮| 国产深夜精品福利| 亚洲美女精品成人在线视频| 国产一区二区三区视频在线观看| 久久福利视频导航| 日本最新高清不卡中文字幕| 亚洲视频在线观看网站| 日韩欧中文字幕| 日韩亚洲一区二区| 欧美激情精品久久久久久| 日韩精品免费在线播放| 中文字幕日韩av| 日韩亚洲在线观看| 亚洲国产高清福利视频| 日韩av日韩在线观看| 国产一区二区三区在线播放免费观看| 91夜夜未满十八勿入爽爽影院| 亚洲偷熟乱区亚洲香蕉av| xxav国产精品美女主播| 亚洲男人av电影| 8x海外华人永久免费日韩内陆视频| 亚洲黄色有码视频| 亚洲精品国产suv| 原创国产精品91| 97色在线观看| 国产成人精品一区二区| 精品动漫一区二区三区| 伊人激情综合网| 亚洲黄页视频免费观看| 亚洲综合中文字幕68页| 成人免费福利在线| 中日韩美女免费视频网站在线观看| 欧美性色19p| 欧美自拍大量在线观看| 欧美大片免费看| 51精品国产黑色丝袜高跟鞋| 亚洲欧美精品中文字幕在线| 欧美日韩国产一区在线| 亚洲精品久久久久久下一站| 国产一区二区色| 69久久夜色精品国产69乱青草| 精品视频www| 欧美视频在线观看免费网址| 日本一区二区三区在线播放| 亚洲香蕉伊综合在人在线视看| 国产精品一区久久| 亚洲xxx视频| 粉嫩av一区二区三区免费野| 亚洲欧美色婷婷| 久久精品视频网站| 91精品国产综合久久久久久蜜臀| 91精品国产综合久久男男| 日韩欧美亚洲一二三区| 日韩国产欧美精品一区二区三区| 成人av色在线观看| 久久深夜福利免费观看| 在线看日韩欧美| 久久久久久久久久久免费精品| 欧美日韩成人免费| 这里只有视频精品| 欧美在线观看视频| 国产三级精品网站| 奇门遁甲1982国语版免费观看高清| 亚洲精品美女网站| 午夜精品在线观看| 久久精品国产91精品亚洲| 亚洲视频综合网| 国产欧美日韩丝袜精品一区| 久久久久久69| 在线国产精品播放| 成人xvideos免费视频| 日韩欧美国产一区二区| 91影院在线免费观看视频| 欧美精品在线免费播放| 亚洲精品天天看| 国产精品视频午夜| 国产欧美va欧美va香蕉在线| 欧美精品videos另类日本| 午夜精品美女自拍福到在线| 欧美日韩亚洲国产一区| 亚洲天堂av在线免费| 成人h视频在线| 日本精品中文字幕|