设为首页收藏本站

LUPA开源社区

 找回密码
 注册
文章 帖子 博客
查看: 32218|回复: 10

把MongoDB当成纯内存数据库使用

[复制链接]
 楼主| 发表于 2014-5-15 10:29:00 | 显示全部楼层 |阅读模式

将MongoDB用作内存数据库(in-memory database),也即,根本就不让MongoDB把数据保存到磁盘中的这种用法,引起了越来越多的人的兴趣。


这种用法对于以下应用场合来讲,超实用:


置于慢速RDBMS系统之前的写操作密集型高速缓存


嵌入式系统


无需持久化数据的PCI兼容系统


需要轻量级数据库而且库中数据可以很容易清除掉的单元测试(unit testing)


如果这一切可以实现就真是太优雅了:我们就能够巧妙地在不涉及磁盘操作的情况下利用MongoDB的查询/检索功能。可能你也知道,在99%的情况下,磁盘IO(特别是随机IO)是系统的瓶颈,而且,如果你要写入数据的话,磁盘操作是无法避免的。


MongoDB有一个非常酷的设计决策,就是她可以使用内存影射文件(memory-mapped file)来处理对磁盘文件中数据的读写请求。这也就是说,MongoDB并不对RAM和磁盘这两者进行区别对待,只是将文件看作一个巨大的数组,然后按照字节为单位访问其中的数据,剩下的都交由操作系统(OS)去处理!就是这个设计决策,才使得MongoDB可以无需任何修改就能够运行于RAM之中。


实现方法


这一切都是通过使用一种叫做tmpfs的特殊类型文件系统实现的。在Linux中它看上去同常规的文件系统(FS)一样,只是它完全位于RAM中(除非其大小超过了RAM的大小,此时它还可以进行swap,这个非常有用!)。我的服务器中有32GB的RAM,下面让我们创建一个16GB的 tmpfs:

  1. # mkdir /ramdata
  2. # mount -t tmpfs -o size=16000M tmpfs /ramdata/
  3. # df
  4. Filesystem           1K-blocks      Used Available Use% Mounted on
  5. /dev/xvde1             5905712   4973924    871792  86% /
  6. none                  15344936         0  15344936   0% /dev/shm
  7. tmpfs                 16384000         0  16384000   0% /ramdata
复制代码

接下来要用适当的设置启动MongoDB。为了减小浪费的RAM数量,应该把smallfiles和noprealloc设置为true。既然现在是基于RAM的,这么做完全不会降低性能。此时再使用journal就毫无意义了,所以应该把nojournal设置为true。

  1. dbpath=/ramdata
  2. nojournal = true
  3. smallFiles = true
  4. noprealloc = true
复制代码

MongoDB启动之后,你会发现她运行得非常好,文件系统中的文件也正如期待的那样出现了:

  1. # mongo
  2. MongoDB shell version: 2.3.2
  3. connecting to: test
  4. > db.test.insert({a:1})
  5. > db.test.find()
  6. { "_id" : ObjectId("51802115eafa5d80b5d2c145"), "a" : 1 }
  7. # ls -l /ramdata/
  8. total 65684
  9. -rw-------. 1 root root 16777216 Apr 30 15:52 local.0
  10. -rw-------. 1 root root 16777216 Apr 30 15:52 local.ns
  11. -rwxr-xr-x. 1 root root        5 Apr 30 15:52 mongod.lock
  12. -rw-------. 1 root root 16777216 Apr 30 15:52 test.0
  13. -rw-------. 1 root root 16777216 Apr 30 15:52 test.ns
  14. drwxr-xr-x. 2 root root       40 Apr 30 15:52 _tmp
复制代码

现在让我们添加一些数据,证实一下其运行完全正常。我们先创建一个1KB的document,然后将它添加到MongoDB中4百万次:

  1. > str = ""
  2. > aaa = "aaaaaaaaaa"
  3. aaaaaaaaaa
  4. > for (var i = 0; i < 100; ++i) { str += aaa; }
  5. > for (var i = 0; i < 4000000; ++i) { db.foo.insert({a: Math.random(), s: str});}
  6. > db.foo.stats()
  7. {
  8.         "ns" : "test.foo",
  9.         "count" : 4000000,
  10.         "size" : 4544000160,
  11.         "avgObjSize" : 1136.00004,
  12.         "storageSize" : 5030768544,
  13.         "numExtents" : 26,
  14.         "nindexes" : 1,
  15.         "lastExtentSize" : 536600560,
  16.         "paddingFactor" : 1,
  17.         "systemFlags" : 1,
  18.         "userFlags" : 0,
  19.         "totalIndexSize" : 129794000,
  20.         "indexSizes" : {
  21.                 "_id_" : 129794000
  22.         },
  23.         "ok" : 1
  24. }
复制代码

可以看出,其中的document平均大小为1136字节,数据总共占用了5GB的空间。_id之上的索引大小为130MB。现在我们需要验证一件 非常重要的事情:RAM中的数据有没有重复,是不是在MongoDB和文件系统中各保存了一份?还记得MongoDB并不会在她自己的进程内缓存任何数据,她的数据只会缓存到文件系统的缓存之中。那我们来清除一下文件系统的缓存,然后看看RAM中还有有什么数据:

  1. # echo 3 > /proc/sys/vm/drop_caches  
  2. # free
  3.              total       used       free     shared    buffers     cached
  4. Mem:      30689876    6292780   24397096          0       1044    5817368
  5. -/+ buffers/cache:     474368   30215508
  6. Swap:            0          0          0
复制代码

可以看到,在已使用的6.3GB的RAM中,有5.8GB用于了文件系统的缓存(缓冲区,buffer)。为什么即使在清除所有缓存之后,系统中仍然还有5.8GB的文件系统缓存??其原因是,Linux非常聪明,她不会在tmpfs和缓存中保存重复的数据。太棒了!这就意味着,你在RAM只有一份数据。下面我们访问一下所有的document,并验证一下,RAM的使用情况不会发生变化:

  1. > db.foo.find().itcount()
  2. 4000000
  3. # free
  4.              total       used       free     shared    buffers     cached
  5. Mem:      30689876    6327988   24361888          0       1324    5818012
  6. -/+ buffers/cache:     508652   30181224
  7. Swap:            0          0          0
  8. # ls -l /ramdata/
  9. total 5808780
  10. -rw-------. 1 root root  16777216 Apr 30 15:52 local.0
  11. -rw-------. 1 root root  16777216 Apr 30 15:52 local.ns
  12. -rwxr-xr-x. 1 root root         5 Apr 30 15:52 mongod.lock
  13. -rw-------. 1 root root  16777216 Apr 30 16:00 test.0
  14. -rw-------. 1 root root  33554432 Apr 30 16:00 test.1
  15. -rw-------. 1 root root 536608768 Apr 30 16:02 test.10
  16. -rw-------. 1 root root 536608768 Apr 30 16:03 test.11
  17. -rw-------. 1 root root 536608768 Apr 30 16:03 test.12
  18. -rw-------. 1 root root 536608768 Apr 30 16:04 test.13
  19. -rw-------. 1 root root 536608768 Apr 30 16:04 test.14
  20. -rw-------. 1 root root  67108864 Apr 30 16:00 test.2
  21. -rw-------. 1 root root 134217728 Apr 30 16:00 test.3
  22. -rw-------. 1 root root 268435456 Apr 30 16:00 test.4
  23. -rw-------. 1 root root 536608768 Apr 30 16:01 test.5
  24. -rw-------. 1 root root 536608768 Apr 30 16:01 test.6
  25. -rw-------. 1 root root 536608768 Apr 30 16:04 test.7
  26. -rw-------. 1 root root 536608768 Apr 30 16:03 test.8
  27. -rw-------. 1 root root 536608768 Apr 30 16:02 test.9
  28. -rw-------. 1 root root  16777216 Apr 30 15:52 test.ns
  29. drwxr-xr-x. 2 root root        40 Apr 30 16:04 _tmp
  30. # df
  31. Filesystem           1K-blocks      Used Available Use% Mounted on
  32. /dev/xvde1             5905712   4973960    871756  86% /
  33. none                  15344936         0  15344936   0% /dev/shm
  34. tmpfs                 16384000   5808780  10575220  36% /ramdata
复制代码

果不其然! :)


复制(replication)呢?


既然服务器在重启时RAM中的数据都会丢失,所以你可能会想使用复制。采用标准的副本集(replica set)就能够获得自动故障转移(failover),还能够提高数据读取能力(read capacity)。如果有服务器重启了,它就可以从同一个副本集中另外一个服务器中读取数据从而重建自己的数据(重新同步,resync)。即使在大量数据和索引的情况下,这个过程也会足够快,因为索引操作都是在RAM中进行的 :)


有一点很重要,就是写操作会写入一个特殊的叫做oplog的collection,它位于local数据库之中。缺省情况下,它的大小是总数据量的5%。在我这种情况下,oplog会占有16GB的5%,也就是800MB的空间。在拿不准的情况下,比较安全的做法是,可以使用oplogSize这个选项为oplog选择一个固定的大小。如果备选服务器宕机时间超过了oplog的容量,它就必须要进行重新同步了。要把它的大小设置为1GB,可以这样:


oplogSize = 1000


分片(sharding)呢?


既然拥有了MongoDB所有的查询功能,那么用它来实现一个大型的服务要怎么弄?你可以随心所欲地使用分片来实现一个大型可扩展的内存数据库。配置服务器(保存着数据块分配情况)还还是用过采用基于磁盘的方案,因为这些服务器的活动数量不大,老从头重建集群可不好玩。


注意事项


RAM属稀缺资源,而且在这种情况下你一定想让整个数据集都能放到RAM中。尽管tmpfs具有借助于磁盘交换(swapping)的能力,但其性能下降将非常显著。为了充分利用RAM,你应该考虑:


使用usePowerOf2Sizes选项对存储bucket进行规范化


定期运行compact命令或者对节点进行重新同步(resync)


schema的设计要相当规范化(以避免出现大量比较大的document)


结论


宝贝,你现在就能够将MongoDB用作内存数据库了,而且还能使用她的所有功能!性能嘛,应该会相当惊人:我在单线程/核的情况下进行测试,可以达到每秒20K个写入的速度,而且增加多少个核就会再增加多少倍的写入速度。





查看原文





去LUPA人才芯片工程逛逛吧:www.lupa.cn
发表于 2014-5-15 13:57:57 | 显示全部楼层
还是挺实用的
发表于 2014-5-15 14:04:08 | 显示全部楼层
可以这样吗?
发表于 2014-5-15 14:10:41 | 显示全部楼层
还蛮有意思的,试试看
发表于 2014-5-15 14:21:30 | 显示全部楼层
照着试试看
发表于 2014-5-15 14:27:57 | 显示全部楼层
这也太棒了吧
发表于 2014-5-15 14:33:40 | 显示全部楼层
纯内存数据库?可以吗?
发表于 2014-5-15 14:40:55 | 显示全部楼层
这样都行,太逗了
发表于 2014-5-15 14:55:40 | 显示全部楼层
还能这么用,太神奇了吧
发表于 2014-5-15 15:00:06 | 显示全部楼层
好,来试试看
您需要登录后才可以回帖 登录 | 注册

本版积分规则

关于LUPA|人才芯片工程|人才招聘|LUPA认证|LUPA教育|LUPA开源社区 ( 浙B2-20090187  

快速回复 返回顶部 返回列表