Nginx+NFS及Redis和分布式文件系统Moosefs有哪些优缺点

Nginx+NFS及redis和分布式文件系统Moosefs有哪些优缺点,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。

成都创新互联提供网站建设、网站制作、网页设计,品牌网站设计广告投放等致力于企业网站建设与公司网站制作,十多年的网站开发和建站经验,助力企业信息化建设,成功案例突破成百上千,是您实现网站建设的好选择.

大量小文件存储一直是典型的应用场景之一,现在有3KW的数据,单条数据都很小的,如果按key-value来看的话,key就是32位的MD5字符串,value按平均算大概是100字节左右。下面创新互联小编来讲解下Nginx+NFS、Redis和分布式文件系统Moosefs有哪些优缺点?

Nginx+NFS、Redis和分布式文件系统Moosefs有哪些优缺点

1、直接生成静态文件,利用nginx对静态文件的高效做静态缓存。

当时服务器硬件资源有限,所以就采用这种方式,一直源用至今。

服务器间通过NFS来共享

太多小文件,不方便管理

NFS不方便运维与扩展

文件内容很小(100字节左右),3KW大概就是2.5G大小左右

不过文件存储的时候和硬盘分区的族大小有关,在这里磁盘分区的族大小为8K,所以尽管文件内容只有100字节,但是实际存储到磁盘上的时候单个文件其实是8K

所以3KW的文件世界占的磁盘空间大约为:200G左右(严重浪费空间啊)

2、Redis(V2.2.11)【KV数据库】

听同事说开启VM会使性能急剧下降,所以基本无视VM,数据全放内存。

key为32位MD5字符串

测试数据:10W数据大概占内存20M

测试数据:500W数据大概占内存1G,持久化的rdb数据文件大概350M

推算3KW数据:内存6G,持久化的rdb数据文件大概为2G(压缩了?)

因为Redis在持久化的时候内存会加倍,和考虑到数据的增长,所以需要1台20G内存的机器基本就没问题了(容灾啥的另算)。

Redis非常快,如果硬件条件没问题,基本选这个最好了。

Nginx+NFS、Redis和分布式文件系统Moosefs有哪些优缺点

3、Moosefs(MFS)【分布式文件存储系统】

mfs支持NFS的方式mount到本地直接操作(如使用mfs,则现在的架构基本不用改)

最基本的需要一台主控服务器(MasterServer)、一台数据服务器(ChunkServer)

文件和目录的索引需要全部加载到主控服务器的内存中,所以对主控服务器的内存有一定的要求

写入30W文件,到20W的时候写入就开始下降得厉害了(我的5400转的笔记本硬盘)

30W文件,4W目录,主控服务器占用大概120M内存

文件存储方式貌似和普遍的文件一样单个存储的(不确定),30W文件大概占了2.4G的磁盘空间(同样是8K一个文件)。

小文件一样很多,不方便维护与迁移(不知是否我设置不对?)。

内存、硬盘都占用得比较多,而且性能相对来说不是很出众。

所以这个基本不考虑了。

看完上述内容,你们掌握Nginx+NFS及Redis和分布式文件系统Moosefs有哪些优缺点的方法了吗?如果还想学到更多技能或想了解更多相关内容,欢迎关注创新互联行业资讯频道,感谢各位的阅读!


网页题目:Nginx+NFS及Redis和分布式文件系统Moosefs有哪些优缺点
当前URL:http://pwwzsj.com/article/gesgos.html