Hbase常用参数是什么-创新互联

这篇文章给大家分享的是有关Hbase常用参数是什么的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。

大宁ssl适用于网站、小程序/APP、API接口等需要进行数据传输应用场景,ssl证书未来市场广阔!成为创新互联的ssl证书销售渠道,可以享受市场价格4-6折优惠!如果有意向欢迎电话联系或者加微信:028-86922220(备注:SSL证书合作)期待与您的合作!

参数列表:

hbase.client.write.buffer          写入是BUFFER大小,默认2M,一般2-5M左右,插入时先插入缓存即表示完成,明显速度比不使用缓存要快
hbase.client.scanner.caching   通过ResultScanner获取结果的时候,默认next()方法一次一条,通过设置cache,一次可以多条,默认值100,这个值越大,需要内存越多
hbase.master.handler.count    Master RPC数量
hbase.regionserver.handler.count  regionserver RPC数量
hbase.regionserver.global.memstore.upperLimit,  默认0.4表示memstore最多使用JAVA HEAP的40%
hbase.regionserver.global.memstore.lowerLimit,  默认0.38 表示使用到了38%就要进行刷盘了
hbase.hregion.memstore.flush.size                        默认128M,当memstore 使用达到128M,就刷新为Hfile,并关闭次memstore
hbase.hregion.max.filesize                                     HFILE大值,超过了就要split
hbase.hstore.compactionThreshold                       默认3, 一个region下有3个HFILE就会合并
hbase.hstore.blockingStoreFiles                             默认10, 如果达到这个数字,就会阻塞插入和更新,等待合并完成, 但是这个参数不是强制性的,看下面的blockwait time
hbase.hstore.blockingWaitTime                               默认90秒,如果超过这个时间合并还没有完成,重启启用更新插入
hbase.hregion.majorcompaction                            默认7天,有公式来支撑,大致是比较当前时间和HFILE时间做比较,看是否有超过7天
hfile.block.cache.size                                               读缓存,默认java heap的40% 
IncreasingToUpperBoundRegionSplitPolicy      split policy, 默认值, 如果要关闭自动SPLIT,建议使用第三种策略,然后增大HFILE大大小,这样自动SPLIT基本就关闭了
KeyPrefixRegionSplitPolicy
ConstantSizeRegionSplitPolicy


以上这些参数通常都要根据业务情况进行微调,不需要太大调整,要完整的说怎么使用,不太可能,业务不同,规则不同。

比如BLOCK CACHE,读缓存,按照数据库的规则来说,譬如MySQL, ORACLE,我们希望这个值的命中率为99%, 但是对HBASE来说99%基本不可能,有些大的表可能就偶尔做一次SCAN,数据进入内存之后,把其他经常需要缓存的数据刷出去了,这种情况,建议关闭这种表的BLOCK CACHE, 那如果有些表经常要读,可能我们希望会设置IN MEMORY。 

再比如memstore为128M,是否这个值能否修改为256? 或者64 ? 我觉得是看刷新频率,如果你几秒钟就128M了,我觉得是否这个值应该加大,另外minor合并默认为3,是否小了? 修改为5,或者8或者更大是否合适呢?  

感谢各位的阅读!关于“Hbase常用参数是什么”这篇文章就分享到这里了,希望以上内容可以对大家有一定的帮助,让大家可以学到更多知识,如果觉得文章不错,可以把它分享出去让更多的人看到吧!


文章标题:Hbase常用参数是什么-创新互联
标题路径:http://pwwzsj.com/article/dohjji.html