hadoopreduce个数控制怎么实现
本篇内容介绍了“hadoop reduce个数控制怎么实现”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!
网站的建设创新互联建站专注网站定制,经验丰富,不做模板,主营网站定制开发.小程序定制开发,H5页面制作!给你焕然一新的设计体验!已为人造雾等企业提供专业服务。
1、参数变更
1.x 参数名 2.x 参数名
mapred.tasktracker.reduce.tasks.maximum mapreduce.tasktracker.reduce.tasks.maximum
mapred.reduce.tasks mapreduce.job.reduces
2、参数设置
2.1、mapred.tasktracker.reduce.tasks.maximum设置为逻辑CPU个数
2.2.1、 hadoop 服务器端参数设定
mapred.reduce.tasks <= mapred.tasktracker.reduce.tasks.maximum <= 单台 datanode 逻辑cpu个数
2.2.2、应用端调用 job. setNumReduceTasks(int n) 方法指定
“hadoop reduce个数控制怎么实现”的内容就介绍到这里了,感谢大家的阅读。如果想了解更多行业相关的知识可以关注创新互联网站,小编将为大家输出更多高质量的实用文章!
分享题目:hadoopreduce个数控制怎么实现
网页链接:http://pwwzsj.com/article/joghps.html