MapReduce工作机制相关知识点有哪些
本篇内容主要讲解“MapReduce工作机制相关知识点有哪些”,感兴趣的朋友不妨来看看。本文介绍的方法操作简单快捷,实用性强。下面就让小编来带大家学习“MapReduce工作机制相关知识点有哪些”吧!
创新互联专注于企业成都全网营销、网站重做改版、合水网站定制设计、自适应品牌网站建设、H5场景定制、商城系统网站开发、集团公司官网建设、外贸营销网站建设、高端网站制作、响应式网页设计等建站业务,价格优惠性价比高,为合水等各大城市提供网站开发制作服务。
作业的提交
可以只用一行代码来运行一个MapReduce作业:
JobClient.runJob(conf)。
作业的调度
Hadoop作业调度演进
1、早期版本的Hadoop使用FIFO调度算法来运行作业
早期版本的Hadoop使用一种非常简单的方法来调度用户的作业:
按照作业提交的顺序,使用FIFO(先进先出)调度算法来运行作业。
2、随后,通过设置mapred.job.priority或JobClient的setJobPriority()方法来设置优先级
3、Hadoop的调度器种类
在Hadoop中,MapReduce的调度器可以选择。
1)、默认的调度器是原始的基于队列的FIFO调度器。
2)、Fair Scheduler 公平调度器
3)、Capacity Scheduler
MapReduce的工作机制相关知识点:
1、通过调用什么代码运行一个MapReduce作业?
JobClient.runJob(conf);
2、hadoop运行作业的整个过程图解
3、hadoop运行作业的整个过程包含几个独立的实体?
它包含以下4个独立的实体:
1)、客户端:提交MapReduce作业。
2)、jobtracker:协调作业的运行。
jobtracker是一个Java应用程序,它的主类是JobTracker。
3)、tasktracker:运行作业划分后的任务。
tasktracker是一个Java应用程序,它的主类是TaskTracker。
4)、分布式文件系统(一般为HDFS)
用来在其他实体间共享作业文件。
到此,相信大家对“MapReduce工作机制相关知识点有哪些”有了更深的了解,不妨来实际操作一番吧!这里是创新互联网站,更多相关内容可以进入相关频道进行查询,关注我们,继续学习!
新闻名称:MapReduce工作机制相关知识点有哪些
网页地址:http://pwwzsj.com/article/pihhgg.html