hadoop扩充磁盘操作记录

记录cloudera扩充磁盘

公司主营业务:成都做网站、成都网站制作、移动网站开发等业务。帮助企业客户真正实现互联网宣传,提高企业的竞争能力。创新互联是一支青春激扬、勤奋敬业、活力青春激扬、勤奋敬业、活力澎湃、和谐高效的团队。公司秉承以“开放、自由、严谨、自律”为核心的企业文化,感谢他们对我们的高要求,感谢他们从不同领域给我们带来的挑战,让我们激情的团队有机会用头脑与智慧不断的给客户带来惊喜。创新互联推出开平免费做网站回馈大家。

1、4台主机,每台主机增加一块2TB的硬盘

2、首先简单说明步骤

       A、分区,挂载(挂载目录(名称,路径)要一致)

       B、在挂载的分区内,建立对应的文件夹,并授权

       C、在cdh的hdfs配置界面,配置新增hdfs的目录,然后部署客户端配置,滚动重启

3、操作步骤

分区(LVM逻辑卷):

       # pvcreate /dev/sdc

       # vgcreage Vgroup03 /dev/sdc

       # lvcreate –n cdh01 –L +1.8T Vgroup03

       # mkfs.ext4 /dev/mapper/Vgroup03-cdh01

挂载(一定要按照这个顺序输入):

       # mkdir /cdh01

       #mount /dev/mapper/Vgroup01-cdh01 /cdh01

开机自动挂载

#vim /etc/fstab

       插入 /dev/mapper/Vgroup03-cdh01 /cdh01 ext4 defaults 0 1

       保存,退出

建文件夹:

       # mkdir /cdh01/dfs

       #mdkir /cdh01/dfs/dn

授权:

       # chown -R hdfs:hadoop /cdh01/dfs/

----------4台主机做同样的操作,分区挂载目录要一致-----------

登陆cdh,从集群中,选择HDFS

在中间的部分选择配置选项

在左侧的菜单栏中,选择DataNode Default Group

在已经有的目录后面的“+”号点新增一个目录,然后输入我们已经挂载好的目录,保存。

选择实例选项

选中DataNode的实例,选择滚动重启

重启完毕后,到HDFS集群的界面去看下,应该已经成功了

Datanode group“高级”,在右边的datanode卷选择策略中,选择“可用空间”,这样,后面的两个属性(“10G字节”和“0.75”)就会发挥作用,用于平衡各个卷中空间使用。

hadoop扩充磁盘操作记录


网页名称:hadoop扩充磁盘操作记录
文章出自:http://pwwzsj.com/article/ghjsih.html