Hadoop学习--通过API得到文件系统状态--day04

import java.io.ByteArrayOutputStream;

创新互联公司长期为上千多家客户提供的网站建设服务,团队从业经验10年,关注不同地域、不同群体,并针对不同对象提供差异化的产品和服务;打造开放共赢平台,与合作伙伴共同营造健康的互联网生态环境。为奈曼企业提供专业的网站设计制作、成都做网站,奈曼网站改版等技术服务。拥有10余年丰富建站经验和众多成功案例,为您定制开发。

import java.io.InputStream;

import java.net.URL;

import org.apache.hadoop.conf.Configuration;

import org.apache.hadoop.fs.BlockLocation;

import org.apache.hadoop.fs.FSDataInputStream;

import org.apache.hadoop.fs.FileStatus;

import org.apache.hadoop.fs.FileSystem;

import org.apache.hadoop.fs.FsUrlStreamHandlerFactory;

import org.apache.hadoop.fs.Path;

import org.apache.hadoop.io.IOUtils;

import org.junit.Test;

/**

 * 测试hadoop文件系统的API

 * @author Administrator

 *

 */

public class readfilestatus {

/**

* 通过filesystem对象API读取HDFS文件数据

* @author Administrator

* 1.创建configuration对象,注意这里如果涉及到某些参数,需要自己书写指定在src目录下

* 2.利用filesystem的get方法来获取filesystem对象,get方法一共有三种(关键)

* 3.利用filesystem的open方法打开一个数据输入流,方法过程中需要一个path对象的参数传递(关键)

* 4.利用ioutils工具类实现文件的输出

*/

@Test

public void read() throws Exception {

//创建configuration对象,有个默认的加载顺序,先从core-default.xml,再到src目录中的文件,这里

//我们给定了

        Configuration conf = new Configuration();

        //可以手动添加指定的配置文件

//        conf.addResource("my-core-site.xml");

//通过conf的configuration对象创建了该分布式文件系统fs,默认如果不指定文件的话为本地文件系统

        FileSystem fs = FileSystem.get(conf);

        //定义一个URL的字符串

        String file = "hdfs://hadoop01/user/hadoop/data2/demo.txt";

        //通过一个URL的字符串构建一个path对象,其实就是文件的地址

        Path path = new Path(file);

        //得到制定路径下面的文件的状态

        FileStatus st = fs.getFileStatus(path);

        System.out.println("st.getBlockSize() = " + st.getBlockSize());

        System.out.println("st.getAccessTime() = " + st.getAccessTime());

        System.out.println("st.getGroup() = " + st.getGroup());

        System.out.println("st.getLen() = " + st.getLen());

        System.out.println("st.getModificationTime() = " + st.getModificationTime());

        System.out.println("st.getOwner() = " + st.getOwner());

        System.out.println("st.getReplication() = " + st.getReplication());

        System.out.println("st.getClass() = " + st.getClass());

        System.out.println("st.getPath() = " + st.getPath());

        System.out.println("st.getPermission() = " + st.getPermission());

        System.out.println("-----------------------------------");

//        System.out.println("st.getSymlink() = " + st.getSymlink());

        //得到指定文件状态的块位置信息集合

        //把整个文件从0字节开始到整个文件的全长的字节

        BlockLocation[] locations = fs.getFileBlockLocations(st, 0, st.getLen());

        for(BlockLocation block : locations){

        System.out.println(block.getLength());

        System.out.println(block.getOffset());

        System.out.println(block.getCachedHosts());

        System.out.println(block.getHosts());

        System.out.println(block.getNames());

        System.out.println(block.getTopologyPaths());

        }

   }

}


名称栏目:Hadoop学习--通过API得到文件系统状态--day04
转载来于:http://pwwzsj.com/article/jgsddh.html