opiuytr1 发表于 2017-1-4 10:00:46

Hadoop学习--通过API上传文件--day04

import java.io.BufferedInputStream;
import java.io.BufferedOutputStream;
import java.io.ByteArrayOutputStream;
import java.io.FileInputStream;
import java.io.InputStream;
import java.net.URL;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataInputStream;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.FsUrlStreamHandlerFactory;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;
import org.junit.Test;

/**
* 通过API实现文件上传
* @author Administrator
*
*/
public class putfile {

        /**
       * 通过API上传数据
       *
       * @author Administrator
       *
       * $ hdfs dfs -chmod -R a+w /user/hadoop
       * $ hdfs dfs -ls -R /
       *
       *
       */
        @Test
        public void putFile() throws Exception {
//创建configuration对象,有个默认的加载顺序,先从core-default.xml,再到src目录中的文件,这里
//我们给定了
      Configuration conf = new Configuration();
//通过conf的configuration对象创建了该分布式文件系统fs,默认如果不指定文件的话为本地文件系统
      FileSystem fs = FileSystem.get(conf);
      //定义一个URL的字符串,上传文件的目录
      String file = "hdfs://hadoop01:9000/user/hadoop/data2/shengfenzhao.jpg";
      //通过一个URL的字符串构建一个path对象
      Path path = new Path(file);
      FSDataOutputStream out = fs.create(path);
      IOUtils.copyBytes(new FileInputStream("E:/zhaopian.jpg"), out, 1024);
      //其他方法一
//      byte[] bys = new byte;
//      int len = 0;
//      while((len = (new FileInputStream("E:/zhaopian.jpg")).read(bys)) !=-1) {
//              out.write(bys, 0, len);
//      }
      //其他方法二
//      BufferedInputStream bis = new BufferedInputStream(new FileInputStream("E:/zhaopian.jpg"));
//      BufferedOutputStream bos = new BufferedOutputStream(out);
//      int len =0;
//      while((len=bis.read())!=-1){
//              bos.write(len);
//      }
   }
}

页: [1]
查看完整版本: Hadoop学习--通过API上传文件--day04