FileSplit.java
上传用户:quxuerui
上传日期:2018-01-08
资源大小:41811k
文件大小:3k
源码类别:

网格计算

开发平台:

Java

  1. /**
  2.  * Licensed to the Apache Software Foundation (ASF) under one
  3.  * or more contributor license agreements.  See the NOTICE file
  4.  * distributed with this work for additional information
  5.  * regarding copyright ownership.  The ASF licenses this file
  6.  * to you under the Apache License, Version 2.0 (the
  7.  * "License"); you may not use this file except in compliance
  8.  * with the License.  You may obtain a copy of the License at
  9.  *
  10.  *     http://www.apache.org/licenses/LICENSE-2.0
  11.  *
  12.  * Unless required by applicable law or agreed to in writing, software
  13.  * distributed under the License is distributed on an "AS IS" BASIS,
  14.  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  15.  * See the License for the specific language governing permissions and
  16.  * limitations under the License.
  17.  */
  18. package org.apache.hadoop.mapreduce.lib.input;
  19. import java.io.IOException;
  20. import java.io.DataInput;
  21. import java.io.DataOutput;
  22. import org.apache.hadoop.mapreduce.InputFormat;
  23. import org.apache.hadoop.mapreduce.InputSplit;
  24. import org.apache.hadoop.mapreduce.TaskAttemptContext;
  25. import org.apache.hadoop.fs.Path;
  26. import org.apache.hadoop.io.Text;
  27. import org.apache.hadoop.io.Writable;
  28. /** A section of an input file.  Returned by {@link
  29.  * InputFormat#getSplits(JobContext)} and passed to
  30.  * {@link InputFormat#createRecordReader(InputSplit,TaskAttemptContext)}. */
  31. public class FileSplit extends InputSplit implements Writable {
  32.   private Path file;
  33.   private long start;
  34.   private long length;
  35.   private String[] hosts;
  36.   FileSplit() {}
  37.   /** Constructs a split with host information
  38.    *
  39.    * @param file the file name
  40.    * @param start the position of the first byte in the file to process
  41.    * @param length the number of bytes in the file to process
  42.    * @param hosts the list of hosts containing the block, possibly null
  43.    */
  44.   public FileSplit(Path file, long start, long length, String[] hosts) {
  45.     this.file = file;
  46.     this.start = start;
  47.     this.length = length;
  48.     this.hosts = hosts;
  49.   }
  50.  
  51.   /** The file containing this split's data. */
  52.   public Path getPath() { return file; }
  53.   
  54.   /** The position of the first byte in the file to process. */
  55.   public long getStart() { return start; }
  56.   
  57.   /** The number of bytes in the file to process. */
  58.   @Override
  59.   public long getLength() { return length; }
  60.   @Override
  61.   public String toString() { return file + ":" + start + "+" + length; }
  62.   ////////////////////////////////////////////
  63.   // Writable methods
  64.   ////////////////////////////////////////////
  65.   @Override
  66.   public void write(DataOutput out) throws IOException {
  67.     Text.writeString(out, file.toString());
  68.     out.writeLong(start);
  69.     out.writeLong(length);
  70.   }
  71.   @Override
  72.   public void readFields(DataInput in) throws IOException {
  73.     file = new Path(Text.readString(in));
  74.     start = in.readLong();
  75.     length = in.readLong();
  76.     hosts = null;
  77.   }
  78.   @Override
  79.   public String[] getLocations() throws IOException {
  80.     if (this.hosts == null) {
  81.       return new String[]{};
  82.     } else {
  83.       return this.hosts;
  84.     }
  85.   }
  86. }