TestFileOutputCommitter.java
上传用户:quxuerui
上传日期:2018-01-08
资源大小:41811k
文件大小:4k
源码类别:

网格计算

开发平台:

Java

  1. /**
  2.  * Licensed to the Apache Software Foundation (ASF) under one
  3.  * or more contributor license agreements.  See the NOTICE file
  4.  * distributed with this work for additional information
  5.  * regarding copyright ownership.  The ASF licenses this file
  6.  * to you under the Apache License, Version 2.0 (the
  7.  * "License"); you may not use this file except in compliance
  8.  * with the License.  You may obtain a copy of the License at
  9.  *
  10.  *     http://www.apache.org/licenses/LICENSE-2.0
  11.  *
  12.  * Unless required by applicable law or agreed to in writing, software
  13.  * distributed under the License is distributed on an "AS IS" BASIS,
  14.  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  15.  * See the License for the specific language governing permissions and
  16.  * limitations under the License.
  17.  */
  18. package org.apache.hadoop.mapred;
  19. import java.io.*;
  20. import junit.framework.TestCase;
  21. import org.apache.hadoop.fs.*;
  22. import org.apache.hadoop.io.*;
  23. public class TestFileOutputCommitter extends TestCase {
  24.   private static Path outDir = new Path(
  25.      System.getProperty("test.build.data", "."), "output");
  26.   // A random task attempt id for testing.
  27.   private static String attempt = "attempt_200707121733_0001_m_000000_0";
  28.   private static TaskAttemptID taskID = TaskAttemptID.forName(attempt);
  29.   @SuppressWarnings("unchecked")
  30.   public void testCommitter() throws Exception {
  31.     JobConf job = new JobConf();
  32.     job.set("mapred.task.id", attempt);
  33.     job.setOutputCommitter(FileOutputCommitter.class);
  34.     FileOutputFormat.setOutputPath(job, outDir);
  35.     JobContext jContext = new JobContext(job, taskID.getJobID());
  36.     TaskAttemptContext tContext = new TaskAttemptContext(job, taskID);
  37.     FileOutputCommitter committer = new FileOutputCommitter();
  38.     FileOutputFormat.setWorkOutputPath(job, 
  39.       committer.getTempTaskOutputPath(tContext));
  40.     committer.setupJob(jContext);
  41.     committer.setupTask(tContext);
  42.     String file = "test.txt";
  43.     // A reporter that does nothing
  44.     Reporter reporter = Reporter.NULL;
  45.     FileSystem localFs = FileSystem.getLocal(job);
  46.     TextOutputFormat theOutputFormat = new TextOutputFormat();
  47.     RecordWriter theRecordWriter =
  48.       theOutputFormat.getRecordWriter(localFs, job, file, reporter);
  49.     Text key1 = new Text("key1");
  50.     Text key2 = new Text("key2");
  51.     Text val1 = new Text("val1");
  52.     Text val2 = new Text("val2");
  53.     NullWritable nullWritable = NullWritable.get();
  54.     try {
  55.       theRecordWriter.write(key1, val1);
  56.       theRecordWriter.write(null, nullWritable);
  57.       theRecordWriter.write(null, val1);
  58.       theRecordWriter.write(nullWritable, val2);
  59.       theRecordWriter.write(key2, nullWritable);
  60.       theRecordWriter.write(key1, null);
  61.       theRecordWriter.write(null, null);
  62.       theRecordWriter.write(key2, val2);
  63.     } finally {
  64.       theRecordWriter.close(reporter);
  65.     }
  66.     committer.commitTask(tContext);
  67.     committer.cleanupJob(jContext);
  68.     
  69.     File expectedFile = new File(new Path(outDir, file).toString());
  70.     StringBuffer expectedOutput = new StringBuffer();
  71.     expectedOutput.append(key1).append('t').append(val1).append("n");
  72.     expectedOutput.append(val1).append("n");
  73.     expectedOutput.append(val2).append("n");
  74.     expectedOutput.append(key2).append("n");
  75.     expectedOutput.append(key1).append("n");
  76.     expectedOutput.append(key2).append('t').append(val2).append("n");
  77.     String output = UtilsForTests.slurp(expectedFile);
  78.     assertEquals(output, expectedOutput.toString());
  79.   }
  80.   public static void main(String[] args) throws Exception {
  81.     new TestFileOutputCommitter().testCommitter();
  82.   }
  83. }