TestStreamingExitStatus.java
上传用户:quxuerui
上传日期:2018-01-08
资源大小:41811k
文件大小:3k
源码类别:

网格计算

开发平台:

Java

  1. /**
  2.  * Licensed to the Apache Software Foundation (ASF) under one
  3.  * or more contributor license agreements.  See the NOTICE file
  4.  * distributed with this work for additional information
  5.  * regarding copyright ownership.  The ASF licenses this file
  6.  * to you under the Apache License, Version 2.0 (the
  7.  * "License"); you may not use this file except in compliance
  8.  * with the License.  You may obtain a copy of the License at
  9.  *
  10.  *     http://www.apache.org/licenses/LICENSE-2.0
  11.  *
  12.  * Unless required by applicable law or agreed to in writing, software
  13.  * distributed under the License is distributed on an "AS IS" BASIS,
  14.  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  15.  * See the License for the specific language governing permissions and
  16.  * limitations under the License.
  17.  */
  18. package org.apache.hadoop.streaming;
  19. import junit.framework.TestCase;
  20. import java.io.*;
  21. import java.util.*;
  22. import org.apache.hadoop.conf.Configuration;
  23. import org.apache.hadoop.fs.FileSystem;
  24. import org.apache.hadoop.fs.Path;
  25. /**
  26.  * This class tests if hadoopStreaming fails a job when the mapper or
  27.  * reducers have non-zero exit status and the
  28.  * stream.non.zero.exit.status.is.failure jobconf is set.
  29.  */
  30. public class TestStreamingExitStatus extends TestCase
  31. {
  32.   protected File INPUT_FILE = new File("input.txt");
  33.   protected File OUTPUT_DIR = new File("out");  
  34.   protected String failingTask = StreamUtil.makeJavaCommand(FailApp.class, new String[]{"true"});
  35.   protected String echoTask = StreamUtil.makeJavaCommand(FailApp.class, new String[]{"false"});
  36.   public TestStreamingExitStatus() throws IOException {
  37.     UtilTest utilTest = new UtilTest(getClass().getName());
  38.     utilTest.checkUserDir();
  39.     utilTest.redirectIfAntJunit();
  40.   }
  41.   protected String[] genArgs(boolean exitStatusIsFailure, boolean failMap) {
  42.     return new String[] {
  43.       "-input", INPUT_FILE.getAbsolutePath(),
  44.       "-output", OUTPUT_DIR.getAbsolutePath(),
  45.       "-mapper", (failMap ? failingTask : echoTask),
  46.       "-reducer", (failMap ? echoTask : failingTask),
  47.       "-jobconf", "keep.failed.task.files=true",
  48.       "-jobconf", "stream.non.zero.exit.is.failure=" + exitStatusIsFailure,
  49.       "-jobconf", "stream.tmpdir="+System.getProperty("test.build.data","/tmp")
  50.     };
  51.   }
  52.   public void setUp() throws IOException {
  53.     UtilTest.recursiveDelete(INPUT_FILE);
  54.     UtilTest.recursiveDelete(OUTPUT_DIR);
  55.     
  56.     FileOutputStream out = new FileOutputStream(INPUT_FILE.getAbsoluteFile());
  57.     out.write("hellon".getBytes());
  58.     out.close();
  59.   }
  60.   public void runStreamJob(boolean exitStatusIsFailure, boolean failMap) {
  61.     try {
  62.       boolean mayExit = false;
  63.       int returnStatus = 0;
  64.       StreamJob job = new StreamJob(genArgs(exitStatusIsFailure, failMap), mayExit);
  65.       returnStatus = job.go();
  66.       
  67.       if (exitStatusIsFailure) {
  68.         assertEquals("Streaming Job failure code expected", /*job not successful:*/1, returnStatus);
  69.       } else {
  70.         assertEquals("Streaming Job expected to succeed", 0, returnStatus);
  71.       }
  72.     } catch (Exception e) {
  73.       failTrace(e);
  74.     }
  75.   }
  76.   
  77.   public void testMapFailOk() {
  78.     runStreamJob(false, true);
  79.   }
  80.   
  81.   public void testMapFailNotOk() {
  82.     runStreamJob(true, true);
  83.   }
  84.   
  85.   public void testReduceFailOk() {
  86.     runStreamJob(false, false);
  87.   }
  88.   
  89.   public void testReduceFailNotOk() {
  90.     runStreamJob(true, false);
  91.   }  
  92.   
  93.   protected void failTrace(Exception e) {
  94.     StringWriter sw = new StringWriter();
  95.     e.printStackTrace(new PrintWriter(sw));
  96.     fail(sw.toString());
  97.   }
  98. }