TestStreamingCounters.java
上传用户:quxuerui
上传日期:2018-01-08
资源大小:41811k
文件大小:2k
源码类别:

网格计算

开发平台:

Java

  1. /**
  2.  * Licensed to the Apache Software Foundation (ASF) under one
  3.  * or more contributor license agreements.  See the NOTICE file
  4.  * distributed with this work for additional information
  5.  * regarding copyright ownership.  The ASF licenses this file
  6.  * to you under the Apache License, Version 2.0 (the
  7.  * "License"); you may not use this file except in compliance
  8.  * with the License.  You may obtain a copy of the License at
  9.  *
  10.  *     http://www.apache.org/licenses/LICENSE-2.0
  11.  *
  12.  * Unless required by applicable law or agreed to in writing, software
  13.  * distributed under the License is distributed on an "AS IS" BASIS,
  14.  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  15.  * See the License for the specific language governing permissions and
  16.  * limitations under the License.
  17.  */
  18. package org.apache.hadoop.streaming;
  19. import java.io.File;
  20. import java.io.IOException;
  21. import org.apache.hadoop.mapred.Counters;
  22. import org.apache.hadoop.mapred.Counters.Counter;
  23. import org.apache.hadoop.mapred.Counters.Group;
  24. /**
  25.  * This class tests streaming counters in MapReduce local mode.
  26.  */
  27. public class TestStreamingCounters extends TestStreaming {
  28.   public TestStreamingCounters() throws IOException {
  29.     super();
  30.   }
  31.   public void testCommandLine() throws IOException
  32.   {
  33.     try {
  34.       try {
  35.         OUTPUT_DIR.getAbsoluteFile().delete();
  36.       } catch (Exception e) {
  37.       }
  38.       createInput();
  39.       boolean mayExit = false;
  40.       // During tests, the default Configuration will use a local mapred
  41.       // So don't specify -config or -cluster
  42.       StreamJob job = new StreamJob(genArgs(), mayExit);      
  43.       job.go();
  44.       File outFile = new File(OUTPUT_DIR, "part-00000").getAbsoluteFile();
  45.       String output = StreamUtil.slurp(outFile);
  46.       outFile.delete();
  47.       assertEquals(outputExpect, output);
  48.       
  49.       Counters counters = job.running_.getCounters();
  50.       assertNotNull("Counters", counters);
  51.       Group group = counters.getGroup("UserCounters");
  52.       assertNotNull("Group", group);
  53.       Counter counter = group.getCounterForName("InputLines");
  54.       assertNotNull("Counter", counter);
  55.       assertEquals(3, counter.getCounter());
  56.     } finally {
  57.       File outFileCRC = new File(OUTPUT_DIR, ".part-00000.crc").getAbsoluteFile();
  58.       INPUT_FILE.delete();
  59.       outFileCRC.delete();
  60.       OUTPUT_DIR.getAbsoluteFile().delete();
  61.     }
  62.   }
  63.   
  64. }