TestStreamXmlRecordReader.java
上传用户:quxuerui
上传日期:2018-01-08
资源大小:41811k
文件大小:3k
源码类别:

网格计算

开发平台:

Java

  1. /**
  2.  * Licensed to the Apache Software Foundation (ASF) under one
  3.  * or more contributor license agreements.  See the NOTICE file
  4.  * distributed with this work for additional information
  5.  * regarding copyright ownership.  The ASF licenses this file
  6.  * to you under the Apache License, Version 2.0 (the
  7.  * "License"); you may not use this file except in compliance
  8.  * with the License.  You may obtain a copy of the License at
  9.  *
  10.  *     http://www.apache.org/licenses/LICENSE-2.0
  11.  *
  12.  * Unless required by applicable law or agreed to in writing, software
  13.  * distributed under the License is distributed on an "AS IS" BASIS,
  14.  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  15.  * See the License for the specific language governing permissions and
  16.  * limitations under the License.
  17.  */
  18. package org.apache.hadoop.streaming;
  19. import java.io.File;
  20. import java.io.FileOutputStream;
  21. import java.io.IOException;
  22. /**
  23.  * This class tests StreamXmlRecordReader
  24.  * The test creates an XML file, uses StreamXmlRecordReader and compares
  25.  * the expected output against the generated output
  26.  */
  27. public class TestStreamXmlRecordReader extends TestStreaming
  28. {
  29.   private StreamJob job;
  30.   public TestStreamXmlRecordReader() throws IOException {
  31.     INPUT_FILE = new File("input.xml");
  32.     input = "<xmltag>tnroses.are.redtnviolets.are.bluetnbunnies.are.pinktn</xmltag>tn";
  33.   }
  34.   
  35.   protected void createInput() throws IOException
  36.   {
  37.     FileOutputStream out = new FileOutputStream(INPUT_FILE.getAbsoluteFile());
  38.     String dummyXmlStartTag = "<PATTERN>n";
  39.     String dummyXmlEndTag = "</PATTERN>n";
  40.     out.write(dummyXmlStartTag.getBytes("UTF-8"));
  41.     out.write(input.getBytes("UTF-8"));
  42.     out.write(dummyXmlEndTag.getBytes("UTF-8"));
  43.     out.close();
  44.   }
  45.   protected String[] genArgs() {
  46.     return new String[] {
  47.       "-input", INPUT_FILE.getAbsolutePath(),
  48.       "-output", OUTPUT_DIR.getAbsolutePath(),
  49.       "-mapper","cat", 
  50.       "-reducer", "NONE", 
  51.       "-inputreader", "StreamXmlRecordReader,begin=<xmltag>,end=</xmltag>"
  52.     };
  53.   }
  54.   public void testCommandLine() {
  55.     try {
  56.       try {
  57.         OUTPUT_DIR.getAbsoluteFile().delete();
  58.       } catch (Exception e) {
  59.       }
  60.       createInput();
  61.       job = new StreamJob(genArgs(), false);
  62.       job.go();
  63.       File outFile = new File(OUTPUT_DIR, "part-00000").getAbsoluteFile();
  64.       String output = StreamUtil.slurp(outFile);
  65.       outFile.delete();
  66.       assertEquals(input, output);
  67.     } catch (Exception e) {
  68.       e.printStackTrace();
  69.     } finally {
  70.       INPUT_FILE.delete();
  71.       File outFileCRC = new File(OUTPUT_DIR, ".part-00000.crc").getAbsoluteFile();
  72.       outFileCRC.delete();
  73.       OUTPUT_DIR.getAbsoluteFile().delete();
  74.     }
  75.   }
  76.   public static void main(String[]args) throws Exception
  77.   {
  78.     new TestStreamXmlRecordReader().testCommandLine();
  79.   }
  80. }