TestDFSFinalize.java
上传用户:quxuerui
上传日期:2018-01-08
资源大小:41811k
文件大小:5k
源码类别:

网格计算

开发平台:

Java

  1. /**
  2. * Licensed to the Apache Software Foundation (ASF) under one
  3. * or more contributor license agreements.  See the NOTICE file
  4. * distributed with this work for additional information
  5. * regarding copyright ownership.  The ASF licenses this file
  6. * to you under the Apache License, Version 2.0 (the
  7. * "License"); you may not use this file except in compliance
  8. * with the License.  You may obtain a copy of the License at
  9. *
  10. *     http://www.apache.org/licenses/LICENSE-2.0
  11. *
  12. * Unless required by applicable law or agreed to in writing, software
  13. * distributed under the License is distributed on an "AS IS" BASIS,
  14. * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  15. * See the License for the specific language governing permissions and
  16. * limitations under the License.
  17. */
  18. package org.apache.hadoop.hdfs;
  19. import java.io.File;
  20. import java.io.IOException;
  21. import junit.framework.TestCase;
  22. import org.apache.commons.logging.Log;
  23. import org.apache.commons.logging.LogFactory;
  24. import org.apache.hadoop.conf.Configuration;
  25. import static org.apache.hadoop.hdfs.server.common.HdfsConstants.NodeType.NAME_NODE;
  26. import static org.apache.hadoop.hdfs.server.common.HdfsConstants.NodeType.DATA_NODE;
  27. import org.apache.hadoop.hdfs.server.common.HdfsConstants.StartupOption;
  28. /**
  29.  * This test ensures the appropriate response from the system when 
  30.  * the system is finalized.
  31.  */
  32. public class TestDFSFinalize extends TestCase {
  33.  
  34.   private static final Log LOG = LogFactory.getLog(
  35.                                                    "org.apache.hadoop.hdfs.TestDFSFinalize");
  36.   private Configuration conf;
  37.   private int testCounter = 0;
  38.   private MiniDFSCluster cluster = null;
  39.     
  40.   /**
  41.    * Writes an INFO log message containing the parameters.
  42.    */
  43.   void log(String label, int numDirs) {
  44.     LOG.info("============================================================");
  45.     LOG.info("***TEST " + (testCounter++) + "*** " 
  46.              + label + ":"
  47.              + " numDirs="+numDirs);
  48.   }
  49.   
  50.   /**
  51.    * Verify that the current directory exists and that the previous directory
  52.    * does not exist.  Verify that current hasn't been modified by comparing 
  53.    * the checksum of all it's containing files with their original checksum.
  54.    * Note that we do not check that previous is removed on the DataNode
  55.    * because its removal is asynchronous therefore we have no reliable
  56.    * way to know when it will happen.  
  57.    */
  58.   void checkResult(String[] nameNodeDirs, String[] dataNodeDirs) throws IOException {
  59.     for (int i = 0; i < nameNodeDirs.length; i++) {
  60.       assertTrue(new File(nameNodeDirs[i],"current").isDirectory());
  61.       assertTrue(new File(nameNodeDirs[i],"current/VERSION").isFile());
  62.       assertTrue(new File(nameNodeDirs[i],"current/edits").isFile());
  63.       assertTrue(new File(nameNodeDirs[i],"current/fsimage").isFile());
  64.       assertTrue(new File(nameNodeDirs[i],"current/fstime").isFile());
  65.     }
  66.     for (int i = 0; i < dataNodeDirs.length; i++) {
  67.       assertEquals(
  68.                    UpgradeUtilities.checksumContents(
  69.                                                      DATA_NODE, new File(dataNodeDirs[i],"current")),
  70.                    UpgradeUtilities.checksumMasterContents(DATA_NODE));
  71.     }
  72.     for (int i = 0; i < nameNodeDirs.length; i++) {
  73.       assertFalse(new File(nameNodeDirs[i],"previous").isDirectory());
  74.     }
  75.   }
  76.  
  77.   /**
  78.    * This test attempts to finalize the NameNode and DataNode.
  79.    */
  80.   public void testFinalize() throws Exception {
  81.     UpgradeUtilities.initialize();
  82.     
  83.     for (int numDirs = 1; numDirs <= 2; numDirs++) {
  84.       /* This test requires that "current" directory not change after
  85.        * the upgrade. Actually it is ok for those contents to change.
  86.        * For now disabling block verification so that the contents are 
  87.        * not changed.
  88.        */
  89.       conf = new Configuration();
  90.       conf.setInt("dfs.datanode.scan.period.hours", -1);
  91.       conf = UpgradeUtilities.initializeStorageStateConf(numDirs, conf);
  92.       String[] nameNodeDirs = conf.getStrings("dfs.name.dir");
  93.       String[] dataNodeDirs = conf.getStrings("dfs.data.dir");
  94.       
  95.       log("Finalize with existing previous dir", numDirs);
  96.       UpgradeUtilities.createStorageDirs(NAME_NODE, nameNodeDirs, "current");
  97.       UpgradeUtilities.createStorageDirs(NAME_NODE, nameNodeDirs, "previous");
  98.       UpgradeUtilities.createStorageDirs(DATA_NODE, dataNodeDirs, "current");
  99.       UpgradeUtilities.createStorageDirs(DATA_NODE, dataNodeDirs, "previous");
  100.       cluster = new MiniDFSCluster(conf, 1, StartupOption.REGULAR);
  101.       cluster.finalizeCluster(conf);
  102.       checkResult(nameNodeDirs, dataNodeDirs);
  103.       log("Finalize without existing previous dir", numDirs);
  104.       cluster.finalizeCluster(conf);
  105.       checkResult(nameNodeDirs, dataNodeDirs);
  106.       cluster.shutdown();
  107.       UpgradeUtilities.createEmptyDirs(nameNodeDirs);
  108.       UpgradeUtilities.createEmptyDirs(dataNodeDirs);
  109.     } // end numDir loop
  110.   }
  111.  
  112.   protected void tearDown() throws Exception {
  113.     LOG.info("Shutting down MiniDFSCluster");
  114.     if (cluster != null) cluster.shutdown();
  115.   }
  116.   
  117.   public static void main(String[] args) throws Exception {
  118.     new TestDFSFinalize().testFinalize();
  119.   }
  120.   
  121. }