TestRenameWhileOpen.java
上传用户:quxuerui
上传日期:2018-01-08
资源大小:41811k
文件大小:11k
源码类别:

网格计算

开发平台:

Java

  1. /**
  2.  * Licensed to the Apache Software Foundation (ASF) under one
  3.  * or more contributor license agreements.  See the NOTICE file
  4.  * distributed with this work for additional information
  5.  * regarding copyright ownership.  The ASF licenses this file
  6.  * to you under the Apache License, Version 2.0 (the
  7.  * "License"); you may not use this file except in compliance
  8.  * with the License.  You may obtain a copy of the License at
  9.  *
  10.  *     http://www.apache.org/licenses/LICENSE-2.0
  11.  *
  12.  * Unless required by applicable law or agreed to in writing, software
  13.  * distributed under the License is distributed on an "AS IS" BASIS,
  14.  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  15.  * See the License for the specific language governing permissions and
  16.  * limitations under the License.
  17.  */
  18. package org.apache.hadoop.hdfs;
  19. import java.io.IOException;
  20. import org.apache.commons.logging.impl.Log4JLogger;
  21. import org.apache.hadoop.conf.Configuration;
  22. import org.apache.hadoop.fs.FSDataOutputStream;
  23. import org.apache.hadoop.fs.FileSystem;
  24. import org.apache.hadoop.fs.Path;
  25. import org.apache.hadoop.hdfs.server.namenode.FSNamesystem;
  26. import org.apache.hadoop.hdfs.server.namenode.LeaseManager;
  27. import org.apache.hadoop.hdfs.server.namenode.NameNode;
  28. import org.apache.log4j.Level;
  29. public class TestRenameWhileOpen extends junit.framework.TestCase {
  30.   {
  31.     ((Log4JLogger)NameNode.stateChangeLog).getLogger().setLevel(Level.ALL);
  32.     ((Log4JLogger)LeaseManager.LOG).getLogger().setLevel(Level.ALL);
  33.     ((Log4JLogger)FSNamesystem.LOG).getLogger().setLevel(Level.ALL);
  34.   }
  35.   /**
  36.    * open /user/dir1/file1 /user/dir2/file2
  37.    * mkdir /user/dir3
  38.    * move /user/dir1 /user/dir3
  39.    */
  40.   public void testWhileOpenRenameParent() throws IOException {
  41.     Configuration conf = new Configuration();
  42.     final int MAX_IDLE_TIME = 2000; // 2s
  43.     conf.setInt("ipc.client.connection.maxidletime", MAX_IDLE_TIME);
  44.     conf.setInt("heartbeat.recheck.interval", 1000);
  45.     conf.setInt("dfs.heartbeat.interval", 1);
  46.     conf.setInt("dfs.safemode.threshold.pct", 1);
  47.     conf.setBoolean("dfs.support.append", true);
  48.     // create cluster
  49.     System.out.println("Test 1*****************************");
  50.     MiniDFSCluster cluster = new MiniDFSCluster(conf, 1, true, null);
  51.     FileSystem fs = null;
  52.     try {
  53.       cluster.waitActive();
  54.       fs = cluster.getFileSystem();
  55.       final int nnport = cluster.getNameNodePort();
  56.       // create file1.
  57.       Path dir1 = new Path("/user/a+b/dir1");
  58.       Path file1 = new Path(dir1, "file1");
  59.       FSDataOutputStream stm1 = TestFileCreation.createFile(fs, file1, 1);
  60.       System.out.println("testFileCreationDeleteParent: "
  61.           + "Created file " + file1);
  62.       TestFileCreation.writeFile(stm1);
  63.       stm1.sync();
  64.       // create file2.
  65.       Path dir2 = new Path("/user/dir2");
  66.       Path file2 = new Path(dir2, "file2");
  67.       FSDataOutputStream stm2 = TestFileCreation.createFile(fs, file2, 1);
  68.       System.out.println("testFileCreationDeleteParent: "
  69.           + "Created file " + file2);
  70.       TestFileCreation.writeFile(stm2);
  71.       stm2.sync();
  72.       // move dir1 while file1 is open
  73.       Path dir3 = new Path("/user/dir3");
  74.       fs.mkdirs(dir3);
  75.       fs.rename(dir1, dir3);
  76.       // restart cluster with the same namenode port as before.
  77.       // This ensures that leases are persisted in fsimage.
  78.       cluster.shutdown();
  79.       try {Thread.sleep(2*MAX_IDLE_TIME);} catch (InterruptedException e) {}
  80.       cluster = new MiniDFSCluster(nnport, conf, 1, false, true, 
  81.                                    null, null, null);
  82.       cluster.waitActive();
  83.       // restart cluster yet again. This triggers the code to read in
  84.       // persistent leases from fsimage.
  85.       cluster.shutdown();
  86.       try {Thread.sleep(5000);} catch (InterruptedException e) {}
  87.       cluster = new MiniDFSCluster(nnport, conf, 1, false, true, 
  88.                                    null, null, null);
  89.       cluster.waitActive();
  90.       fs = cluster.getFileSystem();
  91.       Path newfile = new Path("/user/dir3/dir1", "file1");
  92.       assertTrue(!fs.exists(file1));
  93.       assertTrue(fs.exists(file2));
  94.       assertTrue(fs.exists(newfile));
  95.       TestFileCreation.checkFullFile(fs, newfile);
  96.     } finally {
  97.       fs.close();
  98.       cluster.shutdown();
  99.     }
  100.   }
  101.   /**
  102.    * open /user/dir1/file1 /user/dir2/file2
  103.    * move /user/dir1 /user/dir3
  104.    */
  105.   public void testWhileOpenRenameParentToNonexistentDir() throws IOException {
  106.     Configuration conf = new Configuration();
  107.     final int MAX_IDLE_TIME = 2000; // 2s
  108.     conf.setInt("ipc.client.connection.maxidletime", MAX_IDLE_TIME);
  109.     conf.setInt("heartbeat.recheck.interval", 1000);
  110.     conf.setInt("dfs.heartbeat.interval", 1);
  111.     conf.setInt("dfs.safemode.threshold.pct", 1);
  112.     conf.setBoolean("dfs.support.append", true);
  113.     System.out.println("Test 2************************************");
  114.     // create cluster
  115.     MiniDFSCluster cluster = new MiniDFSCluster(conf, 1, true, null);
  116.     FileSystem fs = null;
  117.     try {
  118.       cluster.waitActive();
  119.       fs = cluster.getFileSystem();
  120.       final int nnport = cluster.getNameNodePort();
  121.       // create file1.
  122.       Path dir1 = new Path("/user/dir1");
  123.       Path file1 = new Path(dir1, "file1");
  124.       FSDataOutputStream stm1 = TestFileCreation.createFile(fs, file1, 1);
  125.       System.out.println("testFileCreationDeleteParent: "
  126.           + "Created file " + file1);
  127.       TestFileCreation.writeFile(stm1);
  128.       stm1.sync();
  129.       // create file2.
  130.       Path dir2 = new Path("/user/dir2");
  131.       Path file2 = new Path(dir2, "file2");
  132.       FSDataOutputStream stm2 = TestFileCreation.createFile(fs, file2, 1);
  133.       System.out.println("testFileCreationDeleteParent: "
  134.           + "Created file " + file2);
  135.       TestFileCreation.writeFile(stm2);
  136.       stm2.sync();
  137.       // move dir1 while file1 is open
  138.       Path dir3 = new Path("/user/dir3");
  139.       fs.rename(dir1, dir3);
  140.       // restart cluster with the same namenode port as before.
  141.       // This ensures that leases are persisted in fsimage.
  142.       cluster.shutdown();
  143.       try {Thread.sleep(2*MAX_IDLE_TIME);} catch (InterruptedException e) {}
  144.       cluster = new MiniDFSCluster(nnport, conf, 1, false, true, 
  145.                                    null, null, null);
  146.       cluster.waitActive();
  147.       // restart cluster yet again. This triggers the code to read in
  148.       // persistent leases from fsimage.
  149.       cluster.shutdown();
  150.       try {Thread.sleep(5000);} catch (InterruptedException e) {}
  151.       cluster = new MiniDFSCluster(nnport, conf, 1, false, true, 
  152.                                    null, null, null);
  153.       cluster.waitActive();
  154.       fs = cluster.getFileSystem();
  155.       Path newfile = new Path("/user/dir3", "file1");
  156.       assertTrue(!fs.exists(file1));
  157.       assertTrue(fs.exists(file2));
  158.       assertTrue(fs.exists(newfile));
  159.       TestFileCreation.checkFullFile(fs, newfile);
  160.     } finally {
  161.       fs.close();
  162.       cluster.shutdown();
  163.     }
  164.   }
  165.   /**
  166.    * open /user/dir1/file1 
  167.    * mkdir /user/dir2
  168.    * move /user/dir1/file1 /user/dir2/
  169.    */
  170.   public void testWhileOpenRenameToExistentDirectory() throws IOException {
  171.     Configuration conf = new Configuration();
  172.     final int MAX_IDLE_TIME = 2000; // 2s
  173.     conf.setInt("ipc.client.connection.maxidletime", MAX_IDLE_TIME);
  174.     conf.setInt("heartbeat.recheck.interval", 1000);
  175.     conf.setInt("dfs.heartbeat.interval", 1);
  176.     conf.setInt("dfs.safemode.threshold.pct", 1);
  177.     conf.setBoolean("dfs.support.append", true);
  178.     System.out.println("Test 3************************************");
  179.     // create cluster
  180.     MiniDFSCluster cluster = new MiniDFSCluster(conf, 1, true, null);
  181.     FileSystem fs = null;
  182.     try {
  183.       cluster.waitActive();
  184.       fs = cluster.getFileSystem();
  185.       final int nnport = cluster.getNameNodePort();
  186.       // create file1.
  187.       Path dir1 = new Path("/user/dir1");
  188.       Path file1 = new Path(dir1, "file1");
  189.       FSDataOutputStream stm1 = TestFileCreation.createFile(fs, file1, 1);
  190.       System.out.println("testFileCreationDeleteParent: " +
  191.                          "Created file " + file1);
  192.       TestFileCreation.writeFile(stm1);
  193.       stm1.sync();
  194.       Path dir2 = new Path("/user/dir2");
  195.       fs.mkdirs(dir2);
  196.       fs.rename(file1, dir2);
  197.       // restart cluster with the same namenode port as before.
  198.       // This ensures that leases are persisted in fsimage.
  199.       cluster.shutdown();
  200.       try {Thread.sleep(2*MAX_IDLE_TIME);} catch (InterruptedException e) {}
  201.       cluster = new MiniDFSCluster(nnport, conf, 1, false, true, 
  202.                                    null, null, null);
  203.       cluster.waitActive();
  204.       // restart cluster yet again. This triggers the code to read in
  205.       // persistent leases from fsimage.
  206.       cluster.shutdown();
  207.       try {Thread.sleep(5000);} catch (InterruptedException e) {}
  208.       cluster = new MiniDFSCluster(nnport, conf, 1, false, true, 
  209.                                    null, null, null);
  210.       cluster.waitActive();
  211.       fs = cluster.getFileSystem();
  212.       Path newfile = new Path("/user/dir2", "file1");
  213.       assertTrue(!fs.exists(file1));
  214.       assertTrue(fs.exists(newfile));
  215.       TestFileCreation.checkFullFile(fs, newfile);
  216.     } finally {
  217.       fs.close();
  218.       cluster.shutdown();
  219.     }
  220.   }
  221.   /**
  222.    * open /user/dir1/file1 
  223.    * move /user/dir1/file1 /user/dir2/
  224.    */
  225.   public void testWhileOpenRenameToNonExistentDirectory() throws IOException {
  226.     Configuration conf = new Configuration();
  227.     final int MAX_IDLE_TIME = 2000; // 2s
  228.     conf.setInt("ipc.client.connection.maxidletime", MAX_IDLE_TIME);
  229.     conf.setInt("heartbeat.recheck.interval", 1000);
  230.     conf.setInt("dfs.heartbeat.interval", 1);
  231.     conf.setInt("dfs.safemode.threshold.pct", 1);
  232.     conf.setBoolean("dfs.support.append", true);
  233.     System.out.println("Test 4************************************");
  234.     // create cluster
  235.     MiniDFSCluster cluster = new MiniDFSCluster(conf, 1, true, null);
  236.     FileSystem fs = null;
  237.     try {
  238.       cluster.waitActive();
  239.       fs = cluster.getFileSystem();
  240.       final int nnport = cluster.getNameNodePort();
  241.       // create file1.
  242.       Path dir1 = new Path("/user/dir1");
  243.       Path file1 = new Path(dir1, "file1");
  244.       FSDataOutputStream stm1 = TestFileCreation.createFile(fs, file1, 1);
  245.       System.out.println("testFileCreationDeleteParent: "
  246.           + "Created file " + file1);
  247.       TestFileCreation.writeFile(stm1);
  248.       stm1.sync();
  249.       Path dir2 = new Path("/user/dir2");
  250.       fs.rename(file1, dir2);
  251.       // restart cluster with the same namenode port as before.
  252.       // This ensures that leases are persisted in fsimage.
  253.       cluster.shutdown();
  254.       try {Thread.sleep(2*MAX_IDLE_TIME);} catch (InterruptedException e) {}
  255.       cluster = new MiniDFSCluster(nnport, conf, 1, false, true, 
  256.                                    null, null, null);
  257.       cluster.waitActive();
  258.       // restart cluster yet again. This triggers the code to read in
  259.       // persistent leases from fsimage.
  260.       cluster.shutdown();
  261.       try {Thread.sleep(5000);} catch (InterruptedException e) {}
  262.       cluster = new MiniDFSCluster(nnport, conf, 1, false, true, 
  263.                                    null, null, null);
  264.       cluster.waitActive();
  265.       fs = cluster.getFileSystem();
  266.       Path newfile = new Path("/user", "dir2");
  267.       assertTrue(!fs.exists(file1));
  268.       assertTrue(fs.exists(newfile));
  269.       TestFileCreation.checkFullFile(fs, newfile);
  270.     } finally {
  271.       fs.close();
  272.       cluster.shutdown();
  273.     }
  274.   }
  275. }