launch-hadoop-slaves
上传用户:quxuerui
上传日期:2018-01-08
资源大小:41811k
文件大小:2k
源码类别:

网格计算

开发平台:

Java

  1. #!/usr/bin/env bash
  2. # Licensed to the Apache Software Foundation (ASF) under one or more
  3. # contributor license agreements.  See the NOTICE file distributed with
  4. # this work for additional information regarding copyright ownership.
  5. # The ASF licenses this file to You under the Apache License, Version 2.0
  6. # (the "License"); you may not use this file except in compliance with
  7. # the License.  You may obtain a copy of the License at
  8. #
  9. #     http://www.apache.org/licenses/LICENSE-2.0
  10. #
  11. # Unless required by applicable law or agreed to in writing, software
  12. # distributed under the License is distributed on an "AS IS" BASIS,
  13. # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  14. # See the License for the specific language governing permissions and
  15. # limitations under the License.
  16. # Launch an EC2 Hadoop slaves.
  17. if [ -z $1 ]; then
  18.   echo "Cluster name required!"
  19.   exit -1
  20. fi
  21. if [ -z $2 ]; then
  22.   echo "Must specify the number of slaves to start."
  23.   exit -1
  24. fi
  25. CLUSTER=$1
  26. NO_INSTANCES=$2
  27. # Import variables
  28. bin=`dirname "$0"`
  29. bin=`cd "$bin"; pwd`
  30. . "$bin"/hadoop-ec2-env.sh
  31. if [ ! -f $MASTER_IP_PATH ]; then
  32.   echo "Must start Cluster Master first!"
  33.   exit -1
  34. fi
  35. # Finding Hadoop image
  36. AMI_IMAGE=`ec2-describe-images -a | grep $S3_BUCKET | grep $HADOOP_VERSION | grep $ARCH |grep available | awk '{print $2}'`
  37. MASTER_HOST=`cat $MASTER_PRIVATE_IP_PATH`
  38. MASTER_ZONE=`cat $MASTER_ZONE_PATH`
  39. # Substituting master hostname
  40. sed -e "s|%MASTER_HOST%|$MASTER_HOST|" "$bin"/$USER_DATA_FILE > "$bin"/$USER_DATA_FILE.slave
  41. # Start slaves
  42. echo "Adding $1 node(s) to cluster group $CLUSTER with AMI $AMI_IMAGE"
  43. ec2-run-instances $AMI_IMAGE -n "$NO_INSTANCES" -g "$CLUSTER" -k "$KEY_NAME" -f "$bin"/$USER_DATA_FILE.slave -t "$INSTANCE_TYPE" -z "$MASTER_ZONE" $KERNEL_ARG | grep INSTANCE | awk '{print $2}'
  44. rm "$bin"/$USER_DATA_FILE.slave