ci/03-maasdeploy.sh

   1 #!/bin/bash
   2 #placeholder for deployment script.
   3 set -ex
   4
   5 source tools.sh
   6
   7 virtinstall=0
   8 labname=$1
   9
  10 if [ ! -e $HOME/.ssh/id_rsa ]; then
  11     ssh-keygen -N '' -f $HOME/.ssh/id_rsa
  12 fi
  13
  14 NODE_ARCTYPE=`arch`
  15 CPU_MODEL="host"
  16
  17 if  [ "ppc64le" == "$NODE_ARCTYPE" ]; then
  18     NODE_ARCHES="ppc64el"
  19 elif [ "aarch64" == "$NODE_ARCTYPE" ]; then
  20     NODE_ARCHES="arm64"
  21     CPU_MODEL="host-passthrough"
  22 else
  23     NODE_ARCHES="amd64"
  24 fi
  25
  26 NODE_ARC="$NODE_ARCHES/generic"
  27
  28 # Install the packages needed
  29 echo_info "Installing and upgrading required packages"
  30 sudo apt-get install software-properties-common -y
  31 sudo apt-add-repository ppa:juju/stable -y
  32 sudo apt-add-repository ppa:maas/stable -y
  33 sudo apt-add-repository cloud-archive:ocata -y
  34 sudo apt-get update -y
  35 #sudo apt-get dist-upgrade -y
  36 sudo apt-get install bridge-utils openssh-server bzr git virtinst qemu-kvm libvirt-bin \
  37              maas maas-region-controller juju python-pip python-psutil python-openstackclient \
  38              python-congressclient gsutil charm-tools pastebinit python-jinja2 sshpass \
  39              openssh-server vlan ipmitool jq expect snap -y
  40
  41 #sudo apt-get install snap -y
  42 #sudo snap install maas --classic
  43 #sudo snap install juju --classic
  44
  45 sudo -H pip install --upgrade pip
  46
  47
  48 usage() {
  49   # no xtrace output
  50   { set +x; } 2> /dev/null
  51
  52   echo "OPNFV JOID deployer of the MAAS (Metal as a Service) infrastructure."
  53   echo "Usage: $0 custom <path_to_labconfig>"
  54   echo "       $0 virtual"
  55   exit ${1-0}
  56 }
  57
  58 if [ "$1" == "help" ] || [ "$1" == "-h" ] || [ "$1" == "--help" ]
  59 then
  60     usage;
  61 fi
  62
  63
  64 #
  65 # Config preparation
  66 #
  67
  68 # Get labconfig and generate deployconfig.yaml
  69
  70 case "$labname" in
  71     'custom')
  72         # Deployment with a custom labconfig file
  73         labfile=$2
  74         if [ -z "$labfile" ]; then
  75             if [ ! -e ./labconfig.yaml ]; then
  76                 # no labconfig file was specified and no ci/labconfig.yaml is present
  77                 echo_error "Labconfig file must be specified when using custom"
  78                 usage 1
  79             else
  80                 # no labconfig file was specified and but a (backup) ci/labconfig.yaml found
  81                 echo_warning "Labconfig was not specified, using ./labconfig.yaml instead"
  82                 # no action needed, ./labconfig.yaml already present
  83             fi
  84         elif [ ! -e "$labfile" ]; then
  85             # labconfig file was specified but does not exist on disk
  86             echo_warning "Labconfig not found locally, trying download"
  87
  88             wget $labfile -t 3 -T 10 -O ./labconfig.yaml || true
  89             count=`wc -l labconfig.yaml  | cut -d " " -f 1`
  90             if [ $count -lt 10 ]; then
  91                 echo_error "Unable to download labconfig"
  92                 exit 1
  93             fi
  94         else
  95             echo_info "Using $labfile to setup deployment"
  96             cp $labfile ./labconfig.yaml
  97         fi
  98
  99         python genDeploymentConfig.py -l labconfig.yaml > deployconfig.yaml
 100         labname=`grep "maas_name" deployconfig.yaml | cut -d ':' -f 2 | sed -e 's/ //'`
 101         ;;
 102     'virtual'|'')
 103         # Virtual deployment using a default labconfig file
 104         echo_info "Using default labconfig for virtual install"
 105         cp ../labconfig/default/labconfig.yaml ./
 106         python genDeploymentConfig.py -l labconfig.yaml > deployconfig.yaml
 107         labname="default"
 108         virtinstall=1
 109         ;;
 110     * )
 111         # Unknown argument
 112         echo_error "Unknown script argument: $labname"
 113         usage 1
 114         ;;
 115 esac
 116
 117 python -c 'import sys, yaml, json; json.dump(yaml.load(sys.stdin), sys.stdout, indent=4)' < labconfig.yaml > labconfig.json
 118 python -c 'import sys, yaml, json; json.dump(yaml.load(sys.stdin), sys.stdout, indent=4)' < deployconfig.yaml > deployconfig.json
 119
 120 MAAS_IP=$(grep " ip_address" deployconfig.yaml | cut -d ':' -f 2 | sed -e 's/ //')
 121 MAAS_NAME=`grep "maas_name" deployconfig.yaml | cut -d ':' -f 2 | sed -e 's/ //'`
 122 API_SERVER="http://$MAAS_IP:5240/MAAS/api/2.0"
 123 API_SERVERMAAS="http://$MAAS_IP:5240/MAAS/"
 124 PROFILE=ubuntu
 125 MY_UPSTREAM_DNS=`grep "upstream_dns" deployconfig.yaml | cut -d ':' -f 2 | sed -e 's/ //'`
 126 SSH_KEY=`cat ~/.ssh/id_rsa.pub`
 127 MAIN_ARCHIVE=`grep "main_archive" deployconfig.yaml | cut -d ':' -f 2-3 | sed -e 's/ //'`
 128 URL=https://images.maas.io/ephemeral-v3/daily/
 129 KEYRING_FILE=/usr/share/keyrings/ubuntu-cloudimage-keyring.gpg
 130 SOURCE_ID=1
 131 FABRIC_ID=1
 132 PRIMARY_RACK_CONTROLLER="$MAAS_IP"
 133 VLAN_UNTTAGED="untagged"
 134
 135 # In the case of a virtual deployment get deployconfig.yaml
 136 if [ "$virtinstall" -eq 1 ]; then
 137     ./cleanvm.sh || true
 138 fi
 139
 140 #create backup directory
 141 mkdir ~/joid_config/ || true
 142
 143 # Backup deployconfig.yaml in joid_config folder
 144
 145 if [ -e ./deployconfig.yaml ]; then
 146     cp ./deployconfig.yaml ~/joid_config/
 147     cp ./labconfig.yaml ~/joid_config/
 148 fi
 149
 150 #
 151 # Prepare local environment to avoid password asking
 152 #
 153
 154 # make sure no password asked during the deployment.
 155 sudoer_file=/etc/sudoers.d/90-joid-init
 156 sudoer_entry="$USER ALL=(ALL) NOPASSWD:ALL"
 157 if [ -e $sudoer_file ]; then
 158     if ! sudo grep -q "$sudoer_entry" $sudoer_file; then
 159         sudo sed -i -e "1i$sudoer_entry" $sudoer_file
 160     fi
 161 else
 162     echo "$sudoer_entry" > 90-joid-init
 163     sudo chown root:root 90-joid-init
 164     sudo mv 90-joid-init /etc/sudoers.d/
 165 fi
 166
 167 echo_info "Deployment of MAAS started"
 168
 169 #
 170 # Virsh preparation
 171 #
 172
 173 # define the pool and try to start even though its already exist.
 174 # For fresh install this may or may not there.
 175 #some system i am seeing libvirt and some have libvirtd looks like libvirt-bin is
 176 #keep switching so lets try both.
 177
 178 sudo adduser $USER libvirtd || true
 179 sudo adduser $USER libvirt || true
 180 sudo virsh pool-define-as default --type dir --target /var/lib/libvirt/images/ || true
 181 sudo virsh pool-start default || true
 182 sudo virsh pool-autostart default || true
 183
 184 # In case of virtual install set network
 185 if [ "$virtinstall" -eq 1 ]; then
 186     sudo virsh net-dumpxml default > default-net-org.xml
 187     sed -i '/dhcp/d' default-net-org.xml
 188     sed -i '/range/d' default-net-org.xml
 189     sudo virsh net-destroy default
 190     sudo virsh net-define default-net-org.xml
 191     sudo virsh net-start default
 192     rm -f default-net-org.xml
 193 fi
 194
 195 #
 196 # Cleanup, juju init and config backup
 197 #
 198
 199 # To avoid problem between apiclient/maas_client and apiclient from google
 200 # we remove the package google-api-python-client from yardstick installer
 201 if [ $(pip list --format=columns | grep google-api-python-client | wc -l) == 1 ]; then
 202     sudo pip uninstall google-api-python-client
 203 fi
 204
 205
 206 if [ ! -e ~maas/.ssh/id_rsa.pub ]; then
 207     if [ ! -e $HOME/id_rsa_maas.pub ]; then
 208         [ -e $HOME/id_rsa_maas ] && rm -f $HOME/id_rsa_maas
 209         sudo su - $USER -c "echo |ssh-keygen -t rsa -f $HOME/id_rsa_maas"
 210     fi
 211     sudo -u maas mkdir ~maas/.ssh/ || true
 212     sudo cp $HOME/id_rsa_maas ~maas/.ssh/id_rsa
 213     sudo cp $HOME/id_rsa_maas.pub ~maas/.ssh/id_rsa.pub
 214     sudo chown maas:maas ~maas/.ssh/id_rsa
 215     sudo chown maas:maas ~maas/.ssh/id_rsa.pub
 216 fi
 217
 218 # Ensure virsh can connect without ssh auth
 219 sudo cat ~maas/.ssh/id_rsa.pub >> $HOME/.ssh/authorized_keys
 220 sudo cat $HOME/.ssh/id_rsa.pub >> $HOME/.ssh/authorized_keys
 221
 222 #
 223 # MAAS deploy
 224 #
 225
 226 installmaas(){
 227     sudo apt-get install maas maas-region-controller -y
 228 }
 229
 230 #
 231 # MAAS config
 232 # https://insights.ubuntu.com/2016/01/23/maas-setup-deploying-openstack-on-maas-1-9-with-juju/
 233 # http://blog.naydenov.net/2016/01/nodes-networking-deploying-openstack-on-maas-1-9-with-juju/
 234 #
 235 configuremaas(){
 236     #reconfigure maas with correct MAAS address.
 237     #Below code is needed as MAAS have issue in commissioning without restart.
 238     #sudo ./maas-reconfigure-region.sh $MAAS_IP
 239     sleep 30
 240     sudo maas-rack config --region-url http://$MAAS_IP:5240/MAAS
 241
 242     sudo maas createadmin --username=ubuntu --email=ubuntu@ubuntu.com --password=ubuntu || true
 243     API_KEY=`sudo maas-region apikey --username=ubuntu`
 244     maas login $PROFILE $API_SERVERMAAS $API_KEY
 245     maas $PROFILE maas set-config name='main_archive' value=$MAIN_ARCHIVE || true
 246     maas $PROFILE maas set-config name=upstream_dns value=$MY_UPSTREAM_DNS || true
 247     maas $PROFILE maas set-config name='maas_name' value=$MAAS_NAME || true
 248     maas $PROFILE maas set-config name='ntp_server' value='ntp.ubuntu.com' || true
 249     maas $PROFILE sshkeys create "key=$SSH_KEY" || true
 250
 251     for tag in bootstrap compute control storage
 252     do
 253         maas $PROFILE tags create name=$tag || true
 254     done
 255
 256     #create the required spaces.
 257     maas $PROFILE space update 0 name=default || true
 258     for space in unused admin-api internal-api public-api \
 259                  storage-access storage-cluster admin \
 260                  tenant-data tenant-api tenant-public oam-space
 261     do
 262         echo_info "Creating the space $space"
 263         maas $PROFILE spaces create name=$space || true
 264     done
 265
 266     maas $PROFILE boot-source update $SOURCE_ID \
 267          url=$URL keyring_filename=$KEYRING_FILE || true
 268
 269     if [ $NODE_ARCTYPE != "x86_64" ] ; then
 270         maas $PROFILE boot-source-selection update 1 1 arches="$NODE_ARCHES"
 271     fi
 272
 273     maas $PROFILE boot-resources import || true
 274
 275     while [ "$(maas $PROFILE boot-resources is-importing)" == "true" ];
 276     do
 277         sleep 60
 278     done
 279 }
 280
 281 setupspacenetwork(){
 282
 283     #get space, subnet and vlan and create accordingly.
 284     #for type in pxe admin data storage external floating public; do
 285     nettypes=`cat labconfig.json | jq '.opnfv.spaces[]'.type | cut -d \" -f 2`
 286     for type in $nettypes; do
 287         config_done=0
 288         SPACE_CIDR=`cat labconfig.json | jq '.opnfv.spaces[] | select(.type=="'$type'")'.cidr | cut -d \" -f 2 `
 289         SPACE_VLAN=`cat labconfig.json | jq '.opnfv.spaces[] | select(.type=="'$type'")'.vlan | cut -d \" -f 2 `
 290         SPACE_GWAY=`cat labconfig.json | jq '.opnfv.spaces[] | select(.type=="'$type'")'.gateway | cut -d \" -f 2 `
 291         NET_FABRIC_NAME=$(maas $PROFILE subnets read | jq -r ".[] |  select(.cidr==\"$SPACE_CIDR\")".vlan.fabric)
 292         if ([ $NET_FABRIC_NAME ] && [ $NET_FABRIC_NAME != "null" ]); then
 293             NET_FABRIC_VID=$(maas $PROFILE subnets read | jq -r ".[] |  select(.cidr==\"$SPACE_CIDR\")".vlan.vid)
 294             NET_FABRIC_ID=$(maas $PROFILE fabric read $NET_FABRIC_NAME | jq -r ".id")
 295             if ([ $SPACE_VLAN == "null" ]); then
 296                 SPACE_VLAN=0
 297             fi
 298             NET_VLAN_ID=$(maas $PROFILE vlans read $NET_FABRIC_ID | jq -r ".[] |  select(.vid==\"$SPACE_VLAN\")".id)
 299             NET_VLAN_VID=$(maas $PROFILE vlans read $NET_FABRIC_ID | jq -r ".[] |  select(.vid==\"$SPACE_VLAN\")".vid)
 300             if ([ $SPACE_GWAY ] && [ "$SPACE_GWAY" != "null" ]); then
 301                 maas $PROFILE subnet update $SPACE_CIDR gateway_ip=$SPACE_GWAY
 302             fi
 303             if ([ $NET_VLAN_VID ] && [ $NET_VLAN_VID == "0" ]); then
 304                 config_done=1
 305             elif ([ $NET_VLAN_VID ] && [ $NET_VLAN_VID == $SPACE_VLAN ]); then
 306                 config_done=1
 307             else
 308                 NET_VLAN_ID=$(maas $PROFILE vlans create $NET_FABRIC_ID vid=$SPACE_VLAN | jq --raw-output ".id")
 309                 if ([ $NET_VLAN_ID ] && [ $NET_VLAN_ID != "null" ]); then
 310                     maas $PROFILE subnet update $SPACE_CIDR vlan=$NET_VLAN_ID
 311                     NET_FABRIC_VID=$SPACE_VLAN
 312                 fi
 313             fi
 314         else
 315             if ([ $SPACE_CIDR ] && [ "$SPACE_CIDR" != "null" ]); then
 316                 FABRIC_ID=$(maas $PROFILE fabrics create name=opnfv$type | jq --raw-output ".id")
 317                 NET_FABRIC_ID=$FABRIC_ID
 318                 NET_FABRIC_VID=$SPACE_VLAN
 319                 if ([ $SPACE_VLAN ] && [ "$SPACE_VLAN" != "null" ]); then
 320                     NET_VLAN_ID=$(maas $PROFILE vlans create $FABRIC_ID vid=$SPACE_VLAN | jq --raw-output ".id")
 321                     if ([ $SPACE_GWAY ] && [ "$SPACE_GWAY" != "null" ]); then
 322                         maas $PROFILE subnets create fabric=$FABRIC_ID cidr=$SPACE_CIDR vid=$VID_ID gateway_ip=$SPACE_GWAY
 323                     else
 324                         maas $PROFILE subnets create fabric=$FABRIC_ID cidr=$SPACE_CIDR vid=$VID_ID
 325                     fi
 326                     NET_FABRIC_VID=$VLAN_ID
 327                 else
 328                     if ([ $SPACE_GWAY ] && [ "$SPACE_GWAY" != "null" ]); then
 329                         maas $PROFILE subnets create fabric=$FABRIC_ID cidr=$SPACE_CIDR vid="0" gateway_ip=$SPACE_GWAY
 330                     else
 331                         maas $PROFILE subnets create fabric=$FABRIC_ID cidr=$SPACE_CIDR vid="0"
 332                     fi
 333                 fi
 334                 NET_FABRIC_NAME=$(maas $PROFILE subnets read | jq -r ".[] |  select(.cidr==\"$SPACE_CIDR\")".vlan.fabric)
 335             fi
 336         fi
 337         case "$type" in
 338             'pxe')             JUJU_SPACE="oam-space";     DHCP='enabled' ;;
 339             'admin')           JUJU_SPACE="internal-api";  DHCP='enabled' ;;
 340             'data')            JUJU_SPACE="tenant-data";   DHCP='' ;;
 341             'public')          JUJU_SPACE="public-api";    DHCP='' ;;
 342             'storage')         JUJU_SPACE="storage-cluster";   DHCP='' ;;
 343             'storageaccess')   JUJU_SPACE="storage-data";  DHCP='' ;;
 344             'floating')        JUJU_SPACE="tenant-public"; DHCP='' ;;
 345             *)                 JUJU_SPACE='default';       DHCP='OFF'; echo_info "      >>> Unknown SPACE" ;;
 346         esac
 347         JUJU_SPACE_ID=$(maas $PROFILE spaces read | jq -r ".[] |  select(.name==\"$JUJU_SPACE\")".id)
 348         JUJU_VLAN_VID=$(maas $PROFILE subnets read | jq -r ".[] |  select(.name==\"$SPACE_CIDR\")".vlan.vid)
 349         NET_FABRIC_ID=$(maas $PROFILE fabric read $NET_FABRIC_NAME | jq -r ".id")
 350         if ([ $NET_FABRIC_ID ] && [ $NET_FABRIC_ID != "null" ]); then
 351             if ([ $JUJU_VLAN_VID ] && [ $JUJU_VLAN_VID != "null" ]); then
 352                 maas $PROFILE vlan update $NET_FABRIC_ID $JUJU_VLAN_VID space=$JUJU_SPACE_ID
 353             fi
 354         fi
 355         if ([ $type == "admin" ] || [ $type == "pxe" ]); then
 356             # If we have a network, we create it
 357             if ([ $NET_FABRIC_ID ]); then
 358                 # Set ranges
 359                 SUBNET_PREFIX=${SPACE_CIDR::-5}
 360                 IP_RES_RANGE_LOW="$SUBNET_PREFIX.1"
 361                 IP_RES_RANGE_HIGH="$SUBNET_PREFIX.39"
 362                 IP_DYNAMIC_RANGE_LOW="$SUBNET_PREFIX.40"
 363                 IP_DYNAMIC_RANGE_HIGH="$SUBNET_PREFIX.150"
 364                 maas $PROFILE ipranges create type=reserved \
 365                      start_ip=$IP_RES_RANGE_LOW end_ip=$IP_RES_RANGE_HIGH \
 366                      comment='This is a reserved range' || true
 367                 maas $PROFILE ipranges create type=dynamic \
 368                     start_ip=$IP_DYNAMIC_RANGE_LOW end_ip=$IP_DYNAMIC_RANGE_HIGH \
 369                     comment='This is a reserved dynamic range' || true
 370                 # Set DHCP
 371                 PRIMARY_RACK_CONTROLLER=$(maas $PROFILE rack-controllers read | jq -r '.[0].system_id')
 372                 maas $PROFILE vlan update $NET_FABRIC_ID $NET_FABRIC_VID dhcp_on=True primary_rack=$PRIMARY_RACK_CONTROLLER || true
 373             fi
 374         fi
 375     done
 376 }
 377
 378 addnodes(){
 379     API_KEY=`sudo maas-region apikey --username=ubuntu`
 380     maas login $PROFILE $API_SERVERMAAS $API_KEY
 381
 382     # make sure there is no machine entry in maas
 383     for m in $(maas $PROFILE machines read | jq -r '.[].system_id')
 384     do
 385         maas $PROFILE machine delete $m
 386     done
 387
 388     # if we have a virshurl configuration we use it, else we use local
 389     VIRSHURL=$(cat labconfig.json | jq -r '.opnfv.virshurl')
 390     if ([ $VIRSHURL == "" ] || [ "$VIRSHURL" == "null" ]); then
 391         VIRSHIP=$MAAS_IP
 392         VIRSHURL="qemu+ssh://$USER@$VIRSHIP/system "
 393         VIRSHHOST=""
 394     else
 395         VIRSHHOST=$(echo $VIRSHURL| cut -d\/ -f 3 | cut -d@ -f2)
 396         VIRSHIP=""  # TODO: parse from $VIRSHURL if needed
 397     fi
 398
 399     if [ "$virtinstall" -eq 1 ]; then
 400         netw=" --network bridge=virbr0,model=virtio"
 401     elif ([ "$VIRSHHOST" != "" ]); then
 402         # Get the bridge hosting the remote virsh
 403         brid=$(ssh $VIRSHHOST "ip a l | grep $VIRSHHOST | perl -pe 's/.* (.*)\$/\$1/g'")
 404         netw=" --network bridge=$brid,model=virtio"
 405         # prepare a file containing virsh remote url to connect without adding it n command line
 406         echo "export VIRSH_DEFAULT_CONNECT_URI=$VIRSHURL" > virsh_uri.sh
 407     else
 408         netw=""
 409
 410         brid=`brctl show | grep 8000 | cut -d "8" -f 1 |  tr "\n" " " | tr "    " " " | tr -s " "`
 411         ADMIN_BR=`cat labconfig.json | jq '.opnfv.spaces[] | select(.type=="admin")'.bridge | cut -d \" -f 2 `
 412         PXE_BR=`cat labconfig.json | jq '.opnfv.spaces[] | select(.type=="admin")'.bridge | cut -d \" -f 2 `
 413
 414         for feature in $brid; do
 415             if ([ "$feature" == "$ADMIN_BR" ] || [ "$feature" == "$PXE_BR" ]); then
 416                 netw=$netw" --network bridge="$feature",model=virtio"
 417             else
 418                 netw=$netw
 419             fi
 420         done
 421     fi
 422
 423     # Add server fingerprint to known hosts to prevent security prompt in the
 424     # SSH connection during the virt-install
 425     if [ $VIRSHIP != "" ]; then
 426         # Check if the IP is not already present among the known hosts
 427         if ! ssh-keygen -F $VIRSHIP > /dev/null ; then
 428             echo_info "SSH fingerprint of the host is not known yet, adding to known_hosts"
 429             ssh-keyscan -H $VIRSHIP >> ~/.ssh/known_hosts
 430         fi
 431     fi
 432
 433     echo_info "Creating and adding bootstrap node"
 434
 435     virt-install --connect $VIRSHURL --name bootstrap --ram 4098 --cpu $CPU_MODEL --vcpus 2 \
 436                  --disk size=20,format=qcow2,bus=virtio,cache=directsync,io=native,pool=default \
 437                  $netw --boot network,hd,menu=off --noautoconsole \
 438                  --print-xml | tee bootstrap
 439
 440     if [ "$virtinstall" -eq 1 ]; then
 441         bootstrapmac=`grep  "mac address" bootstrap | head -1 | cut -d '"' -f 2`
 442     else
 443         bootstrapmac=""
 444         bootstrapmacs=`grep  "mac address" bootstrap| cut -d '"' -f 2`
 445         for mac in $bootstrapmacs; do
 446             bootstrapmac=$bootstrapmac" mac_addresses="$mac
 447         done
 448     fi
 449     virsh -c $VIRSHURL define --file bootstrap
 450     rm -f bootstrap
 451
 452     sleep 60
 453
 454     maas $PROFILE machines create autodetect_nodegroup='yes' name='bootstrap' \
 455         tags='bootstrap' hostname='bootstrap' power_type='virsh' mac_addresses=$bootstrapmac \
 456         power_parameters_power_address="$VIRSHURL" \
 457         architecture=$NODE_ARC power_parameters_power_id='bootstrap'
 458
 459     bootstrapid=$(maas $PROFILE machines read | jq -r '.[] | select(.hostname == "bootstrap").system_id')
 460
 461     maas $PROFILE tag update-nodes bootstrap add=$bootstrapid
 462
 463     if [ "$virtinstall" -eq 1 ]; then
 464         units=`cat deployconfig.json | jq .opnfv.units`
 465
 466         until [ $(($units)) -lt 1 ]; do
 467            units=$(($units - 1));
 468            NODE_NAME=`cat labconfig.json | jq ".lab.racks[].nodes[$units].name" | cut -d \" -f 2 `
 469
 470             virt-install --connect $VIRSHURL --name $NODE_NAME --ram 8192 --cpu $CPU_MODEL --vcpus 4 \
 471                      --disk size=120,format=qcow2,bus=virtio,cache=directsync,io=native,pool=default \
 472                      $netw $netw --boot network,hd,menu=off --noautoconsole --print-xml | tee $NODE_NAME
 473
 474             nodemac=`grep  "mac address" $NODE_NAME | head -1 | cut -d '"' -f 2`
 475             virsh -c $VIRSHURL define --file $NODE_NAME
 476             rm -f $NODE_NAME
 477             maas $PROFILE machines create autodetect_nodegroup='yes' name=$NODE_NAME \
 478                 tags='control compute' hostname=$NODE_NAME power_type='virsh' mac_addresses=$nodemac \
 479                 power_parameters_power_address="$VIRSHURL" \
 480                 architecture=$NODE_ARC power_parameters_power_id=$NODE_NAME
 481             nodeid=$(maas $PROFILE machines read | jq -r '.[] | select(.hostname == '\"$NODE_NAME\"').system_id')
 482             maas $PROFILE tag update-nodes control add=$nodeid || true
 483             maas $PROFILE tag update-nodes compute add=$nodeid || true
 484         done
 485     else
 486         units=`cat deployconfig.json | jq .opnfv.units`
 487
 488         until [ $(($units)) -lt 1 ]; do
 489             units=$(($units - 1));
 490             NODE_NAME=`cat labconfig.json | jq ".lab.racks[].nodes[$units].name" | cut -d \" -f 2 `
 491             MAC_ADDRESS=`cat labconfig.json | jq ".lab.racks[].nodes[$units].nics[] | select(.spaces[]==\"admin\").mac"[0] | cut -d \" -f 2 `
 492             MAC_ADDRESS_PXE=`cat labconfig.json | jq ".lab.racks[].nodes[$units].nics[] | select(.spaces[]==\"pxe\").mac"[0] | cut -d \" -f 2 `
 493             #MAC_ADDRESS1=`cat labconfig.json | jq ".lab.racks[].nodes[$units].nics[] | select(.spaces[]==\"floating\").mac"[0] | cut -d \" -f 2 `
 494             POWER_TYPE=`cat labconfig.json | jq ".lab.racks[].nodes[$units].power.type" | cut -d \" -f 2 `
 495             POWER_IP=`cat labconfig.json |  jq ".lab.racks[].nodes[$units].power.address" | cut -d \" -f 2 `
 496             POWER_USER=`cat labconfig.json |  jq ".lab.racks[].nodes[$units].power.user" | cut -d \" -f 2 `
 497             POWER_PASS=`cat labconfig.json |  jq ".lab.racks[].nodes[$units].power.pass" | cut -d \" -f 2 `
 498             NODE_ARCTYPE=`cat labconfig.json |  jq ".lab.racks[].nodes[$units].architecture" | cut -d \" -f 2 `
 499
 500             if  [ "ppc64le" == "$NODE_ARCTYPE" ]; then
 501                 NODE_ARCHES="ppc64el"
 502             elif [ "aarch64" == "$NODE_ARCTYPE" ]; then
 503                 NODE_ARCHES="arm64"
 504             else
 505                 NODE_ARCHES="amd64"
 506             fi
 507
 508             NODE_ARC="$NODE_ARCHES/generic"
 509
 510             echo_info "Creating node $NODE_NAME"
 511             if ([ $MAC_ADDRESS_PXE ] && ["$MAC_ADDRESS_PXE" != "null" ]); then
 512                 maas $PROFILE machines create autodetect_nodegroup='yes' name=$NODE_NAME \
 513                     hostname=$NODE_NAME power_type=$POWER_TYPE power_parameters_power_address=$POWER_IP \
 514                     power_parameters_power_user=$POWER_USER power_parameters_power_pass=$POWER_PASS \
 515                     mac_addresses=$MAC_ADDRESS_PXE architecture=$NODE_ARC
 516             else
 517                 maas $PROFILE machines create autodetect_nodegroup='yes' name=$NODE_NAME \
 518                     hostname=$NODE_NAME power_type=$POWER_TYPE power_parameters_power_address=$POWER_IP \
 519                     power_parameters_power_user=$POWER_USER power_parameters_power_pass=$POWER_PASS \
 520                     mac_addresses=$MAC_ADDRESS architecture=$NODE_ARC
 521             fi
 522         done
 523     fi
 524
 525     maas $PROFILE pods create type=virsh power_address="$VIRSHURL" power_user=$USER
 526
 527     # Make sure nodes are added into MAAS and none of them is in commissioning state
 528     i=0
 529     while [ "$(maas $PROFILE nodes read | grep Commissioning )" ];
 530     do
 531         echo_info "Waiting for nodes to finish commissioning. ${i} minutes elapsed."
 532         sleep 60
 533         i=$[$i+1]
 534
 535         # Make sure that no nodes have failed commissioning or testing
 536         if [ "$(maas $PROFILE nodes read | grep 'Failed' )" ];
 537         then
 538             echo "Error: Some nodes have failed commissioning or testing" 1>&2
 539             exit 1
 540         fi
 541
 542     done
 543
 544 }
 545
 546 # configure MAAS with the different options.
 547 configuremaas
 548 sleep 30
 549
 550 # functioncall with subnetid to add and second parameter is dhcp enable
 551 # third parameter will define the space. It is required to have admin
 552
 553 setupspacenetwork
 554
 555 #just make sure rack controller has been synced and import only
 556 # just whether images have been imported or not.
 557 sudo ./maas-reconfigure-region.sh $MAAS_IP
 558 sleep 120
 559
 560 # Let's add the nodes now. Currently works only for virtual deployment.
 561 addnodes
 562
 563 echo_info "Initial deployment of MAAS finished"
 564
 565 #Added the Qtip public to run the Qtip test after install on bare metal nodes.
 566 #maas $PROFILE sshkeys new key="`cat ./maas/sshkeys/QtipKey.pub`"
 567 #maas $PROFILE sshkeys new key="`cat ./maas/sshkeys/DominoKey.pub`"
 568
 569 addcredential() {
 570     API_KEY=`sudo maas-region apikey --username=ubuntu`
 571     controllername=`awk 'NR==1{print substr($1, 1, length($1)-1)}' deployconfig.yaml`
 572     cloudname=`awk 'NR==1{print substr($1, 1, length($1)-1)}' deployconfig.yaml`
 573
 574     echo  "credentials:" > credential.yaml
 575     echo  "  $controllername:" >> credential.yaml
 576     echo  "    opnfv-credentials:" >> credential.yaml
 577     echo  "      auth-type: oauth1" >> credential.yaml
 578     echo  "      maas-oauth: $API_KEY" >> credential.yaml
 579
 580     juju add-credential $controllername -f credential.yaml --replace
 581 }
 582
 583 addcloud() {
 584     controllername=`awk 'NR==1{print substr($1, 1, length($1)-1)}' deployconfig.yaml`
 585     cloudname=`awk 'NR==1{print substr($1, 1, length($1)-1)}' deployconfig.yaml`
 586
 587     echo "clouds:" > maas-cloud.yaml
 588     echo "   $cloudname:" >> maas-cloud.yaml
 589     echo "      type: maas" >> maas-cloud.yaml
 590     echo "      auth-types: [oauth1]" >> maas-cloud.yaml
 591     echo "      endpoint: $API_SERVERMAAS" >> maas-cloud.yaml
 592
 593     echo_info "Adding cloud $cloudname"
 594     juju add-cloud $cloudname maas-cloud.yaml --replace
 595 }
 596
 597 #
 598 # Enable MAAS nodes interfaces
 599 #
 600 API_KEY=`sudo maas-region apikey --username=ubuntu`
 601 maas login $PROFILE $API_SERVERMAAS $API_KEY
 602
 603 if [ -e ./labconfig.json ]; then
 604     # We will configure all node, so we need the qty, and loop on it
 605     NODE_QTY=$(cat labconfig.json | jq --raw-output '.lab.racks[0].nodes[]'.name | wc -l)
 606     NODE_QTY=$((NODE_QTY-1))
 607     for NODE_ID in $(seq 0 $NODE_QTY); do
 608         # Get the NAME/SYS_ID of this node
 609         NODE_NAME=$(cat labconfig.json | jq --raw-output ".lab.racks[0].nodes[$NODE_ID].name")
 610         NODE_SYS_ID=$(maas $PROFILE nodes read | jq -r ".[] |  select(.hostname==\"$NODE_NAME\")".system_id)
 611         echo_info ">>> Configuring node $NODE_NAME [$NODE_ID][$NODE_SYS_ID]"
 612         # Recover the network interfaces list and configure each one
 613         #   with sorting the list, we have hardware interface first, than the vlan interfaces
 614         IF_LIST=$(cat labconfig.json | jq --raw-output ".lab.racks[0].nodes[$NODE_ID].nics[] ".ifname | sort -u )
 615         for IF_NAME in $IF_LIST; do
 616             # get the space of the interface
 617             IF_SPACE=$(cat labconfig.json | jq --raw-output ".lab.racks[0].nodes[$NODE_ID].nics[] | select(.ifname==\"$IF_NAME\") ".spaces[])
 618             SUBNET_CIDR=`cat labconfig.json | jq '.opnfv.spaces[] | select(.type=="'$IF_SPACE'")'.cidr | cut -d \" -f 2 `
 619             case "$IF_SPACE" in
 620                 'data')     IF_MODE='AUTO' ;;
 621                 'public')   IF_MODE='AUTO' ;;
 622                 'storage')  IF_MODE='AUTO' ;;
 623                 'floating') IF_MODE='link_up' ;;
 624                 *) SUBNET_CIDR='null'; IF_MODE='null'; echo_info "      >>> Unknown SPACE" ;;
 625             esac
 626             echo_info "   >>> Configuring interface $IF_NAME [$IF_SPACE][$SUBNET_CIDR]"
 627
 628             # if we have a vlan parameter in the space config
 629             IF_VLAN=$(cat labconfig.json | jq --raw-output ".opnfv.spaces[] | select(.type==\"$IF_SPACE\")".vlan)
 630             if ([ -z $IF_VLAN ] && [ $IF_NAME =~ \. ]); then
 631                 # We have no vlan specified on spaces, but we have a vlan subinterface
 632                 IF_VLAN = ${IF_NAME##*.}; fi
 633
 634             # in case of interface renaming
 635             IF_NEWNAME=$IF_NAME
 636
 637             # In case of a VLAN interface
 638             if ([ $IF_VLAN ] && [ "$IF_VLAN" != "null" ]); then
 639                 echo_info "      >>> Configuring VLAN $IF_VLAN"
 640                 VLANID=$(maas $PROFILE subnets read | jq ".[].vlan | select(.vid==$IF_VLAN)".id)
 641                 FABRICID=$(maas $PROFILE subnets read | jq ".[].vlan | select(.vid==$IF_VLAN)".fabric_id)
 642                 INTERFACE=$(maas $PROFILE interfaces read $NODE_SYS_ID | jq ".[] | select(.vlan.fabric_id==$FABRICID)".id)
 643                 if [[ -z $INTERFACE ]]; then
 644                     # parent interface is not set because it does not have a SUBNET_CIDR
 645                     PARENT_VLANID=$(maas $PROFILE fabrics read | jq ".[].vlans[] | select(.fabric_id==$FABRICID and .name==\"untagged\")".id)
 646                     # If we need to rename the interface, use new interface name
 647                     if ([ $IF_NEWNAME ] && [ "$IF_NEWNAME" != "null" ]); then
 648                         PARENT_IF_NAME=${IF_NEWNAME%%.*}
 649                         IF_NAME=$IF_NEWNAME
 650                     else
 651                         PARENT_IF_NAME=${IF_NAME%%.*}
 652                     fi
 653                     # We set the physical interface to the targeted fabric
 654                     maas $PROFILE interface update $NODE_SYS_ID $PARENT_IF_NAME vlan=$PARENT_VLANID
 655                     sleep 2
 656                     INTERFACE=$(maas $PROFILE interfaces read $NODE_SYS_ID | jq ".[] | select(.vlan.fabric_id==$FABRICID)".id)
 657                 fi
 658                 maas $PROFILE interfaces create-vlan $NODE_SYS_ID vlan=$VLANID parent=$INTERFACE || true
 659             else
 660                 # rename interface if needed
 661                 IF_MACLOWER=$( cat labconfig.json | jq ".lab.racks[0].nodes[$NODE_ID].nics[] | select(.ifname==\"$IF_NEWNAME\")".mac[0])
 662                 IF_MAC=(${IF_MACLOWER,,})
 663                 IF_ID=$( maas $PROFILE interfaces read $NODE_SYS_ID | jq ".[] | select(.mac_address==$IF_MAC)".id)
 664                 if ([ $IF_ID ] && [ "$IF_ID" != "null" ]); then
 665                     maas $PROFILE interface update $NODE_SYS_ID $IF_ID name=$IF_NEWNAME
 666                 fi
 667             fi
 668             # Configure the interface
 669             if ([ $SUBNET_CIDR ] && [ "$SUBNET_CIDR" != "null" ]); then
 670                 VLANID=$(maas $PROFILE subnet read $SUBNET_CIDR | jq -r '.vlan.id')
 671                 if !([ $IF_VLAN ] && [ "$IF_VLAN" != "null" ]); then
 672                     # If this interface is not a VLAN (done withe create-vlan)
 673                     maas $PROFILE interface update $NODE_SYS_ID $IF_NAME vlan=$VLANID || true
 674                 fi
 675                 maas $PROFILE interface link-subnet $NODE_SYS_ID $IF_NAME  mode=$IF_MODE subnet=$SUBNET_CIDR || true
 676                 sleep 2
 677             else
 678                 echo_info "      >>> Not configuring, we have an empty Subnet CIDR"
 679             fi
 680
 681         done
 682     done
 683 fi
 684
 685 # Add the cloud and controller credentials for MAAS for that lab.
 686 jujuver=`juju --version`
 687
 688 if [[ "$jujuver" > "2" ]]; then
 689     addcloud
 690     addcredential
 691 fi
 692
 693 #
 694 # End of scripts
 695 #
 696 echo_info "MAAS deployment finished successfully"