mcp/scripts/lib.sh

   1 #!/bin/bash
   2 #
   3 # Library of shell functions
   4 #
   5
   6 function generate_ssh_key {
   7   # shellcheck disable=SC2155
   8   local mcp_ssh_key=$(basename "${SSH_KEY}")
   9   local user=${USER}
  10   if [ -n "${SUDO_USER}" ] && [ "${SUDO_USER}" != 'root' ]; then
  11     user=${SUDO_USER}
  12   fi
  13
  14   if [ -f "${SSH_KEY}" ]; then
  15     cp "${SSH_KEY}" .
  16     ssh-keygen -f "${mcp_ssh_key}" -y > "${mcp_ssh_key}.pub"
  17   fi
  18
  19   [ -f "${mcp_ssh_key}" ] || ssh-keygen -f "${mcp_ssh_key}" -N ''
  20   sudo install -D -o "${user}" -m 0600 "${mcp_ssh_key}" "${SSH_KEY}"
  21 }
  22
  23 function get_base_image {
  24   local base_image=$1
  25   local image_dir=$2
  26
  27   mkdir -p "${image_dir}"
  28   wget -P "${image_dir}" -N "${base_image}"
  29 }
  30
  31 function cleanup_vms {
  32   # clean up existing nodes
  33   for node in $(virsh list --name | grep -P '\w{3}\d{2}'); do
  34     virsh destroy "${node}"
  35   done
  36   for node in $(virsh list --name --all | grep -P '\w{3}\d{2}'); do
  37     virsh domblklist "${node}" | awk '/^.da/ {print $2}' | \
  38       xargs --no-run-if-empty -I{} sudo rm -f {}
  39     virsh undefine "${node}" --remove-all-storage --nvram
  40   done
  41 }
  42
  43 function prepare_vms {
  44   local -n vnodes=$1
  45   local base_image=$2
  46   local image_dir=$3
  47
  48   cleanup_vms
  49   get_base_image "${base_image}" "${image_dir}"
  50   # shellcheck disable=SC2016
  51   envsubst '${SALT_MASTER},${CLUSTER_DOMAIN}' < \
  52     user-data.template > user-data.sh
  53
  54   for node in "${vnodes[@]}"; do
  55     # create/prepare images
  56     ./create-config-drive.sh -k "$(basename "${SSH_KEY}").pub" -u user-data.sh \
  57        -h "${node}" "${image_dir}/mcp_${node}.iso"
  58     cp "${image_dir}/${base_image/*\/}" "${image_dir}/mcp_${node}.qcow2"
  59     qemu-img resize "${image_dir}/mcp_${node}.qcow2" 100G
  60   done
  61 }
  62
  63 function create_networks {
  64   local -n vnode_networks=$1
  65   # create required networks, including constant "mcpcontrol"
  66   # FIXME(alav): since we renamed "pxe" to "mcpcontrol", we need to make sure
  67   # we delete the old "pxe" virtual network, or it would cause IP conflicts.
  68   # FIXME(alav): The same applies for "fuel1" virsh network.
  69   for net in "fuel1" "pxe" "mcpcontrol" "${vnode_networks[@]}"; do
  70     if virsh net-info "${net}" >/dev/null 2>&1; then
  71       virsh net-destroy "${net}" || true
  72       virsh net-undefine "${net}"
  73     fi
  74     # in case of custom network, host should already have the bridge in place
  75     if [ -f "net_${net}.xml" ] && [ ! -d "/sys/class/net/${net}/bridge" ]; then
  76       virsh net-define "net_${net}.xml"
  77       virsh net-autostart "${net}"
  78       virsh net-start "${net}"
  79     fi
  80   done
  81 }
  82
  83 function create_vms {
  84   local -n vnodes=$1
  85   local -n vnodes_ram=$2
  86   local -n vnodes_vcpus=$3
  87   local -n vnode_networks=$4
  88   local image_dir=$5
  89
  90   # AArch64: prepare arch specific arguments
  91   local virt_extra_args=""
  92   if [ "$(uname -i)" = "aarch64" ]; then
  93     # No Cirrus VGA on AArch64, use vga std
  94     virt_extra_args="$virt_extra_args --video=vga"
  95   fi
  96
  97   # create vms with specified options
  98   for node in "${vnodes[@]}"; do
  99     # prepare network args
 100     net_args=" --network network=mcpcontrol,model=virtio"
 101     if [ "${node}" = "mas01" ]; then
 102       # MaaS node's 3rd interface gets connected to PXE/Admin Bridge
 103       vnode_networks[2]="${vnode_networks[0]}"
 104     fi
 105     for net in "${vnode_networks[@]:1}"; do
 106       net_args="${net_args} --network bridge=${net},model=virtio"
 107     done
 108
 109     # shellcheck disable=SC2086
 110     virt-install --name "${node}" \
 111     --ram "${vnodes_ram[$node]}" --vcpus "${vnodes_vcpus[$node]}" \
 112     --cpu host-passthrough --accelerate ${net_args} \
 113     --disk path="${image_dir}/mcp_${node}.qcow2",format=qcow2,bus=virtio,cache=none,io=native \
 114     --os-type linux --os-variant none \
 115     --boot hd --vnc --console pty --autostart --noreboot \
 116     --disk path="${image_dir}/mcp_${node}.iso",device=cdrom \
 117     --noautoconsole \
 118     ${virt_extra_args}
 119   done
 120 }
 121
 122 function update_mcpcontrol_network {
 123   # set static ip address for salt master node, MaaS node
 124   # shellcheck disable=SC2155
 125   local cmac=$(virsh domiflist cfg01 2>&1| awk '/mcpcontrol/ {print $5; exit}')
 126   # shellcheck disable=SC2155
 127   local amac=$(virsh domiflist mas01 2>&1| awk '/mcpcontrol/ {print $5; exit}')
 128   virsh net-update "mcpcontrol" add ip-dhcp-host \
 129     "<host mac='${cmac}' name='cfg01' ip='${SALT_MASTER}'/>" --live
 130   [ -z "${amac}" ] || virsh net-update "mcpcontrol" add ip-dhcp-host \
 131     "<host mac='${amac}' name='mas01' ip='${MAAS_IP}'/>" --live
 132 }
 133
 134 function start_vms {
 135   local -n vnodes=$1
 136
 137   # start vms
 138   for node in "${vnodes[@]}"; do
 139     virsh start "${node}"
 140     sleep $((RANDOM%5+1))
 141   done
 142 }
 143
 144 function check_connection {
 145   local total_attempts=60
 146   local sleep_time=5
 147   local attempt=1
 148
 149   set +e
 150   echo '[INFO] Attempting to get into Salt master ...'
 151
 152   # wait until ssh on Salt master is available
 153   while ((attempt <= total_attempts)); do
 154     # shellcheck disable=SC2086
 155     ssh ${SSH_OPTS} "ubuntu@${SALT_MASTER}" uptime
 156     case $? in
 157       0) echo "${attempt}> Success"; break ;;
 158       *) echo "${attempt}/${total_attempts}> ssh server ain't ready yet, waiting for ${sleep_time} seconds ..." ;;
 159     esac
 160     sleep $sleep_time
 161     ((attempt+=1))
 162   done
 163   set -e
 164 }
 165
 166 function parse_yaml {
 167   local prefix=$2
 168   local s
 169   local w
 170   local fs
 171   s='[[:space:]]*'
 172   w='[a-zA-Z0-9_]*'
 173   fs="$(echo @|tr @ '\034')"
 174   sed -e 's|---||g' -ne "s|^\($s\)\($w\)$s:$s\"\(.*\)\"$s\$|\1$fs\2$fs\3|p" \
 175       -e "s|^\($s\)\($w\)$s[:-]$s\(.*\)$s\$|\1$fs\2$fs\3|p" "$1" |
 176   awk -F"$fs" '{
 177   indent = length($1)/2;
 178   vname[indent] = $2;
 179   for (i in vname) {if (i > indent) {delete vname[i]}}
 180       if (length($3) > 0) {
 181           vn=""; for (i=0; i<indent; i++) {vn=(vn)(vname[i])("_")}
 182           printf("%s%s%s=(\"%s\")\n", "'"$prefix"'",vn, $2, $3);
 183       }
 184   }' | sed 's/_=/+=/g'
 185 }
 186
 187 function wait_for {
 188   local total_attempts=$1; shift
 189   local cmdstr=$*
 190   local sleep_time=10
 191   echo "[NOTE] Waiting for cmd to return success: ${cmdstr}"
 192   # shellcheck disable=SC2034
 193   for attempt in $(seq "${total_attempts}"); do
 194     # shellcheck disable=SC2015
 195     eval "${cmdstr}" && break || true
 196     echo -n '.'; sleep "${sleep_time}"
 197   done
 198 }