Add custom domain file for virtual deploy
[apex.git] / ci / deploy.sh
1 #!/bin/bash
2 ##############################################################################
3 # Copyright (c) 2015 Tim Rozet (Red Hat), Dan Radez (Red Hat) and others.
4 #
5 # All rights reserved. This program and the accompanying materials
6 # are made available under the terms of the Apache License, Version 2.0
7 # which accompanies this distribution, and is available at
8 # http://www.apache.org/licenses/LICENSE-2.0
9 ##############################################################################
10
11 # Deploy script to install provisioning server for OPNFV Apex
12 # author: Dan Radez (dradez@redhat.com)
13 # author: Tim Rozet (trozet@redhat.com)
14 #
15 # Based on RDO Manager http://www.rdoproject.org
16
17 set -e
18
19 ##VARIABLES
20 reset=$(tput sgr0 || echo "")
21 blue=$(tput setaf 4 || echo "")
22 red=$(tput setaf 1 || echo "")
23 green=$(tput setaf 2 || echo "")
24
25 interactive="FALSE"
26 ping_site="8.8.8.8"
27 ntp_server="pool.ntp.org"
28 net_isolation_enabled="TRUE"
29 post_config="TRUE"
30 debug="FALSE"
31
32 declare -i CNT
33 declare UNDERCLOUD
34 declare -A deploy_options_array
35 declare -a performance_options
36 declare -A NET_MAP
37
38 SSH_OPTIONS=(-o StrictHostKeyChecking=no -o GlobalKnownHostsFile=/dev/null -o UserKnownHostsFile=/dev/null -o LogLevel=error)
39 DEPLOY_OPTIONS=""
40 CONFIG=${CONFIG:-'/var/opt/opnfv'}
41 RESOURCES=${RESOURCES:-"$CONFIG/images"}
42 LIB=${LIB:-"$CONFIG/lib"}
43 OPNFV_NETWORK_TYPES="admin_network private_network public_network storage_network"
44
45 VM_CPUS=4
46 VM_RAM=8
47 VM_COMPUTES=2
48
49 # Netmap used to map networks to OVS bridge names
50 NET_MAP['admin_network']="br-admin"
51 NET_MAP['private_network']="br-private"
52 NET_MAP['public_network']="br-public"
53 NET_MAP['storage_network']="br-storage"
54 ext_net_type="interface"
55 ip_address_family=4
56
57 # Libraries
58 lib_files=(
59 $LIB/common-functions.sh
60 $LIB/utility-functions.sh
61 $LIB/installer/onos/onos_gw_mac_update.sh
62 )
63 for lib_file in ${lib_files[@]}; do
64   if ! source $lib_file; then
65     echo -e "${red}ERROR: Failed to source $lib_file${reset}"
66     exit 1
67   fi
68 done
69
70 ##FUNCTIONS
71 ##translates yaml into variables
72 ##params: filename, prefix (ex. "config_")
73 ##usage: parse_yaml opnfv_ksgen_settings.yml "config_"
74 parse_yaml() {
75    local prefix=$2
76    local s='[[:space:]]*' w='[a-zA-Z0-9_]*' fs=$(echo @|tr @ '\034')
77    sed -ne "s|^\($s\)\($w\)$s:$s\"\(.*\)\"$s\$|\1$fs\2$fs\3|p" \
78         -e "s|^\($s\)\($w\)$s:$s\(.*\)$s\$|\1$fs\2$fs\3|p"  $1 |
79    awk -F$fs '{
80       indent = length($1)/2;
81       vname[indent] = $2;
82       for (i in vname) {if (i > indent) {delete vname[i]}}
83       if (length($3) > 0) {
84          vn=""; for (i=0; i<indent; i++) {vn=(vn)(vname[i])("_")}
85          printf("%s%s%s=%s\n", "'$prefix'",vn, $2, $3);
86       }
87    }'
88 }
89
90 ##checks if prefix exists in string
91 ##params: string, prefix
92 ##usage: contains_prefix "deploy_setting_launcher=1" "deploy_setting"
93 contains_prefix() {
94   local mystr=$1
95   local prefix=$2
96   if echo $mystr | grep -E "^$prefix.*$" > /dev/null; then
97     return 0
98   else
99     return 1
100   fi
101 }
102 ##parses variable from a string with '='
103 ##and removes global prefix
104 ##params: string, prefix
105 ##usage: parse_setting_var 'deploy_myvar=2' 'deploy_'
106 parse_setting_var() {
107   local mystr=$1
108   local prefix=$2
109   if echo $mystr | grep -E "^.+\=" > /dev/null; then
110     echo $(echo $mystr | grep -Eo "^.+\=" | tr -d '=' |  sed 's/^'"$prefix"'//')
111   else
112     return 1
113   fi
114 }
115 ##parses value from a string with '='
116 ##params: string
117 ##usage: parse_setting_value
118 parse_setting_value() {
119   local mystr=$1
120   echo $(echo $mystr | grep -Eo "\=.*$" | tr -d '=')
121 }
122
123 ##parses network settings yaml into globals
124 parse_network_settings() {
125   local output
126   if output=$(python3.4 -B $LIB/python/apex-python-utils.py parse-net-settings -s $NETSETS -i $net_isolation_enabled -e $CONFIG/network-environment.yaml); then
127       echo -e "${blue}${output}${reset}"
128       eval "$output"
129   else
130       echo -e "${red}ERROR: Failed to parse network settings file $NETSETS ${reset}"
131       exit 1
132   fi
133 }
134
135 ##parses deploy settings yaml into globals
136 parse_deploy_settings() {
137   local output
138   if output=$(python3.4 -B $LIB/python/apex-python-utils.py parse-deploy-settings -f $DEPLOY_SETTINGS_FILE); then
139       echo -e "${blue}${output}${reset}"
140       eval "$output"
141   else
142       echo -e "${red}ERROR: Failed to parse deploy settings file $DEPLOY_SETTINGS_FILE ${reset}"
143       exit 1
144   fi
145 }
146
147 ##parses baremetal yaml settings into compatible json
148 ##writes the json to $CONFIG/instackenv_tmp.json
149 ##params: none
150 ##usage: parse_inventory_file
151 parse_inventory_file() {
152   local inventory=$(parse_yaml $INVENTORY_FILE)
153   local node_list
154   local node_prefix="node"
155   local node_count=0
156   local node_total
157   local inventory_list
158
159   # detect number of nodes
160   for entry in $inventory; do
161     if echo $entry | grep -Eo "^nodes_node[0-9]+_" > /dev/null; then
162       this_node=$(echo $entry | grep -Eo "^nodes_node[0-9]+_")
163       if [[ "$inventory_list" != *"$this_node"* ]]; then
164         inventory_list+="$this_node "
165       fi
166     fi
167   done
168
169   inventory_list=$(echo $inventory_list | sed 's/ $//')
170
171   for node in $inventory_list; do
172     ((node_count+=1))
173   done
174
175   node_total=$node_count
176
177   if [[ "$node_total" -lt 5 && "$ha_enabled" == "True" ]]; then
178     echo -e "${red}ERROR: You must provide at least 5 nodes for HA baremetal deployment${reset}"
179     exit 1
180   elif [[ "$node_total" -lt 2 ]]; then
181     echo -e "${red}ERROR: You must provide at least 2 nodes for non-HA baremetal deployment${reset}"
182     exit 1
183   fi
184
185   eval $(parse_yaml $INVENTORY_FILE) || {
186     echo "${red}Failed to parse inventory.yaml. Aborting.${reset}"
187     exit 1
188   }
189
190   instackenv_output="
191 {
192  \"nodes\" : [
193
194 "
195   node_count=0
196   for node in $inventory_list; do
197     ((node_count+=1))
198     node_output="
199         {
200           \"pm_password\": \"$(eval echo \${${node}ipmi_pass})\",
201           \"pm_type\": \"$(eval echo \${${node}pm_type})\",
202           \"mac\": [
203             \"$(eval echo \${${node}mac_address})\"
204           ],
205           \"cpu\": \"$(eval echo \${${node}cpus})\",
206           \"memory\": \"$(eval echo \${${node}memory})\",
207           \"disk\": \"$(eval echo \${${node}disk})\",
208           \"arch\": \"$(eval echo \${${node}arch})\",
209           \"pm_user\": \"$(eval echo \${${node}ipmi_user})\",
210           \"pm_addr\": \"$(eval echo \${${node}ipmi_ip})\",
211           \"capabilities\": \"$(eval echo \${${node}capabilities})\"
212 "
213     instackenv_output+=${node_output}
214     if [ $node_count -lt $node_total ]; then
215       instackenv_output+="        },"
216     else
217       instackenv_output+="        }"
218     fi
219   done
220
221   instackenv_output+='
222   ]
223 }
224 '
225   #Copy instackenv.json to undercloud for baremetal
226   echo -e "{blue}Parsed instackenv JSON:\n${instackenv_output}${reset}"
227   ssh -T ${SSH_OPTIONS[@]} "stack@$UNDERCLOUD" <<EOI
228 cat > instackenv.json << EOF
229 $instackenv_output
230 EOF
231 EOI
232
233 }
234 ##verify internet connectivity
235 #params: none
236 function verify_internet {
237   if ping -c 2 $ping_site > /dev/null; then
238     if ping -c 2 www.google.com > /dev/null; then
239       echo "${blue}Internet connectivity detected${reset}"
240       return 0
241     else
242       echo "${red}Internet connectivity detected, but DNS lookup failed${reset}"
243       return 1
244     fi
245   else
246     echo "${red}No internet connectivity detected${reset}"
247     return 1
248   fi
249 }
250
251 ##download dependencies if missing and configure host
252 #params: none
253 function configure_deps {
254   if ! verify_internet; then
255     echo "${red}Will not download dependencies${reset}"
256     internet=false
257   fi
258
259   # verify ip forwarding
260   if sysctl net.ipv4.ip_forward | grep 0; then
261     sudo sysctl -w net.ipv4.ip_forward=1
262     sudo sh -c "echo 'net.ipv4.ip_forward = 1' >> /etc/sysctl.conf"
263   fi
264
265   # ensure no dhcp server is running on jumphost
266   if ! sudo systemctl status dhcpd | grep dead; then
267     echo "${red}WARN: DHCP Server detected on jumphost, disabling...${reset}"
268     sudo systemctl stop dhcpd
269     sudo systemctl disable dhcpd
270   fi
271
272   # ensure networks are configured
273   systemctl status libvirtd || systemctl start libvirtd
274   systemctl status openvswitch || systemctl start openvswitch
275
276   # If flat we only use admin network
277   if [[ "$net_isolation_enabled" == "FALSE" ]]; then
278     virsh_enabled_networks="admin_network"
279     enabled_network_list="admin_network"
280   # For baremetal we only need to create/attach Undercloud to admin and public
281   elif [ "$virtual" == "FALSE" ]; then
282     virsh_enabled_networks="admin_network public_network"
283   else
284     virsh_enabled_networks=$enabled_network_list
285   fi
286
287   # ensure default network is configured correctly
288   libvirt_dir="/usr/share/libvirt/networks"
289   virsh net-list --all | grep default || virsh net-define ${libvirt_dir}/default.xml
290   virsh net-list --all | grep -E "default\s+active" > /dev/null || virsh net-start default
291   virsh net-list --all | grep -E "default\s+active\s+yes" > /dev/null || virsh net-autostart --network default
292
293   if [[ -z "$virtual" || "$virtual" == "FALSE" ]]; then
294     for network in ${OPNFV_NETWORK_TYPES}; do
295       echo "${blue}INFO: Creating Virsh Network: $network & OVS Bridge: ${NET_MAP[$network]}${reset}"
296       ovs-vsctl list-br | grep "^${NET_MAP[$network]}$" > /dev/null || ovs-vsctl add-br ${NET_MAP[$network]}
297       virsh net-list --all | grep $network > /dev/null || (cat > ${libvirt_dir}/apex-virsh-net.xml && virsh net-define ${libvirt_dir}/apex-virsh-net.xml) << EOF
298 <network>
299   <name>$network</name>
300   <forward mode='bridge'/>
301   <bridge name='${NET_MAP[$network]}'/>
302   <virtualport type='openvswitch'/>
303 </network>
304 EOF
305       if ! (virsh net-list --all | grep $network > /dev/null); then
306           echo "${red}ERROR: unable to create network: ${network}${reset}"
307           exit 1;
308       fi
309       rm -f ${libvirt_dir}/apex-virsh-net.xml &> /dev/null;
310       virsh net-list | grep -E "$network\s+active" > /dev/null || virsh net-start $network
311       virsh net-list | grep -E "$network\s+active\s+yes" > /dev/null || virsh net-autostart --network $network
312     done
313
314     echo -e "${blue}INFO: Bridges set: ${reset}"
315     ovs-vsctl list-br
316
317     # bridge interfaces to correct OVS instances for baremetal deployment
318     for network in ${enabled_network_list}; do
319       if [[ "$network" != "admin_network" && "$network" != "public_network" ]]; then
320         continue
321       fi
322       this_interface=$(eval echo \${${network}_bridged_interface})
323       # check if this a bridged interface for this network
324       if [[ ! -z "$this_interface" || "$this_interface" != "none" ]]; then
325         if ! attach_interface_to_ovs ${NET_MAP[$network]} ${this_interface} ${network}; then
326           echo -e "${red}ERROR: Unable to bridge interface ${this_interface} to bridge ${NET_MAP[$network]} for enabled network: ${network}${reset}"
327           exit 1
328         else
329           echo -e "${blue}INFO: Interface ${this_interface} bridged to bridge ${NET_MAP[$network]} for enabled network: ${network}${reset}"
330         fi
331       else
332         echo "${red}ERROR: Unable to determine interface to bridge to for enabled network: ${network}${reset}"
333         exit 1
334       fi
335     done
336   else
337     for network in ${OPNFV_NETWORK_TYPES}; do
338       echo "${blue}INFO: Creating Virsh Network: $network${reset}"
339       virsh net-list --all | grep $network > /dev/null || (cat > ${libvirt_dir}/apex-virsh-net.xml && virsh net-define ${libvirt_dir}/apex-virsh-net.xml) << EOF
340 <network ipv6='yes'>
341 <name>$network</name>
342 <bridge name='${NET_MAP[$network]}'/>
343 </network>
344 EOF
345       if ! (virsh net-list --all | grep $network > /dev/null); then
346           echo "${red}ERROR: unable to create network: ${network}${reset}"
347           exit 1;
348       fi
349       rm -f ${libvirt_dir}/apex-virsh-net.xml &> /dev/null;
350       virsh net-list | grep -E "$network\s+active" > /dev/null || virsh net-start $network
351       virsh net-list | grep -E "$network\s+active\s+yes" > /dev/null || virsh net-autostart --network $network
352     done
353
354     echo -e "${blue}INFO: Bridges set: ${reset}"
355     brctl show
356   fi
357
358   echo -e "${blue}INFO: virsh networks set: ${reset}"
359   virsh net-list
360
361   # ensure storage pool exists and is started
362   virsh pool-list --all | grep default > /dev/null || virsh pool-define-as --name default dir --target /var/lib/libvirt/images
363   virsh pool-list | grep -Eo "default\s+active" > /dev/null || (virsh pool-autostart default; virsh pool-start default)
364
365   if ! egrep '^flags.*(vmx|svm)' /proc/cpuinfo > /dev/null; then
366     echo "${red}virtualization extensions not found, kvm kernel module insertion may fail.\n  \
367 Are you sure you have enabled vmx in your bios or hypervisor?${reset}"
368   fi
369
370   if ! lsmod | grep kvm > /dev/null; then modprobe kvm; fi
371   if ! lsmod | grep kvm_intel > /dev/null; then modprobe kvm_intel; fi
372
373   if ! lsmod | grep kvm > /dev/null; then
374     echo "${red}kvm kernel modules not loaded!${reset}"
375     return 1
376   fi
377
378   ##sshkeygen for root
379   if [ ! -e ~/.ssh/id_rsa.pub ]; then
380     ssh-keygen -t rsa -N "" -f ~/.ssh/id_rsa
381   fi
382
383   echo "${blue}All dependencies installed and running${reset}"
384 }
385
386 ##verify vm exists, an has a dhcp lease assigned to it
387 ##params: none
388 function setup_undercloud_vm {
389   if ! virsh list --all | grep undercloud > /dev/null; then
390       undercloud_nets="default admin_network"
391       if [[ $enabled_network_list =~ "public_network" ]]; then
392         undercloud_nets+=" public_network"
393       fi
394       define_vm undercloud hd 30 "$undercloud_nets" 4 12288
395
396       ### this doesn't work for some reason I was getting hangup events so using cp instead
397       #virsh vol-upload --pool default --vol undercloud.qcow2 --file $CONFIG/stack/undercloud.qcow2
398       #2015-12-05 12:57:20.569+0000: 8755: info : libvirt version: 1.2.8, package: 16.el7_1.5 (CentOS BuildSystem <http://bugs.centos.org>, 2015-11-03-13:56:46, worker1.bsys.centos.org)
399       #2015-12-05 12:57:20.569+0000: 8755: warning : virKeepAliveTimerInternal:143 : No response from client 0x7ff1e231e630 after 6 keepalive messages in 35 seconds
400       #2015-12-05 12:57:20.569+0000: 8756: warning : virKeepAliveTimerInternal:143 : No response from client 0x7ff1e231e630 after 6 keepalive messages in 35 seconds
401       #error: cannot close volume undercloud.qcow2
402       #error: internal error: received hangup / error event on socket
403       #error: Reconnected to the hypervisor
404
405       local undercloud_dst=/var/lib/libvirt/images/undercloud.qcow2
406       cp -f $RESOURCES/undercloud.qcow2 $undercloud_dst
407
408       # resize Undercloud machine
409       echo "Checking if Undercloud needs to be resized..."
410       undercloud_size=$(LIBGUESTFS_BACKEND=direct virt-filesystems --long -h --all -a $undercloud_dst |grep device | grep -Eo "[0-9\.]+G" | sed -n 's/\([0-9][0-9]*\).*/\1/p')
411       if [ "$undercloud_size" -lt 30 ]; then
412         qemu-img resize /var/lib/libvirt/images/undercloud.qcow2 +25G
413         LIBGUESTFS_BACKEND=direct virt-resize --expand /dev/sda1 $RESOURCES/undercloud.qcow2 $undercloud_dst
414         LIBGUESTFS_BACKEND=direct virt-customize -a $undercloud_dst --run-command 'xfs_growfs -d /dev/sda1 || true'
415         new_size=$(LIBGUESTFS_BACKEND=direct virt-filesystems --long -h --all -a $undercloud_dst |grep filesystem | grep -Eo "[0-9\.]+G" | sed -n 's/\([0-9][0-9]*\).*/\1/p')
416         if [ "$new_size" -lt 30 ]; then
417           echo "Error resizing Undercloud machine, disk size is ${new_size}"
418           exit 1
419         else
420           echo "Undercloud successfully resized"
421         fi
422       else
423         echo "Skipped Undercloud resize, upstream is large enough"
424       fi
425
426   else
427       echo "Found Undercloud VM, using existing VM"
428   fi
429
430   # if the VM is not running update the authkeys and start it
431   if ! virsh list | grep undercloud > /dev/null; then
432     echo "Injecting ssh key to Undercloud VM"
433     LIBGUESTFS_BACKEND=direct virt-customize -a $undercloud_dst --run-command "mkdir -p /root/.ssh/" \
434         --upload ~/.ssh/id_rsa.pub:/root/.ssh/authorized_keys \
435         --run-command "chmod 600 /root/.ssh/authorized_keys && restorecon /root/.ssh/authorized_keys" \
436         --run-command "cp /root/.ssh/authorized_keys /home/stack/.ssh/" \
437         --run-command "chown stack:stack /home/stack/.ssh/authorized_keys && chmod 600 /home/stack/.ssh/authorized_keys"
438     virsh start undercloud
439   fi
440
441   sleep 10 # let undercloud get started up
442
443   # get the undercloud VM IP
444   CNT=10
445   echo -n "${blue}Waiting for Undercloud's dhcp address${reset}"
446   undercloud_mac=$(virsh domiflist undercloud | grep default | awk '{ print $5 }')
447   while ! $(arp -e | grep ${undercloud_mac} > /dev/null) && [ $CNT -gt 0 ]; do
448       echo -n "."
449       sleep 10
450       CNT=$((CNT-1))
451   done
452   UNDERCLOUD=$(arp -e | grep ${undercloud_mac} | awk {'print $1'})
453
454   if [ -z "$UNDERCLOUD" ]; then
455     echo "\n\nCan't get IP for Undercloud. Can Not Continue."
456     exit 1
457   else
458      echo -e "${blue}\rUndercloud VM has IP $UNDERCLOUD${reset}"
459   fi
460
461   CNT=10
462   echo -en "${blue}\rValidating Undercloud VM connectivity${reset}"
463   while ! ping -c 1 $UNDERCLOUD > /dev/null && [ $CNT -gt 0 ]; do
464       echo -n "."
465       sleep 3
466       CNT=$((CNT-1))
467   done
468   if [ "$CNT" -eq 0 ]; then
469       echo "Failed to contact Undercloud. Can Not Continue"
470       exit 1
471   fi
472   CNT=10
473   while ! ssh -T ${SSH_OPTIONS[@]} "root@$UNDERCLOUD" "echo ''" 2>&1> /dev/null && [ $CNT -gt 0 ]; do
474       echo -n "."
475       sleep 3
476       CNT=$((CNT-1))
477   done
478   if [ "$CNT" -eq 0 ]; then
479       echo "Failed to connect to Undercloud. Can Not Continue"
480       exit 1
481   fi
482
483   # extra space to overwrite the previous connectivity output
484   echo -e "${blue}\r                                                                 ${reset}"
485   sleep 1
486   ssh -T ${SSH_OPTIONS[@]} "root@$UNDERCLOUD" "if ! ip a s eth2 | grep ${public_network_provisioner_ip} > /dev/null; then ip a a ${public_network_provisioner_ip}/${public_network_cidr##*/} dev eth2; ip link set up dev eth2; fi"
487
488   # ssh key fix for stack user
489   ssh -T ${SSH_OPTIONS[@]} "root@$UNDERCLOUD" "restorecon -r /home/stack"
490 }
491
492 ##Create virtual nodes in virsh
493 ##params: vcpus, ramsize
494 function setup_virtual_baremetal {
495   local vcpus ramsize
496   if [ -z "$1" ]; then
497     vcpus=4
498     ramsize=8192
499   elif [ -z "$2" ]; then
500     vcpus=$1
501     ramsize=8192
502   else
503     vcpus=$1
504     ramsize=$(($2*1024))
505   fi
506   #start by generating the opening json for instackenv.json
507   cat > $CONFIG/instackenv-virt.json << EOF
508 {
509   "nodes": [
510 EOF
511
512   # next create the virtual machines and add their definitions to the file
513   if [ "$ha_enabled" == "False" ]; then
514       # 1 controller + computes
515       # zero based so just pass compute count
516       vm_index=$VM_COMPUTES
517   else
518       # 3 controller + computes
519       # zero based so add 2 to compute count
520       vm_index=$((2+$VM_COMPUTES))
521   fi
522
523   for i in $(seq 0 $vm_index); do
524     if ! virsh list --all | grep baremetal${i} > /dev/null; then
525       define_vm baremetal${i} network 41 'admin_network' $vcpus $ramsize
526       for n in private_network public_network storage_network; do
527         if [[ $enabled_network_list =~ $n ]]; then
528           echo -n "$n "
529           virsh attach-interface --domain baremetal${i} --type network --source $n --model rtl8139 --config
530         fi
531       done
532     else
533       echo "Found Baremetal ${i} VM, using existing VM"
534     fi
535     #virsh vol-list default | grep baremetal${i} 2>&1> /dev/null || virsh vol-create-as default baremetal${i}.qcow2 41G --format qcow2
536     mac=$(virsh domiflist baremetal${i} | grep admin_network | awk '{ print $5 }')
537
538     cat >> $CONFIG/instackenv-virt.json << EOF
539     {
540       "pm_addr": "192.168.122.1",
541       "pm_user": "root",
542       "pm_password": "INSERT_STACK_USER_PRIV_KEY",
543       "pm_type": "pxe_ssh",
544       "mac": [
545         "$mac"
546       ],
547       "cpu": "$vcpus",
548       "memory": "$ramsize",
549       "disk": "41",
550       "arch": "x86_64"
551     },
552 EOF
553   done
554
555   #truncate the last line to remove the comma behind the bracket
556   tail -n 1 $CONFIG/instackenv-virt.json | wc -c | xargs -I {} truncate $CONFIG/instackenv-virt.json -s -{}
557
558   #finally reclose the bracket and close the instackenv.json file
559   cat >> $CONFIG/instackenv-virt.json << EOF
560     }
561   ],
562   "arch": "x86_64",
563   "host-ip": "192.168.122.1",
564   "power_manager": "nova.virt.baremetal.virtual_power_driver.VirtualPowerManager",
565   "seed-ip": "",
566   "ssh-key": "INSERT_STACK_USER_PRIV_KEY",
567   "ssh-user": "root"
568 }
569 EOF
570   #Overwrite the tripleo-inclubator domain.xml with our own, keeping a backup.
571   if [ ! -f /usr/share/tripleo/templates/domain.xml.bak ]; then
572     /usr/bin/mv -f /usr/share/tripleo/templates/domain.xml /usr/share/tripleo/templates/domain.xml.bak
573   fi
574
575   /usr/bin/cp -f $LIB/installer/domain.xml /usr/share/tripleo/templates/domain.xml
576 }
577
578 ##Create virtual nodes in virsh
579 ##params: name - String: libvirt name for VM
580 ##        bootdev - String: boot device for the VM
581 ##        disksize - Number: size of the disk in GB
582 ##        ovs_bridges: - List: list of ovs bridges
583 ##        vcpus - Number of VCPUs to use (defaults to 4)
584 ##        ramsize - Size of RAM for VM in MB (defaults to 8192)
585 function define_vm () {
586   local vcpus ramsize
587
588   if [ -z "$5" ]; then
589     vcpus=4
590     ramsize=8388608
591   elif [ -z "$6" ]; then
592     vcpus=$5
593     ramsize=8388608
594   else
595     vcpus=$5
596     ramsize=$(($6*1024))
597   fi
598
599   # Create the libvirt storage volume
600   if virsh vol-list default | grep ${1}.qcow2 2>&1> /dev/null; then
601     volume_path=$(virsh vol-path --pool default ${1}.qcow2 || echo "/var/lib/libvirt/images/${1}.qcow2")
602     echo "Volume ${1} exists. Deleting Existing Volume $volume_path"
603     virsh vol-dumpxml ${1}.qcow2 --pool default > /dev/null || echo '' #ok for this to fail
604     touch $volume_path
605     virsh vol-delete ${1}.qcow2 --pool default
606   fi
607   virsh vol-create-as default ${1}.qcow2 ${3}G --format qcow2
608   volume_path=$(virsh vol-path --pool default ${1}.qcow2)
609   if [ ! -f $volume_path ]; then
610       echo "$volume_path Not created successfully... Aborting"
611       exit 1
612   fi
613
614   # create the VM
615   /usr/libexec/openstack-tripleo/configure-vm --name $1 \
616                                               --bootdev $2 \
617                                               --image "$volume_path" \
618                                               --diskbus sata \
619                                               --arch x86_64 \
620                                               --cpus $vcpus \
621                                               --memory $ramsize \
622                                               --libvirt-nic-driver virtio \
623                                               --baremetal-interface $4
624 }
625
626 ##Copy over the glance images and instackenv json file
627 ##params: none
628 function configure_undercloud {
629   local controller_nic_template compute_nic_template
630   echo
631   echo "Copying configuration files to Undercloud"
632   if [[ "$net_isolation_enabled" == "TRUE" ]]; then
633     echo -e "${blue}Network Environment set for Deployment: ${reset}"
634     cat /tmp/network-environment.yaml
635     scp ${SSH_OPTIONS[@]} /tmp/network-environment.yaml "stack@$UNDERCLOUD":
636
637     # check for ODL L3/ONOS
638     if [ "${deploy_options_array['sdn_l3']}" == 'True' ]; then
639       ext_net_type=br-ex
640     fi
641
642     if ! controller_nic_template=$(python3.4 -B $LIB/python/apex-python-utils.py nic-template -t $CONFIG/nics-controller.yaml.jinja2 -n "$enabled_network_list" -e $ext_net_type -af $ip_addr_family); then
643       echo -e "${red}ERROR: Failed to generate controller NIC heat template ${reset}"
644       exit 1
645     fi
646
647     if ! compute_nic_template=$(python3.4 -B $LIB/python/apex-python-utils.py nic-template -t $CONFIG/nics-compute.yaml.jinja2 -n "$enabled_network_list" -e $ext_net_type -af $ip_addr_family); then
648       echo -e "${red}ERROR: Failed to generate compute NIC heat template ${reset}"
649       exit 1
650     fi
651     ssh -T ${SSH_OPTIONS[@]} "stack@$UNDERCLOUD" << EOI
652 mkdir nics/
653 cat > nics/controller.yaml << EOF
654 $controller_nic_template
655 EOF
656 cat > nics/compute.yaml << EOF
657 $compute_nic_template
658 EOF
659 EOI
660   fi
661
662   # ensure stack user on Undercloud machine has an ssh key
663   ssh -T ${SSH_OPTIONS[@]} "stack@$UNDERCLOUD" "if [ ! -e ~/.ssh/id_rsa.pub ]; then ssh-keygen -t rsa -N '' -f ~/.ssh/id_rsa; fi"
664
665   if [ "$virtual" == "TRUE" ]; then
666
667       # copy the Undercloud VM's stack user's pub key to
668       # root's auth keys so that Undercloud can control
669       # vm power on the hypervisor
670       ssh ${SSH_OPTIONS[@]} "stack@$UNDERCLOUD" "cat /home/stack/.ssh/id_rsa.pub" >> /root/.ssh/authorized_keys
671
672       DEPLOY_OPTIONS+=" --libvirt-type qemu"
673       INSTACKENV=$CONFIG/instackenv-virt.json
674
675       # upload instackenv file to Undercloud for virtual deployment
676       scp ${SSH_OPTIONS[@]} $INSTACKENV "stack@$UNDERCLOUD":instackenv.json
677   fi
678
679   # allow stack to control power management on the hypervisor via sshkey
680   # only if this is a virtual deployment
681   if [ "$virtual" == "TRUE" ]; then
682       ssh -T ${SSH_OPTIONS[@]} "stack@$UNDERCLOUD" <<EOI
683 while read -r line; do
684   stack_key=\${stack_key}\\\\\\\\n\${line}
685 done < <(cat ~/.ssh/id_rsa)
686 stack_key=\$(echo \$stack_key | sed 's/\\\\\\\\n//')
687 sed -i 's~INSERT_STACK_USER_PRIV_KEY~'"\$stack_key"'~' instackenv.json
688 EOI
689   fi
690
691   # copy stack's ssh key to this users authorized keys
692   ssh -T ${SSH_OPTIONS[@]} "root@$UNDERCLOUD" "cat /home/stack/.ssh/id_rsa.pub" >> ~/.ssh/authorized_keys
693
694   # disable requiretty for sudo
695   ssh -T ${SSH_OPTIONS[@]} "root@$UNDERCLOUD" "sed -i 's/Defaults\s*requiretty//'" /etc/sudoers
696
697   # configure undercloud on Undercloud VM
698   echo "Running undercloud configuration."
699   echo "Logging undercloud configuration to undercloud:/home/stack/apex-undercloud-install.log"
700   ssh -T ${SSH_OPTIONS[@]} "stack@$UNDERCLOUD" << EOI
701 if [[ "$net_isolation_enabled" == "TRUE" ]]; then
702   sed -i 's/#local_ip/local_ip/' undercloud.conf
703   sed -i 's/#network_gateway/network_gateway/' undercloud.conf
704   sed -i 's/#network_cidr/network_cidr/' undercloud.conf
705   sed -i 's/#dhcp_start/dhcp_start/' undercloud.conf
706   sed -i 's/#dhcp_end/dhcp_end/' undercloud.conf
707   sed -i 's/#inspection_iprange/inspection_iprange/' undercloud.conf
708   sed -i 's/#undercloud_debug/undercloud_debug/' undercloud.conf
709
710   openstack-config --set undercloud.conf DEFAULT local_ip ${admin_network_provisioner_ip}/${admin_network_cidr##*/}
711   openstack-config --set undercloud.conf DEFAULT network_gateway ${admin_network_provisioner_ip}
712   openstack-config --set undercloud.conf DEFAULT network_cidr ${admin_network_cidr}
713   openstack-config --set undercloud.conf DEFAULT dhcp_start ${admin_network_dhcp_range%%,*}
714   openstack-config --set undercloud.conf DEFAULT dhcp_end ${admin_network_dhcp_range##*,}
715   openstack-config --set undercloud.conf DEFAULT inspection_iprange ${admin_network_introspection_range}
716   openstack-config --set undercloud.conf DEFAULT undercloud_debug false
717
718 fi
719
720 sudo sed -i '/CephClusterFSID:/c\\  CephClusterFSID: \\x27$(cat /proc/sys/kernel/random/uuid)\\x27' /usr/share/openstack-tripleo-heat-templates/environments/storage-environment.yaml
721 sudo sed -i '/CephMonKey:/c\\  CephMonKey: \\x27'"\$(ceph-authtool --gen-print-key)"'\\x27' /usr/share/openstack-tripleo-heat-templates/environments/storage-environment.yaml
722 sudo sed -i '/CephAdminKey:/c\\  CephAdminKey: \\x27'"\$(ceph-authtool --gen-print-key)"'\\x27' /usr/share/openstack-tripleo-heat-templates/environments/storage-environment.yaml
723
724 # we assume that packages will not need to be updated with undercloud install
725 # and that it will be used only to configure the undercloud
726 # packages updates would need to be handled manually with yum update
727 sudo cp -f /usr/share/diskimage-builder/elements/yum/bin/install-packages /usr/share/diskimage-builder/elements/yum/bin/install-packages.bak
728 cat << 'EOF' | sudo tee /usr/share/diskimage-builder/elements/yum/bin/install-packages > /dev/null
729 #!/bin/sh
730 exit 0
731 EOF
732
733 openstack undercloud install &> apex-undercloud-install.log || {
734     # cat the undercloud install log incase it fails
735     echo "ERROR: openstack undercloud install has failed. Dumping Log:"
736     cat apex-undercloud-install.log
737     exit 1
738 }
739
740 sleep 30
741 sudo systemctl restart openstack-glance-api
742 sudo systemctl restart openstack-nova-conductor
743 sudo systemctl restart openstack-nova-compute
744
745 sudo sed -i '/num_engine_workers/c\num_engine_workers = 2' /etc/heat/heat.conf
746 sudo sed -i '/#workers\s=/c\workers = 2' /etc/heat/heat.conf
747 sudo systemctl restart openstack-heat-engine
748 sudo systemctl restart openstack-heat-api
749 EOI
750 # WORKAROUND: must restart the above services to fix sync problem with nova compute manager
751 # TODO: revisit and file a bug if necessary. This should eventually be removed
752 # as well as glance api problem
753 echo -e "${blue}INFO: Sleeping 15 seconds while services come back from restart${reset}"
754 sleep 15
755
756 }
757
758 ##preping it for deployment and launch the deploy
759 ##params: none
760 function undercloud_prep_overcloud_deploy {
761   if [[ "${#deploy_options_array[@]}" -eq 0 || "${deploy_options_array['sdn_controller']}" == 'opendaylight' ]]; then
762     if [ "${deploy_options_array['sdn_l3']}" == 'True' ]; then
763       DEPLOY_OPTIONS+=" -e /usr/share/openstack-tripleo-heat-templates/environments/opendaylight_l3.yaml"
764     elif [ "${deploy_options_array['sfc']}" == 'True' ]; then
765       DEPLOY_OPTIONS+=" -e /usr/share/openstack-tripleo-heat-templates/environments/opendaylight_sfc.yaml"
766     elif [ "${deploy_options_array['vpn']}" == 'True' ]; then
767       DEPLOY_OPTIONS+=" -e /usr/share/openstack-tripleo-heat-templates/environments/opendaylight_sdnvpn.yaml"
768     else
769       DEPLOY_OPTIONS+=" -e /usr/share/openstack-tripleo-heat-templates/environments/opendaylight.yaml"
770     fi
771     SDN_IMAGE=opendaylight
772     if [ "${deploy_options_array['sfc']}" == 'True' ]; then
773       SDN_IMAGE+=-sfc
774       if [ ! -f $RESOURCES/overcloud-full-${SDN_IMAGE}.qcow2 ]; then
775           echo "${red} $RESOURCES/overcloud-full-${SDN_IMAGE}.qcow2 is required to execute an SFC deployment."
776           echo "Please install the opnfv-apex-opendaylight-sfc package to provide this overcloud image for deployment.${reset}"
777           exit 1
778       fi
779     fi
780   elif [ "${deploy_options_array['sdn_controller']}" == 'opendaylight-external' ]; then
781     DEPLOY_OPTIONS+=" -e /usr/share/openstack-tripleo-heat-templates/environments/opendaylight-external.yaml"
782     SDN_IMAGE=opendaylight
783   elif [ "${deploy_options_array['sdn_controller']}" == 'onos' ]; then
784     DEPLOY_OPTIONS+=" -e /usr/share/openstack-tripleo-heat-templates/environments/onos.yaml"
785     SDN_IMAGE=onos
786   elif [ "${deploy_options_array['sdn_controller']}" == 'opencontrail' ]; then
787     echo -e "${red}ERROR: OpenContrail is currently unsupported...exiting${reset}"
788     exit 1
789   elif [[ -z "${deploy_options_array['sdn_controller']}" || "${deploy_options_array['sdn_controller']}" == 'False' ]]; then
790     echo -e "${blue}INFO: SDN Controller disabled...will deploy nosdn scenario${reset}"
791     SDN_IMAGE=opendaylight
792   else
793     echo "${red}Invalid sdn_controller: ${deploy_options_array['sdn_controller']}${reset}"
794     echo "${red}Valid choices are opendaylight, opendaylight-external, onos, opencontrail, False, or null${reset}"
795     exit 1
796   fi
797
798   # Make sure the correct overcloud image is available
799   if [ ! -f $RESOURCES/overcloud-full-${SDN_IMAGE}.qcow2 ]; then
800       echo "${red} $RESOURCES/overcloud-full-${SDN_IMAGE}.qcow2 is required to execute your deployment."
801       echo "Both ONOS and OpenDaylight are currently deployed from this image."
802       echo "Please install the opnfv-apex package to provide this overcloud image for deployment.${reset}"
803       exit 1
804   fi
805
806   echo "Copying overcloud image to Undercloud"
807   ssh -T ${SSH_OPTIONS[@]} "stack@$UNDERCLOUD" "rm -f overcloud-full.qcow2"
808   scp ${SSH_OPTIONS[@]} $RESOURCES/overcloud-full-${SDN_IMAGE}.qcow2 "stack@$UNDERCLOUD":overcloud-full.qcow2
809
810   # Push performance options to subscript to modify per-role images as needed
811   for option in "${performance_options[@]}" ; do
812     echo -e "${blue}Setting performance option $option${reset}"
813     ssh -T ${SSH_OPTIONS[@]} "stack@$UNDERCLOUD" "bash build_perf_image.sh $option"
814   done
815
816   # Add performance deploy options if they have been set
817   if [ ! -z "${deploy_options_array['performance']}" ]; then
818     DEPLOY_OPTIONS+=" -e /usr/share/openstack-tripleo-heat-templates/environments/numa.yaml"
819   fi
820
821   # make sure ceph is installed
822   DEPLOY_OPTIONS+=" -e /usr/share/openstack-tripleo-heat-templates/environments/storage-environment.yaml"
823
824   # scale compute nodes according to inventory
825   total_nodes=$(ssh -T ${SSH_OPTIONS[@]} "root@$UNDERCLOUD" "cat /home/stack/instackenv.json | grep -c memory")
826
827   # check if HA is enabled
828   if [[ "$ha_enabled" == "True" ]]; then
829      DEPLOY_OPTIONS+=" --control-scale 3"
830      compute_nodes=$((total_nodes - 3))
831      DEPLOY_OPTIONS+=" -e /usr/share/openstack-tripleo-heat-templates/environments/puppet-pacemaker.yaml"
832   else
833      compute_nodes=$((total_nodes - 1))
834   fi
835
836   if [ "$compute_nodes" -le 0 ]; then
837     echo -e "${red}ERROR: Invalid number of compute nodes: ${compute_nodes}. Check your inventory file.${reset}"
838     exit 1
839   else
840     echo -e "${blue}INFO: Number of compute nodes set for deployment: ${compute_nodes}${reset}"
841     DEPLOY_OPTIONS+=" --compute-scale ${compute_nodes}"
842   fi
843
844   if [[ "$net_isolation_enabled" == "TRUE" ]]; then
845      #DEPLOY_OPTIONS+=" -e /usr/share/openstack-tripleo-heat-templates/environments/network-isolation.yaml"
846      DEPLOY_OPTIONS+=" -e network-environment.yaml"
847   fi
848
849   if [[ "$ha_enabled" == "True" ]] || [[ "$net_isolation_enabled" == "TRUE" ]]; then
850      DEPLOY_OPTIONS+=" --ntp-server $ntp_server"
851   fi
852
853   if [[ ! "$virtual" == "TRUE" ]]; then
854      DEPLOY_OPTIONS+=" --control-flavor control --compute-flavor compute"
855   else
856      DEPLOY_OPTIONS+=" -e virtual-environment.yaml"
857   fi
858
859   DEPLOY_OPTIONS+=" -e opnfv-environment.yaml"
860
861   echo -e "${blue}INFO: Deploy options set:\n${DEPLOY_OPTIONS}${reset}"
862
863   ssh -T ${SSH_OPTIONS[@]} "stack@$UNDERCLOUD" <<EOI
864 if [ "$debug" == 'TRUE' ]; then
865     LIBGUESTFS_BACKEND=direct virt-customize -a overcloud-full.qcow2 --root-password password:opnfvapex
866 fi
867
868 source stackrc
869 set -o errexit
870 echo "Uploading overcloud glance images"
871 openstack overcloud image upload
872
873 bash -x set_perf_images.sh ${performance_roles[@]}
874
875 echo "Configuring undercloud and discovering nodes"
876 openstack baremetal import --json instackenv.json
877 openstack baremetal configure boot
878 #if [[ -z "$virtual" ]]; then
879 #  openstack baremetal introspection bulk start
880 #fi
881 echo "Configuring flavors"
882 for flavor in baremetal control compute; do
883   echo -e "${blue}INFO: Updating flavor: \${flavor}${reset}"
884   if openstack flavor list | grep \${flavor}; then
885     openstack flavor delete \${flavor}
886   fi
887   openstack flavor create --id auto --ram 4096 --disk 39 --vcpus 1 \${flavor}
888   if ! openstack flavor list | grep \${flavor}; then
889     echo -e "${red}ERROR: Unable to create flavor \${flavor}${reset}"
890   fi
891 done
892 openstack flavor set --property "cpu_arch"="x86_64" --property "capabilities:boot_option"="local" baremetal
893 openstack flavor set --property "cpu_arch"="x86_64" --property "capabilities:boot_option"="local" --property "capabilities:profile"="control" control
894 openstack flavor set --property "cpu_arch"="x86_64" --property "capabilities:boot_option"="local" --property "capabilities:profile"="compute" compute
895 echo "Configuring nameserver on ctlplane network"
896 neutron subnet-update \$(neutron subnet-list | grep -v id | grep -v \\\\-\\\\- | awk {'print \$2'}) --dns-nameserver 8.8.8.8
897 echo "Executing overcloud deployment, this should run for an extended period without output."
898 sleep 60 #wait for Hypervisor stats to check-in to nova
899 # save deploy command so it can be used for debugging
900 cat > deploy_command << EOF
901 openstack overcloud deploy --templates $DEPLOY_OPTIONS --timeout 90
902 EOF
903 EOI
904
905   if [ "$interactive" == "TRUE" ]; then
906     if ! prompt_user "Overcloud Deployment"; then
907       echo -e "${blue}INFO: User requests exit${reset}"
908       exit 0
909     fi
910   fi
911
912   ssh -T ${SSH_OPTIONS[@]} "stack@$UNDERCLOUD" <<EOI
913 source stackrc
914 openstack overcloud deploy --templates $DEPLOY_OPTIONS --timeout 90
915 if ! heat stack-list | grep CREATE_COMPLETE 1>/dev/null; then
916   $(typeset -f debug_stack)
917   debug_stack
918   exit 1
919 fi
920 EOI
921
922   if [ "$debug" == 'TRUE' ]; then
923       ssh -T ${SSH_OPTIONS[@]} "stack@$UNDERCLOUD" <<EOI
924 source overcloudrc
925 echo "Keystone Endpoint List:"
926 keystone endpoint-list
927 echo "Keystone Service List"
928 keystone service-list
929 cinder quota-show \$(openstack project list | grep admin | awk {'print \$2'})
930 EOI
931   fi
932 }
933
934 ##Post configuration after install
935 ##params: none
936 function configure_post_install {
937   local opnfv_attach_networks ovs_ip ip_range net_cidr tmp_ip
938   opnfv_attach_networks="admin_network public_network"
939
940   echo -e "${blue}INFO: Post Install Configuration Running...${reset}"
941
942   ssh -T ${SSH_OPTIONS[@]} "stack@$UNDERCLOUD" <<EOI
943 source overcloudrc
944 set -o errexit
945 echo "Configuring Neutron external network"
946 neutron net-create external --router:external=True --tenant-id \$(keystone tenant-get service | grep id | awk '{ print \$4 }')
947 neutron subnet-create --name external-net --tenant-id \$(keystone tenant-get service | grep id | awk '{ print \$4 }') --disable-dhcp external --gateway ${public_network_gateway} --allocation-pool start=${public_network_floating_ip_range%%,*},end=${public_network_floating_ip_range##*,} ${public_network_cidr}
948 EOI
949
950   echo -e "${blue}INFO: Checking if OVS bridges have IP addresses...${reset}"
951   for network in ${opnfv_attach_networks}; do
952     ovs_ip=$(find_ip ${NET_MAP[$network]})
953     tmp_ip=''
954     if [ -n "$ovs_ip" ]; then
955       echo -e "${blue}INFO: OVS Bridge ${NET_MAP[$network]} has IP address ${ovs_ip}${reset}"
956     else
957       echo -e "${blue}INFO: OVS Bridge ${NET_MAP[$network]} missing IP, will configure${reset}"
958       # use last IP of allocation pool
959       eval "ip_range=\${${network}_usable_ip_range}"
960       ovs_ip=${ip_range##*,}
961       eval "net_cidr=\${${network}_cidr}"
962       sudo ip addr add ${ovs_ip}/${net_cidr##*/} dev ${NET_MAP[$network]}
963       sudo ip link set up ${NET_MAP[$network]}
964       tmp_ip=$(find_ip ${NET_MAP[$network]})
965       if [ -n "$tmp_ip" ]; then
966         echo -e "${blue}INFO: OVS Bridge ${NET_MAP[$network]} IP set: ${tmp_ip}${reset}"
967         continue
968       else
969         echo -e "${red}ERROR: Unable to set OVS Bridge ${NET_MAP[$network]} with IP: ${ovs_ip}${reset}"
970         return 1
971       fi
972     fi
973   done
974
975   # for virtual, we NAT public network through Undercloud
976   if [ "$virtual" == "TRUE" ]; then
977     if ! configure_undercloud_nat ${public_network_cidr}; then
978       echo -e "${red}ERROR: Unable to NAT undercloud with external net: ${public_network_cidr}${reset}"
979       exit 1
980     else
981       echo -e "${blue}INFO: Undercloud VM has been setup to NAT Overcloud public network${reset}"
982     fi
983   fi
984
985   # for sfc deployments we need the vxlan workaround
986   if [ "${deploy_options_array['sfc']}" == 'True' ]; then
987       ssh -T ${SSH_OPTIONS[@]} "stack@$UNDERCLOUD" <<EOI
988 source stackrc
989 set -o errexit
990 for node in \$(nova list | grep -Eo "[0-9]+\.[0-9]+\.[0-9]+\.[0-9]+"); do
991 ssh -T ${SSH_OPTIONS[@]} "heat-admin@\$node" <<EOF
992 sudo ifconfig br-int up
993 sudo ip route add 123.123.123.0/24 dev br-int
994 EOF
995 done
996 EOI
997   fi
998
999   # Collect deployment logs
1000   ssh -T ${SSH_OPTIONS[@]} "stack@$UNDERCLOUD" <<EOI
1001 mkdir -p ~/deploy_logs
1002 rm -rf deploy_logs/*
1003 source stackrc
1004 set -o errexit
1005 for node in \$(nova list | grep -Eo "[0-9]+\.[0-9]+\.[0-9]+\.[0-9]+"); do
1006  ssh -T ${SSH_OPTIONS[@]} "heat-admin@\$node" <<EOF
1007  sudo cp /var/log/messages /home/heat-admin/messages.log
1008  sudo chown heat-admin /home/heat-admin/messages.log
1009 EOF
1010 scp ${SSH_OPTIONS[@]} heat-admin@\$node:/home/heat-admin/messages.log ~/deploy_logs/\$node.messages.log
1011 if [ "$debug" == "TRUE" ]; then
1012     nova list --ip \$node
1013     echo "---------------------------"
1014     echo "-----/var/log/messages-----"
1015     echo "---------------------------"
1016     cat ~/deploy_logs/\$node.messages.log
1017     echo "---------------------------"
1018     echo "----------END LOG----------"
1019     echo "---------------------------"
1020 fi
1021  ssh -T ${SSH_OPTIONS[@]} "heat-admin@\$node" <<EOF
1022  sudo rm -f /home/heat-admin/messages.log
1023 EOF
1024 done
1025
1026 # Print out the dashboard URL
1027 source stackrc
1028 echo "Overcloud dashboard available at http://\$(heat output-show overcloud PublicVip | sed 's/"//g')/dashboard"
1029 EOI
1030
1031 }
1032
1033 display_usage() {
1034   echo -e "Usage:\n$0 [arguments] \n"
1035   echo -e "   -d|--deploy-settings : Full path to deploy settings yaml file. Optional.  Defaults to null"
1036   echo -e "   -i|--inventory : Full path to inventory yaml file. Required only for baremetal"
1037   echo -e "   -n|--net-settings : Full path to network settings file. Optional."
1038   echo -e "   -p|--ping-site : site to use to verify IP connectivity. Optional. Defaults to 8.8.8.8"
1039   echo -e "   -v|--virtual : Virtualize overcloud nodes instead of using baremetal."
1040   echo -e "   --flat : disable Network Isolation and use a single flat network for the underlay network."
1041   echo -e "   --no-post-config : disable Post Install configuration."
1042   echo -e "   --debug : enable debug output."
1043   echo -e "   --interactive : enable interactive deployment mode which requires user to confirm steps of deployment."
1044   echo -e "   --virtual-cpus : Number of CPUs to use per Overcloud VM in a virtual deployment (defaults to 4)."
1045   echo -e "   --virtual-ram : Amount of RAM to use per Overcloud VM in GB (defaults to 8)."
1046 }
1047
1048 ##translates the command line parameters into variables
1049 ##params: $@ the entire command line is passed
1050 ##usage: parse_cmd_line() "$@"
1051 parse_cmdline() {
1052   echo -e "\n\n${blue}This script is used to deploy the Apex Installer and Provision OPNFV Target System${reset}\n\n"
1053   echo "Use -h to display help"
1054   sleep 2
1055
1056   while [ "${1:0:1}" = "-" ]
1057   do
1058     case "$1" in
1059         -h|--help)
1060                 display_usage
1061                 exit 0
1062             ;;
1063         -d|--deploy-settings)
1064                 DEPLOY_SETTINGS_FILE=$2
1065                 echo "Deployment Configuration file: $2"
1066                 shift 2
1067             ;;
1068         -i|--inventory)
1069                 INVENTORY_FILE=$2
1070                 shift 2
1071             ;;
1072         -n|--net-settings)
1073                 NETSETS=$2
1074                 echo "Network Settings Configuration file: $2"
1075                 shift 2
1076             ;;
1077         -p|--ping-site)
1078                 ping_site=$2
1079                 echo "Using $2 as the ping site"
1080                 shift 2
1081             ;;
1082         -v|--virtual)
1083                 virtual="TRUE"
1084                 echo "Executing a Virtual Deployment"
1085                 shift 1
1086             ;;
1087         --flat )
1088                 net_isolation_enabled="FALSE"
1089                 echo "Underlay Network Isolation Disabled: using flat configuration"
1090                 shift 1
1091             ;;
1092         --no-post-config )
1093                 post_config="FALSE"
1094                 echo "Post install configuration disabled"
1095                 shift 1
1096             ;;
1097         --debug )
1098                 debug="TRUE"
1099                 echo "Enable debug output"
1100                 shift 1
1101             ;;
1102         --interactive )
1103                 interactive="TRUE"
1104                 echo "Interactive mode enabled"
1105                 shift 1
1106             ;;
1107         --virtual-cpus )
1108                 VM_CPUS=$2
1109                 echo "Number of CPUs per VM set to $VM_CPUS"
1110                 shift 2
1111             ;;
1112         --virtual-ram )
1113                 VM_RAM=$2
1114                 echo "Amount of RAM per VM set to $VM_RAM"
1115                 shift 2
1116             ;;
1117         --virtual-computes )
1118                 VM_COMPUTES=$2
1119                 echo "Virtual Compute nodes set to $VM_COMPUTES"
1120                 shift 2
1121             ;;
1122         *)
1123                 display_usage
1124                 exit 1
1125             ;;
1126     esac
1127   done
1128
1129   if [[ ! -z "$NETSETS" && "$net_isolation_enabled" == "FALSE" ]]; then
1130     echo -e "${red}INFO: Single flat network requested. Only admin_network settings will be used!${reset}"
1131   elif [[ -z "$NETSETS" ]]; then
1132     echo -e "${red}ERROR: You must provide a network_settings file with -n.${reset}"
1133     exit 1
1134   fi
1135
1136   if [[ -n "$virtual" && -n "$INVENTORY_FILE" ]]; then
1137     echo -e "${red}ERROR: You should not specify an inventory with virtual deployments${reset}"
1138     exit 1
1139   fi
1140
1141   if [[ -z "$DEPLOY_SETTINGS_FILE" || ! -f "$DEPLOY_SETTINGS_FILE" ]]; then
1142     echo -e "${red}ERROR: Deploy Settings: ${DEPLOY_SETTINGS_FILE} does not exist! Exiting...${reset}"
1143     exit 1
1144   fi
1145
1146   if [[ ! -z "$NETSETS" && ! -f "$NETSETS" ]]; then
1147     echo -e "${red}ERROR: Network Settings: ${NETSETS} does not exist! Exiting...${reset}"
1148     exit 1
1149   fi
1150
1151   if [[ ! -z "$INVENTORY_FILE" && ! -f "$INVENTORY_FILE" ]]; then
1152     echo -e "{$red}ERROR: Inventory File: ${INVENTORY_FILE} does not exist! Exiting...${reset}"
1153     exit 1
1154   fi
1155
1156   if [[ -z "$virtual" && -z "$INVENTORY_FILE" ]]; then
1157     echo -e "${red}ERROR: You must specify an inventory file for baremetal deployments! Exiting...${reset}"
1158     exit 1
1159   fi
1160
1161   if [[ "$net_isolation_enabled" == "FALSE" && "$post_config" == "TRUE" ]]; then
1162     echo -e "${blue}INFO: Post Install Configuration will be skipped.  It is not supported with --flat${reset}"
1163     post_config="FALSE"
1164   fi
1165
1166 }
1167
1168 ##END FUNCTIONS
1169
1170 main() {
1171   # Make sure jinja2 is installed
1172   easy_install-3.4 jinja2 > /dev/null
1173   parse_cmdline "$@"
1174   echo -e "${blue}INFO: Parsing network settings file...${reset}"
1175   parse_network_settings
1176   if ! configure_deps; then
1177     echo -e "${red}Dependency Validation Failed, Exiting.${reset}"
1178     exit 1
1179   fi
1180   if [ -n "$DEPLOY_SETTINGS_FILE" ]; then
1181     echo -e "${blue}INFO: Parsing deploy settings file...${reset}"
1182     parse_deploy_settings
1183   fi
1184   setup_undercloud_vm
1185   if [ "$virtual" == "TRUE" ]; then
1186     setup_virtual_baremetal $VM_CPUS $VM_RAM
1187   elif [ -n "$INVENTORY_FILE" ]; then
1188     parse_inventory_file
1189   fi
1190   configure_undercloud
1191   undercloud_prep_overcloud_deploy
1192   if [ "$post_config" == "TRUE" ]; then
1193     if ! configure_post_install; then
1194       echo -e "${red}ERROR:Post Install Configuration Failed, Exiting.${reset}"
1195       exit 1
1196     else
1197       echo -e "${blue}INFO: Post Install Configuration Complete${reset}"
1198     fi
1199   fi
1200   if [[ "${deploy_options_array['sdn_controller']}" == 'onos' ]]; then
1201     if ! onos_update_gw_mac ${public_network_cidr} ${public_network_gateway}; then
1202       echo -e "${red}ERROR:ONOS Post Install Configuration Failed, Exiting.${reset}"
1203       exit 1
1204     else
1205       echo -e "${blue}INFO: ONOS Post Install Configuration Complete${reset}"
1206     fi
1207   fi
1208 }
1209
1210 main "$@"