Merge "lib.sh: persistent cfg01, mas01 mcpcontrol"
[fuel.git] / mcp / scripts / salt.sh
1 #!/bin/bash -e
2 ##############################################################################
3 # Copyright (c) 2017 Mirantis Inc., Enea AB and others.
4 # All rights reserved. This program and the accompanying materials
5 # are made available under the terms of the Apache License, Version 2.0
6 # which accompanies this distribution, and is available at
7 # http://www.apache.org/licenses/LICENSE-2.0
8 ##############################################################################
9 #
10 # Deploy Salt Master
11 #
12
13 CI_DEBUG=${CI_DEBUG:-0}; [[ "${CI_DEBUG}" =~ (false|0) ]] || set -x
14 F_GIT_ROOT=$(git rev-parse --show-toplevel)
15 F_GIT_DIR=$(cd "${F_GIT_ROOT}/mcp" && git rev-parse --git-dir)
16 F_GIT_SUBD=${F_GIT_ROOT#${F_GIT_DIR%%/.git*}}
17 OPNFV_TMP_DIR="/home/${SALT_MASTER_USER}/opnfv"
18 OPNFV_GIT_DIR="/root/opnfv"
19 OPNFV_FUEL_DIR="/root/fuel"
20 OPNFV_RDIR="reclass/classes/cluster/all-mcp-arch-common"
21 OPNFV_VCP_IMG="mcp/scripts/base_image_opnfv_fuel_vcp.img"
22 OPNFV_VCP_DIR="/srv/salt/env/prd/salt/files/control/images"
23 LOCAL_GIT_DIR="${F_GIT_ROOT%${F_GIT_SUBD}}"
24 LOCAL_PDF_RECLASS=$1
25 NODE_MASK='*'
26
27 [[ "${CLUSTER_DOMAIN}" =~ virtual ]] || NODE_MASK='mas01*'
28
29 # push to cfg01 current git repo first (including submodules), at ~ubuntu/opnfv
30 # later we move it to ~root/opnfv (and ln as ~root/fuel); delete the temp clone
31 remote_tmp="${SSH_SALT}:$(basename "${OPNFV_TMP_DIR}")"
32 rsync -Erl --delete -e "ssh ${SSH_OPTS}" \
33   --exclude-from="${F_GIT_ROOT}/.gitignore" \
34   "${LOCAL_GIT_DIR}/" "${remote_tmp}/"
35 if [ -n "${LOCAL_PDF_RECLASS}" ] && [ -f "${LOCAL_PDF_RECLASS}" ]; then
36   rsync -e "ssh ${SSH_OPTS}" "${LOCAL_PDF_RECLASS}" \
37     "${remote_tmp}${F_GIT_SUBD}/mcp/${OPNFV_RDIR}/opnfv/"
38 fi
39 local_vcp_img=$(dirname "${LOCAL_PDF_RECLASS}")/$(basename "${OPNFV_VCP_IMG}")
40 if [ -e "${local_vcp_img}" ]; then
41   rsync -L -e "ssh ${SSH_OPTS}" "${local_vcp_img}" \
42     "${remote_tmp}${F_GIT_SUBD}/${OPNFV_VCP_IMG}"
43 fi
44
45 # ssh to cfg01
46 # shellcheck disable=SC2086,2087
47 ssh ${SSH_OPTS} "${SSH_SALT}" bash -s -e << SALT_INSTALL_END
48   sudo -i
49   set -e
50   export CI_DEBUG=${CI_DEBUG}; [[ "${CI_DEBUG}" =~ (false|0) ]] || set -x
51
52   echo -n 'Checking out cloud-init has finished running ...'
53   while [ ! -f /var/lib/cloud/instance/boot-finished ]; do echo -n '.'; sleep 1; done
54   echo ' done'
55
56   mkdir -p /srv/salt /usr/share/salt-formulas/reclass
57   rm -rf ${OPNFV_GIT_DIR}
58   mv ${OPNFV_TMP_DIR} ${OPNFV_GIT_DIR} && chown -R root.root ${OPNFV_GIT_DIR}
59   find ${OPNFV_GIT_DIR} -name '.git' -type f | while read f_git; do
60     sed -i 's@${LOCAL_GIT_DIR}@${OPNFV_GIT_DIR}@g' \$f_git
61   done
62   ln -sf ${OPNFV_GIT_DIR}${F_GIT_SUBD} ${OPNFV_FUEL_DIR}
63   ln -sf ${OPNFV_FUEL_DIR}/mcp/reclass /srv/salt
64   ln -sf ${OPNFV_FUEL_DIR}/mcp/deploy/scripts /srv/salt
65   cd /srv/salt/${OPNFV_RDIR} && rm -f arch && ln -sf "\$(uname -i)" arch
66
67   cp -r ${OPNFV_FUEL_DIR}/mcp/metadata/service /usr/share/salt-formulas/reclass
68   cd /srv/salt/reclass/classes/service && \
69     ln -sf /usr/share/salt-formulas/reclass/service/opendaylight
70
71   cd /srv/salt/scripts
72   export DEBIAN_FRONTEND=noninteractive
73   OLD_DOMAIN=\$(grep -Pzo "id: cfg01\.\K(\S*)" /etc/salt/minion.d/minion.conf) || true
74   BOOTSTRAP_SALTSTACK_OPTS=" -r -dX stable 2016.11 " \
75     MASTER_HOSTNAME=cfg01.${CLUSTER_DOMAIN} DISTRIB_REVISION=nightly \
76       EXTRA_FORMULAS="nfs" \
77         ./salt-master-init.sh
78   salt-key -Ay
79
80   cp -r ${OPNFV_FUEL_DIR}/mcp/salt-formulas/* /usr/share/salt-formulas/env
81   cd ${OPNFV_FUEL_DIR}/mcp/patches && ./patch.sh patches.list formulas
82   cd ${OPNFV_FUEL_DIR}/mcp/patches && ./patch.sh patches.list reclass
83
84   salt-call state.apply salt
85
86   # In case scenario changed (and implicitly domain name), re-register minions
87   if [ -n "\${OLD_DOMAIN}" ] && [ "\${OLD_DOMAIN}" != "${CLUSTER_DOMAIN}" ]; then
88     salt "*.\${OLD_DOMAIN}" cmd.run "grep \${OLD_DOMAIN} -Rl /etc/salt | \
89       xargs --no-run-if-empty sed -i 's/\${OLD_DOMAIN}/${CLUSTER_DOMAIN}/g'; \
90         service salt-minion restart" || true
91     salt-key -yd "*.\${OLD_DOMAIN}"
92     salt-key -Ay
93   fi
94
95   # Init specific to VMs on FN (all for virtual, cfg|mas for baremetal)
96   salt -C "${NODE_MASK} or cfg01*" saltutil.sync_all
97   salt -C "${NODE_MASK} or cfg01*" state.apply salt | \
98     grep -Fq 'No response' && salt -C "${NODE_MASK} or cfg01*" state.apply salt
99
100   salt -C 'I@salt:master' state.sls linux
101   salt -C "${NODE_MASK} and not cfg01*" state.sls linux || true
102   salt -C "${NODE_MASK} and not cfg01*" pkg.upgrade refresh=False
103
104   salt -C "${NODE_MASK} or cfg01*" state.sls ntp
105
106   if [ -f "${OPNFV_FUEL_DIR}/${OPNFV_VCP_IMG}" ]; then
107     mkdir -p "${OPNFV_VCP_DIR}"
108     mv "${OPNFV_FUEL_DIR}/${OPNFV_VCP_IMG}" "${OPNFV_VCP_DIR}/"
109   fi
110
111   # symlink manually until package with required commit is available
112   cd /usr/share/salt-formulas/env/aodh/files
113   ln -sf ocata pike
114 SALT_INSTALL_END