ci/openstack.sh

   1 #!/bin/bash -ex
   2
   3 ##############################################################################
   4 # All rights reserved. This program and the accompanying materials
   5 # are made available under the terms of the Apache License, Version 2.0
   6 # which accompanies this distribution, and is available at
   7 # http://www.apache.org/licenses/LICENSE-2.0
   8 ##############################################################################
   9
  10 #./openstack.sh "$opnfvsdn" "$opnfvlab" "$opnfvdistro" "$openstack" || true
  11
  12 opnfvsdn=$1
  13 opnfvlab=$2
  14 opnfvdistro=$3
  15 opnfvos=$4
  16
  17 jujuver=`juju --version`
  18
  19 if [ -f ./deployconfig.yaml ];then
  20     EXTERNAL_NETWORK=`grep floating-ip-range deployconfig.yaml | cut -d ' ' -f 4 `
  21
  22     # split EXTERNAL_NETWORK=first ip;last ip; gateway;network
  23
  24     EXTNET=(${EXTERNAL_NETWORK//,/ })
  25
  26     EXTNET_FIP=${EXTNET[0]}
  27     EXTNET_LIP=${EXTNET[1]}
  28     EXTNET_GW=${EXTNET[2]}
  29     EXTNET_NET=${EXTNET[3]}
  30     EXTNET_PORT=`grep "ext-port" deployconfig.yaml | cut -d ' ' -f 4 | sed -e 's/ //' | tr ',' ' '`
  31     ADMNET_GW=`grep "admNetgway" deployconfig.yaml | cut -d ' ' -f 4 | sed -e 's/ //' | tr ',' ' '`
  32     API_FQDN=`grep "os-domain-name" deployconfig.yaml | cut -d ' ' -f 4 | sed -e 's/ //' | tr ',' ' '`
  33 fi
  34
  35 # launch eth on computer nodes and remove default gw route
  36 launch_eth() {
  37     computer_list=$(juju status --format short | grep -Eo 'nova-compute/[0-9]')
  38     for node in $computer_list; do
  39         echo "node name is ${node}"
  40         juju ssh $node "sudo ifconfig $EXTNET_PORT up"
  41         #juju ssh $node "sudo route del default gw $ADMNET_GW"
  42     done
  43 }
  44
  45 # Update gateway mac to onos for l3 function
  46 update_gw_mac() {
  47     ## get gateway mac
  48     EXTNET_GW_MAC=$(juju ssh nova-compute/0 "arp -a ${EXTNET_GW} | grep -Eo '([0-9a-fA-F]{2})(([/\s:-][0-9a-fA-F]{2}){5})'")
  49     ## set external gateway mac in onos
  50     if [[ "$jujuver" < "2" ]]; then
  51         juju set onos-controller gateway-mac=$EXTNET_GW_MAC
  52     else
  53         juju config onos-controller gateway-mac=$EXTNET_GW_MAC
  54     fi
  55 }
  56
  57 unitAddress() {
  58     if [[ "$jujuver" < "2" ]]; then
  59         juju status --format yaml | python -c "import yaml; import sys; print yaml.load(sys.stdin)[\"services\"][\"$1\"][\"units\"][\"$1/$2\"][\"public-address\"]" 2> /dev/null
  60     else
  61         juju status --format yaml | python -c "import yaml; import sys; print yaml.load(sys.stdin)[\"applications\"][\"$1\"][\"units\"][\"$1/$2\"][\"public-address\"]" 2> /dev/null
  62     fi
  63 }
  64
  65 unitMachine() {
  66     if [[ "$jujuver" < "2" ]]; then
  67         juju status --format yaml | python -c "import yaml; import sys; print yaml.load(sys.stdin)[\"services\"][\"$1\"][\"units\"][\"$1/$2\"][\"machine\"]" 2> /dev/null
  68     else
  69         juju status --format yaml | python -c "import yaml; import sys; print yaml.load(sys.stdin)[\"applications\"][\"$1\"][\"units\"][\"$1/$2\"][\"machine\"]" 2> /dev/null
  70     fi
  71 }
  72
  73 keystoneIp() {
  74     if [ $(juju status keystone --format=short | grep " keystone"|wc -l) == 1 ];then
  75         unitAddress keystone 0
  76     else
  77         if [[ "$jujuver" < "2" ]]; then
  78             juju get keystone | python -c "import yaml; import sys; print yaml.load(sys.stdin)['settings']['vip']['value']" | cut -d " " -f 1
  79         else
  80             juju config keystone | python -c "import yaml; import sys; print yaml.load(sys.stdin)['settings']['vip']['value']" | cut -d " " -f 1
  81         fi
  82     fi
  83 }
  84
  85 # create external network and subnet in openstack
  86 create_openrc() {
  87     mkdir -m 0700 -p cloud
  88     keystoneIp=$(keystoneIp)
  89     if [[ "$jujuver" < "2" ]]; then
  90         adminPasswd=$(juju get keystone | grep admin-password -A 5 | grep value | awk '{print $2}' 2> /dev/null)
  91     else
  92         adminPasswd=$(juju config keystone | grep admin-password -A 5 | grep value | awk '{print $2}' 2> /dev/null)
  93     fi
  94
  95     v3api=`juju config keystone  preferred-api-version`
  96
  97     if [[ "$v3api" == "3" ]]; then
  98         configOpenrc admin $adminPasswd admin http://$keystoneIp:5000/v3 RegionOne publicURL > ~/joid_config/admin-openrc
  99         chmod 0600 ~/joid_config/admin-openrc
 100         source ~/joid_config/admin-openrc
 101         projectid=`openstack project show admin -c id -f value`
 102         projectdomainid=`openstack domain show admin_domain -c id -f value`
 103         urlapi=`openstack catalog show keystone --format yaml | python -c "import yaml; import sys; print yaml.load(sys.stdin)['endpoints']" | grep public | cut -d " " -f 4`
 104         configOpenrc admin $adminPasswd admin $urlapi RegionOne publicURL $projectid $projectdomainid > ~/joid_config/admin-openrcinternal
 105         configOpenrc admin $adminPasswd admin $urlapi RegionOne publicURL $projectid $projectdomainid > ~/joid_config/admin-openrc
 106     else
 107         configOpenrc2 admin $adminPasswd admin http://$keystoneIp:5000/v2.0 RegionOne > ~/joid_config/admin-openrc
 108         chmod 0600 ~/joid_config/admin-openrc
 109     fi
 110 }
 111
 112 configOpenrc2() {
 113 cat <<-EOF
 114 export SERVICE_ENDPOINT=$4
 115 unset SERVICE_TOKEN
 116 unset SERVICE_ENDPOINT
 117 export OS_USERNAME=$1
 118 export OS_PASSWORD=$2
 119 export OS_TENANT_NAME=$3
 120 export OS_AUTH_URL=$4
 121 export OS_REGION_NAME=$5
 122 EOF
 123 }
 124
 125 configOpenrc() {
 126 cat <<-EOF
 127 export OS_NO_CACHE='true'
 128 export OS_TENANT_NAME=$3
 129 #export OS_TENANT_ID=$7
 130 export OS_PROJECT_NAME=$3
 131 export OS_USERNAME=$1
 132 export OS_PASSWORD=$2
 133 export OS_IDENTITY_API_VERSION=3
 134 export OS_DEFAULT_DOMAIN=admin_domain
 135 export OS_USER_DOMAIN_NAME=admin_domain
 136 export OS_PROJECT_DOMAIN_NAME=admin_domain
 137 export OS_PROJECT_DOMAIN_ID=$8
 138 export OS_AUTH_STRATEGY='keystone'
 139 export OS_REGION_NAME=$5
 140 export CINDER_ENDPOINT_TYPE=$6
 141 export GLANCE_ENDPOINT_TYPE=$6
 142 export KEYSTONE_ENDPOINT_TYPE=$6
 143 export NOVA_ENDPOINT_TYPE=$6
 144 export NEUTRON_ENDPOINT_TYPE=$6
 145 export OS_ENDPOINT_TYPE=$6
 146 export OS_INTERFACE=public
 147 export OS_AUTH_URL=$4
 148 EOF
 149 }
 150
 151 if [ "$API_FQDN" != "None" ]; then
 152     # Push api fqdn local ip to all /etc/hosts
 153     if [[ "$jujuver" < "2" ]]; then
 154         API_FQDN=$(juju get keystone | python -c "import yaml; import sys;\
 155             print yaml.load(sys.stdin)['settings']['os-public-hostname']['value']")
 156     else
 157         API_FQDN=$(juju config keystone | python -c "import yaml; import sys;\
 158             print yaml.load(sys.stdin)['settings']['os-public-hostname']['value']")
 159     fi
 160
 161
 162     KEYSTONEIP=$(keystoneIp)
 163     juju run --all "if grep $API_FQDN /etc/hosts > /dev/null; then \
 164                         echo 'API FQDN already present'; \
 165                     else \
 166                         sudo sh -c 'echo $KEYSTONEIP $API_FQDN >> /etc/hosts'; \
 167                         echo 'API FQDN injected'; \
 168                     fi"
 169
 170     # remove this enhancement for heat that does not manage endpoints
 171     juju run --service=heat "cp /etc/hosts /tmp/hosts ; \
 172                              grep -v $API_FQDN /tmp/hosts > /etc/hosts"
 173
 174     #change in jumphost as well as below commands will run on jumphost
 175     if grep $API_FQDN /etc/hosts; then
 176         echo 'API FQDN already present'
 177     else
 178         sudo sh -c "echo $KEYSTONEIP $API_FQDN >> /etc/hosts"
 179         echo 'API FQDN injected'
 180     fi
 181 fi
 182
 183 # Create an load openrc
 184 create_openrc
 185
 186 . ~/joid_config/admin-openrc
 187
 188 echo "...... deploy public api proxy ......"
 189
 190 if ([ "$opnfvlab" == "orangepod1" ] \
 191     || [ "$opnfvlab" == "intelpod6" ]) \
 192     && [ "$opnfvsdn" == "nosdn" ] \
 193     && [ "$API_FQDN" != "None" ]; then # only for first test phase
 194     if [ -e ./labconfig.yaml ]; then
 195         PUB_API_MASK=$(grep floating-ip-range ./labconfig.yaml |cut -d/ -f2)
 196         PUB_API_NET=$(grep floating-ip-range ./labconfig.yaml |cut -d, -f4)
 197         PUB_API_IP=$(grep public-api-ip ./labconfig.yaml |cut -d: -f2)
 198         if grep "- type: public" ./labconfig.yaml; then
 199             # The public network exists on MAAS, so we push the dns record to it
 200
 201             # Recover maas ips and login to it
 202             maas_ip=$(grep " ip_address" deployconfig.yaml | cut -d ':' -f 2 | sed -e 's/ //')
 203             maas_pubip=$(grep floating-ip-range ./labconfig.yaml |cut -d, -f4 |perl -pe 's!^(.*)\.\d+/\d+$!$1.5!')
 204             apikey=$(grep maas-oauth: environments.yaml | cut -d "'" -f 2)
 205             maas login maas http://${maas_ip}/MAAS/api/1.0 ${apikey}
 206
 207             # Configure maas to add the record
 208             CLUSTER_UUID=$(maas ubuntu node-groups list | grep uuid | cut -d\" -f4)
 209             PUBLIC_MAAS_IF=$(maas ubuntu node-group-interfaces list $cluster_uuid |\
 210                              python -c "import yaml; import sys; cfg=yaml.load(sys.stdin); net_h={net['ip']:net['name'] for net in cfg}; print(net_h['$maas_pubip'])")
 211             maas maas node-group-interface update ${CLUSTER_UUID} ${PUBLIC_MAAS_IF} static_ip_range_high=${PUB_API_IP} static_ip_range_low=${PUB_API_IP}
 212             maas maas ipaddresses reserve network=${PUB_API_NET} requested_address=${PUB_API_IP} hostname=${API_FQDN}
 213             dig ${PUB_API_IP} @${maas_ip} # just for log
 214         fi
 215         juju run --unit nodes/0 "sudo ip a a ${PUB_API_IP}/${PUB_API_MASK} dev br-ex" || true
 216         juju run --unit nodes/0 "sudo ip l set dev br-ex up" || true
 217         python genPublicAPIProxyBundle.py -l labconfig.yaml >> bundles.yaml
 218         juju-deployer -vW -d -t 7200 -r 5 -c bundles.yaml $opnfvdistro-"$opnfvos" || true
 219     fi
 220 fi
 221
 222 echo "...... deploy end public api proxy ......"
 223
 224 ##
 225 ## removing the swift API endpoint which is created by radosgw.
 226 ## one option is not to used radosgw and other one is remove endpoint.
 227 ##
 228
 229 #echo "Removing swift endpoint and service"
 230 #swift_service_id=$(openstack service list | grep swift | cut -d ' ' -f 2)
 231 #swift_endpoint_id=$(openstack endpoint list | grep swift | cut -d ' ' -f 2)
 232 #openstack endpoint delete $swift_endpoint_id
 233 #openstack service delete $swift_service_id
 234
 235 ##
 236 ## Create external subnet Network
 237 ##
 238
 239 if [ "onos" == "$opnfvsdn" ]; then
 240     launch_eth
 241     neutron net-show ext-net > /dev/null 2>&1 || neutron net-create ext-net \
 242                                                    --router:external=True
 243 else
 244     neutron net-show ext-net > /dev/null 2>&1 || neutron net-create ext-net \
 245                                                    --router:external=True \
 246                                                    --provider:network_type flat \
 247                                                    --provider:physical_network physnet1
 248 fi
 249
 250 neutron subnet-show ext-subnet > /dev/null 2>&1 || neutron subnet-create ext-net \
 251    --name ext-subnet --allocation-pool start=$EXTNET_FIP,end=$EXTNET_LIP \
 252    --disable-dhcp --gateway $EXTNET_GW $EXTNET_NET
 253
 254 #congress team is not updating and supporting charm anymore so defer it.
 255
 256 # Create Congress datasources
 257 #sudo apt-get install -y python-congressclient
 258
 259 #openstack congress datasource create nova "nova" \
 260 #  --config username=$OS_USERNAME \
 261 #  --config tenant_name=$OS_TENANT_NAME \
 262 #  --config password=$OS_PASSWORD \
 263 #  --config auth_url=http://$keystoneIp:5000/v2.0
 264 #openstack congress datasource create neutronv2 "neutronv2" \
 265 #  --config username=$OS_USERNAME \
 266 #  --config tenant_name=$OS_TENANT_NAME \
 267 #  --config password=$OS_PASSWORD \
 268 #  --config auth_url=http://$keystoneIp:5000/v2.0
 269 #openstack congress datasource create ceilometer "ceilometer" \
 270 #  --config username=$OS_USERNAME \
 271 #  --config tenant_name=$OS_TENANT_NAME \
 272 #  --config password=$OS_PASSWORD \
 273 #  --config auth_url=http://$keystoneIp:5000/v2.0
 274 #openstack congress datasource create cinder "cinder" \
 275 #  --config username=$OS_USERNAME \
 276 #  --config tenant_name=$OS_TENANT_NAME \
 277 #  --config password=$OS_PASSWORD \
 278 #  --config auth_url=http://$keystoneIp:5000/v2.0
 279 #openstack congress datasource create glancev2 "glancev2" \
 280 #  --config username=$OS_USERNAME \
 281 #  --config tenant_name=$OS_TENANT_NAME \
 282 #  --config password=$OS_PASSWORD \
 283 #  --config auth_url=http://$keystoneIp:5000/v2.0
 284 #openstack congress datasource create keystone "keystone" \
 285 #  --config username=$OS_USERNAME \
 286 #  --config tenant_name=$OS_TENANT_NAME \
 287 #  --config password=$OS_PASSWORD \
 288 #  --config auth_url=http://$keystoneIp:5000/v2.0