testsuites/rubbos/run_rubbos.py

   1 #!/usr/bin/env python
   2 ##############################################################################
   3 # Copyright (c) 2016 Huawei Technologies Co.,Ltd and others.
   4 #
   5 # All rights reserved. This program and the accompanying materials
   6 # are made available under the terms of the Apache License, Version 2.0
   7 # which accompanies this distribution, and is available at
   8 # http://www.apache.org/licenses/LICENSE-2.0
   9 ##############################################################################
  10
  11 import os
  12 import argparse
  13 import time
  14 import logging
  15 import urllib2
  16 import shutil
  17 from heatclient.client import Client as HeatClient
  18 from keystoneclient.v2_0.client import Client as KeystoneClient
  19 from glanceclient.v2.client import Client as GlanceClient
  20 from novaclient.client import Client as NovaClient
  21
  22 #------------------------------------------------------
  23 # parser for configuration files in each test case
  24 # ------------------------------------------------------
  25 parser = argparse.ArgumentParser()
  26 parser.add_argument("-c", "--conf",
  27                     help="configuration files for the testcase, in yaml format",
  28                     default="/home/opnfv/bottlenecks/testsuites/rubbos/testcase_cfg/rubbos_1-1-0-1.yaml")
  29 args = parser.parse_args()
  30
  31 #--------------------------------------------------
  32 # logging configuration
  33 #--------------------------------------------------
  34 logger = logging.getLogger(__name__)
  35
  36
  37 def _get_keystone_client():
  38     keystone_client = KeystoneClient(
  39                 auth_url=os.environ.get('OS_AUTH_URL'),
  40                 username=os.environ.get('OS_USERNAME'),
  41                 password=os.environ.get('OS_PASSWORD'),
  42                 tenant_name=os.environ.get('OS_TENANT_NAME'),
  43                 cacert=os.environ.get('OS_CACERT'))
  44     return keystone_client
  45
  46 def _get_heat_client():
  47     keystone = _get_keystone_client()
  48     heat_endpoint = keystone.service_catalog.url_for(service_type='orchestration')
  49     heat_client = HeatClient('1', endpoint=heat_endpoint, token=keystone.auth_token)
  50     return heat_client
  51
  52 def _get_glance_client():
  53     keystone = _get_keystone_client()
  54     glance_endpoint = keystone.service_catalog.url_for(service_type='image', endpoint_type='publicURL')
  55     return GlanceClient(glance_endpoint, token=keystone.auth_token)
  56
  57 def _get_nova_client():
  58     nova_client = NovaClient("2", os.environ.get('OS_USERNAME'),
  59                                   os.environ.get('OS_PASSWORD'),
  60                                   os.environ.get('OS_TENANT_NAME'),
  61                                   os.environ.get('OS_AUTH_URL'))
  62     return nova_client
  63
  64 def _download_url(src_url, dest_dir):
  65     ''' Download a file to a destination path given a URL'''
  66     file_name = src_url.rsplit('/')[-1]
  67     dest = dest_dir + "/" + file_name
  68     try:
  69         response = urllib2.urlopen(src_url)
  70     except (urllib2.HTTPError, urllib2.URLError):
  71         return None
  72
  73     with open(dest, 'wb') as f:
  74         shutil.copyfileobj(response, f)
  75     return file_name
  76
  77
  78 def rubbos_stack_satisfy(name="bottlenecks_rubbos_stack", status="CREATE_COMPLETE"):
  79     heat = _get_heat_client()
  80     for stack in heat.stacks.list():
  81         if status == None and stack.stack_name == name:
  82             # Found target stack
  83             print "Found stack, name=" + str(stack.stack_name)
  84             return True
  85         elif stack.stack_name == name and stack.stack_status==status:
  86             print "Found stack, name=" + str(stack.stack_name) + ", status=" + str(stack.stack_status)
  87             return True
  88     return False
  89
  90 def rubbos_env_prepare(template=None):
  91     print "========== Prepare rubbos environment =========="
  92     logger.info("Generate heat template for the testcase based on template '%s'." % template)
  93
  94 def rubbos_env_cleanup():
  95     print "========== Cleanup rubbos environment =========="
  96     glance = _get_glance_client()
  97     heat = _get_heat_client()
  98     nova = _get_nova_client()
  99
 100     for image in glance.images.list():
 101         if image.name.find("bottlenecks_rubbos") >= 0:
 102             print "Delete image, id:" + str(image.id) + ", name:" + str(image.name)
 103             glance.images.delete(image.id)
 104
 105     for keypair in nova.keypairs.list():
 106         if keypair.name.find("bottlenecks_rubbos") >= 0:
 107             print "Delete keypair, id:" + str(keypair.id) + ", name:" + str(keypair.name)
 108             nova.keypairs.delete(keypair.id)
 109
 110     for flavor in nova.flavors.list():
 111         if flavor.name.find("bottlenecks_rubbos") >= 0:
 112             print "Delete flavor, id:" + str(flavor.id) + ", name:" + str(flavor.name)
 113             nova.flavors.delete(flavor.id)
 114
 115     for stack in heat.stacks.list():
 116         if stack.stack_name.find("bottlenecks_rubbos") >= 0:
 117             print "Delete stack, id: " + str(stack.id) + ", name:" + str(stack.stack_name)
 118             heat.stacks.delete(stack.id)
 119
 120     timeInProgress = 0
 121     while rubbos_stack_satisfy(name="bottlenecks_rubbos_stack", status=None) and timeInProgress < 60:
 122         time.sleep(5)
 123         timeInProgress = timeInProgress + 5
 124
 125     if rubbos_stack_satisfy(name="bottlenecks_rubbos_stack", status=None) == True:
 126         print "Failed to clean the stack"
 127         return False
 128     else:
 129         return True
 130
 131 def rubbos_create_images(src_url=None, image_name="bottlenecks_rubbos_image"):
 132     print "========== Create rubbos image in OS =========="
 133     dest_dir = '/tmp'
 134     file_name = _download_url(src_url, dest_dir)
 135     #file_name = "bottlenecks-trusty-server.img"
 136     if file_name == None:
 137        return False
 138
 139     glance = _get_glance_client()
 140     imagefile = dest_dir + "/" + file_name
 141     image = glance.images.create(name=image_name, disk_format="qcow2", container_format="bare")
 142     with open(imagefile) as fimage:
 143         glance.images.upload(image.id, fimage)
 144
 145     timeInQueue = 0
 146     img_status = image.status
 147     while img_status == "queued" and timeInQueue < 30:
 148         print "  image's status: " + img_status
 149         time.sleep(1)
 150         timeInQueue = timeInQueue + 1
 151         img_status = glance.images.get(image.id).status
 152
 153     print "After %d seconds, the image's status is [%s]" %(timeInQueue, img_status)
 154     return True if img_status == "active" else False
 155
 156 def rubbos_create_keypairs(key_path, name="bottlenecks_rubbos_keypair"):
 157     print "========== Add rubbos keypairs in OS =========="
 158     nova = _get_nova_client()
 159     with open(key_path) as pkey:
 160         nova.keypairs.create(name=name, public_key=pkey.read())
 161
 162 def rubbos_create_flavors(name="bottlenecks_rubbos_flavor", ram=4096, vcpus=2, disk=10):
 163     print "========== Create rubbos flavors in OS =========="
 164     nova = _get_nova_client()
 165     nova.flavors.create(name=name, ram=ram, vcpus=vcpus, disk=disk)
 166
 167 def rubbos_create_instances(template_file, rubbos_parameters=None, stack_name="bottlenecks_rubbos_stack"):
 168     print "========== Create rubbos instances =========="
 169     heat = _get_heat_client()
 170
 171     with open(template_file) as template:
 172         stack = heat.stacks.create(stack_name=stack_name, template=template.read(), parameters=rubbos_parameters)
 173
 174     stack_id = stack['stack']['id']
 175     stack_status = heat.stacks.get(stack_id).stack_status
 176
 177     print "Created stack, id=" + str(stack_id) + ", status=" + str(stack_status)
 178
 179     timeInProgress= 0
 180     while stack_status == "CREATE_IN_PROGRESS" and timeInProgress < 150:
 181         print "  stack's status: %s, after %d seconds" %(stack_status, timeInProgress)
 182         time.sleep(5)
 183         timeInProgress = timeInProgress + 5
 184         stack_status = heat.stacks.get(stack_id).stack_status
 185
 186     print "After %d seconds, the stack's status is [%s]" %(timeInProgress, stack_status)
 187     return True if stack_status == "CREATE_COMPLETE" else False
 188
 189 def get_instances(nova_client):
 190     try:
 191         instances = nova_client.servers.list(search_opts={'all_tenants': 1})
 192         return instances
 193     except Exception, e:
 194         print "Error [get_instances(nova_client)]:", e
 195         return None
 196
 197 def rubbos_run():
 198     print "========== run rubbos ==========="
 199
 200     nova = _get_nova_client()
 201
 202     instances = get_instances(nova)
 203     control_servers = []
 204     client_servers = []
 205     web_servers = []
 206     app_servers = []
 207     cjdbc_controller = []
 208     database_servers = []
 209     for instance in instances:
 210         name = getattr(instance, 'name')
 211         private_ip = [ x['addr'] for x in getattr(instance, 'addresses').itervalues().next() if x['OS-EXT-IPS:type'] == 'fixed']
 212         public_ip =  [ x['addr'] for x in getattr(instance, 'addresses').itervalues().next() if x['OS-EXT-IPS:type'] == 'floating']
 213
 214         if name.find("control") > 0:
 215            control_servers.append(''.join(str(name)+':'+public_ip[0]+':'+private_ip[0]))
 216         if name.find("client") > 0:
 217            client_servers.append(''.join(str(name)+':'+private_ip[0]))
 218         if name.find("httpd") > 0:
 219            web_servers.append(''.join(str(name)+':'+private_ip[0]))
 220         if name.find("tomcat") > 0:
 221            app_servers.append(''.join(str(name)+':'+private_ip[0]))
 222         if name.find("cjdbc") > 0:
 223            cjdbc_controller.append(''.join(str(name)+':'+private_ip[0]))
 224         if name.find("mysql") > 0:
 225            database_servers.append(''.join(str(name)+':'+private_ip[0]))
 226
 227     f = open('rubbos.conf', 'w')
 228     f.write('[Controller]\n\n')
 229     f.write('controller=')
 230     for i in control_servers:
 231         f.write(i+',')
 232     f.write('\n\n')
 233     f.write('[Hosts]\n\n')
 234     f.write('client_servers=')
 235     for i in client_servers:
 236         f.write(i + ',')
 237     f.write('\n')
 238     f.write('web_servers=')
 239     for i in web_servers:
 240         f.write(i+',')
 241     f.write('\n')
 242     f.write('app_servers=')
 243     for i in app_servers:
 244         f.write(i+',')
 245     f.write('\n')
 246     f.write('cjdbc_controller=')
 247     for i in cjdbc_controller:
 248         f.write(i+',')
 249     f.write('\n')
 250     f.write('database_servers=')
 251     for i in database_servers:
 252         f.write(i + ',')
 253     f.close()
 254     f = open('rubbos.conf','r')
 255     line = f.readlines()
 256     f.close()
 257     for i in line:
 258         print(i)
 259
 260 def main():
 261     global Heat_template
 262     global Bottlenecks_repo_dir
 263     global image_url
 264     Bottlenecks_repo_dir = "/home/opnfv/bottlenecks"      # same in Dockerfile, docker directory
 265
 266     image_url = 'http://artifacts.opnfv.org/bottlenecks/rubbos/bottlenecks-trusty-server.img'
 267
 268     if not (args.conf):
 269        logger.error("Configuration files are not set for testcase")
 270        exit(-1)
 271     else:
 272        Heat_template = args.conf
 273
 274     #TO DO:the parameters are all used defaults here, it should be changed depends on what it is really named
 275     parameters={'image': 'bottlenecks_rubbos_image',
 276                 'key_name': 'bottlenecks_rubbos_keypair',
 277                 'flavor': 'bottlenecks_rubbos_flavor',
 278                 'public_net': os.environ.get('EXTERNAL_NET')}
 279
 280     print "Heat_template_file: " + Heat_template
 281     print "parameters:\n" + str(parameters)
 282
 283     image_created = False
 284     stack_created = False
 285
 286     rubbos_env_prepare(Heat_template)
 287     rubbos_env_cleanup()
 288
 289     image_created = rubbos_create_images(image_url)
 290     keyPath = Bottlenecks_repo_dir + "/utils/infra_setup/bottlenecks_key/bottlenecks_key.pub"
 291     rubbos_create_keypairs(key_path=keyPath)
 292     rubbos_create_flavors()
 293
 294     if image_created == True:
 295         stack_created = rubbos_create_instances(template_file=Heat_template, rubbos_parameters=parameters, stack_name="bottlenecks_rubbos_stack")
 296     else:
 297         print "Cannot create instances, as Failed to create image(s)."
 298         exit (-1)
 299
 300     rubbos_run()
 301     rubbos_env_cleanup()
 302
 303 if __name__=='__main__':
 304     main()