testsuites/rubbos/run_rubbos.py

   1 #!/usr/bin/env python
   2 ##############################################################################
   3 # Copyright (c) 2016 Huawei Technologies Co.,Ltd and others.
   4 #
   5 # All rights reserved. This program and the accompanying materials
   6 # are made available under the terms of the Apache License, Version 2.0
   7 # which accompanies this distribution, and is available at
   8 # http://www.apache.org/licenses/LICENSE-2.0
   9 ##############################################################################
  10
  11 import os
  12 import argparse
  13 import time
  14 import subprocess
  15 import logging
  16 import urllib2
  17 import shutil
  18 from heatclient.client import Client as HeatClient
  19 from keystoneclient.v2_0.client import Client as KeystoneClient
  20 from glanceclient.v2.client import Client as GlanceClient
  21 from novaclient.client import Client as NovaClient
  22
  23 #------------------------------------------------------
  24 # parser for configuration files in each test case
  25 # ------------------------------------------------------
  26 parser = argparse.ArgumentParser()
  27 parser.add_argument("-c", "--conf",
  28                     help="configuration files for the testcase, in yaml format",
  29                     default="/home/opnfv/bottlenecks/testsuites/rubbos/testcase_cfg/rubbos_basic.yaml")
  30 args = parser.parse_args()
  31
  32 #--------------------------------------------------
  33 # logging configuration
  34 #--------------------------------------------------
  35 logger = logging.getLogger(__name__)
  36
  37
  38 def _get_keystone_client():
  39     keystone_client = KeystoneClient(
  40                 auth_url=os.environ.get('OS_AUTH_URL'),
  41                 username=os.environ.get('OS_USERNAME'),
  42                 password=os.environ.get('OS_PASSWORD'),
  43                 tenant_name=os.environ.get('OS_TENANT_NAME'),
  44                 cacert=os.environ.get('OS_CACERT'))
  45     return keystone_client
  46
  47 def _get_heat_client():
  48     keystone = _get_keystone_client()
  49     heat_endpoint = keystone.service_catalog.url_for(service_type='orchestration')
  50     heat_client = HeatClient('1', endpoint=heat_endpoint, token=keystone.auth_token)
  51     return heat_client
  52
  53 def _get_glance_client():
  54     keystone = _get_keystone_client()
  55     glance_endpoint = keystone.service_catalog.url_for(service_type='image', endpoint_type='publicURL')
  56     return GlanceClient(glance_endpoint, token=keystone.auth_token)
  57
  58 def _get_nova_client():
  59     nova_client = NovaClient("2", os.environ.get('OS_USERNAME'),
  60                                   os.environ.get('OS_PASSWORD'),
  61                                   os.environ.get('OS_TENANT_NAME'),
  62                                   os.environ.get('OS_AUTH_URL'))
  63     return nova_client
  64
  65 def _download_url(src_url, dest_dir):
  66     ''' Download a file to a destination path given a URL'''
  67     file_name = src_url.rsplit('/')[-1]
  68     dest = dest_dir + "/" + file_name
  69     try:
  70         response = urllib2.urlopen(src_url)
  71     except (urllib2.HTTPError, urllib2.URLError):
  72         return None
  73
  74     with open(dest, 'wb') as f:
  75         shutil.copyfileobj(response, f)
  76     return file_name
  77
  78
  79 def rubbos_stack_satisfy(name="bottlenecks_rubbos_stack", status="CREATE_COMPLETE"):
  80     heat = _get_heat_client()
  81     for stack in heat.stacks.list():
  82         if status == None and stack.stack_name == name:
  83             # Found target stack
  84             print "Found stack, name=" + str(stack.stack_name)
  85             return True
  86         elif stack.stack_name == name and stack.stack_status==status:
  87             print "Found stack, name=" + str(stack.stack_name) + ", status=" + str(stack.stack_status)
  88             return True
  89     return False
  90
  91 def rubbos_env_prepare(template=None):
  92     print "========== Prepare rubbos environment =========="
  93     logger.info("Generate heat template for the testcase based on template '%s'." % template)
  94
  95 def rubbos_env_cleanup():
  96     print "========== Cleanup rubbos environment =========="
  97     glance = _get_glance_client()
  98     heat = _get_heat_client()
  99     nova = _get_nova_client()
 100
 101     for image in glance.images.list():
 102         if image.name.find("bottlenecks_rubbos") >= 0:
 103             print "Delete image, id:" + str(image.id) + ", name:" + str(image.name)
 104             glance.images.delete(image.id)
 105
 106     for keypair in nova.keypairs.list():
 107         if keypair.name.find("bottlenecks_rubbos") >= 0:
 108             print "Delete keypair, id:" + str(keypair.id) + ", name:" + str(keypair.name)
 109             nova.keypairs.delete(keypair.id)
 110
 111     for flavor in nova.flavors.list():
 112         if flavor.name.find("bottlenecks_rubbos") >= 0:
 113             print "Delete flavor, id:" + str(flavor.id) + ", name:" + str(flavor.name)
 114             nova.flavors.delete(flavor.id)
 115
 116     for stack in heat.stacks.list():
 117         if stack.stack_name.find("bottlenecks_rubbos") >= 0:
 118             print "Delete stack, id: " + str(stack.id) + ", name:" + str(stack.stack_name)
 119             heat.stacks.delete(stack.id)
 120
 121     timeInProgress = 0
 122     while rubbos_stack_satisfy(name="bottlenecks_rubbos_stack", status=None) and timeInProgress < 60:
 123         time.sleep(5)
 124         timeInProgress = timeInProgress + 5
 125
 126     if rubbos_stack_satisfy(name="bottlenecks_rubbos_stack", status=None) == True:
 127         print "Failed to clean the stack"
 128         return False
 129     else:
 130         return True
 131
 132 def rubbos_create_images(imagefile=None, image_name="bottlenecks_rubbos_image"):
 133     print "========== Create rubbos image in OS =========="
 134
 135     if imagefile == None:
 136        print "imagefile not set/found"
 137        return False
 138
 139     glance = _get_glance_client()
 140     image = glance.images.create(name=image_name, disk_format="qcow2", container_format="bare")
 141     with open(imagefile) as fimage:
 142         glance.images.upload(image.id, fimage)
 143
 144     timeInQueue = 0
 145     img_status = image.status
 146     while img_status == "queued" and timeInQueue < 30:
 147         print "  image's status: " + img_status
 148         time.sleep(1)
 149         timeInQueue = timeInQueue + 1
 150         img_status = glance.images.get(image.id).status
 151
 152     print "After %d seconds, the image's status is [%s]" %(timeInQueue, img_status)
 153     return True if img_status == "active" else False
 154
 155 def rubbos_create_keypairs(key_path, name="bottlenecks_rubbos_keypair"):
 156     print "========== Add rubbos keypairs in OS =========="
 157     nova = _get_nova_client()
 158     with open(key_path) as pkey:
 159         nova.keypairs.create(name=name, public_key=pkey.read())
 160
 161 def rubbos_create_flavors(name="bottlenecks_rubbos_flavor", ram=4096, vcpus=2, disk=10):
 162     print "========== Create rubbos flavors in OS =========="
 163     nova = _get_nova_client()
 164     nova.flavors.create(name=name, ram=ram, vcpus=vcpus, disk=disk)
 165
 166 def rubbos_create_instances(template_file, rubbos_parameters=None, stack_name="bottlenecks_rubbos_stack"):
 167     print "========== Create rubbos instances =========="
 168     heat = _get_heat_client()
 169
 170     with open(template_file) as template:
 171         stack = heat.stacks.create(stack_name=stack_name, template=template.read(), parameters=rubbos_parameters)
 172
 173     stack_id = stack['stack']['id']
 174     stack_status = heat.stacks.get(stack_id).stack_status
 175
 176     print "Created stack, id=" + str(stack_id) + ", status=" + str(stack_status)
 177
 178     timeInProgress= 0
 179     while stack_status == "CREATE_IN_PROGRESS" and timeInProgress < 150:
 180         print "  stack's status: %s, after %d seconds" %(stack_status, timeInProgress)
 181         time.sleep(5)
 182         timeInProgress = timeInProgress + 5
 183         stack_status = heat.stacks.get(stack_id).stack_status
 184
 185     print "After %d seconds, the stack's status is [%s]" %(timeInProgress, stack_status)
 186     return True if stack_status == "CREATE_COMPLETE" else False
 187
 188 def get_instances(nova_client):
 189     try:
 190         instances = nova_client.servers.list(search_opts={'all_tenants': 1})
 191         return instances
 192     except Exception, e:
 193         print "Error [get_instances(nova_client)]:", e
 194         return None
 195
 196 def reboot_instances():
 197     print("========== reboot instances ==========")
 198     nova = _get_nova_client()
 199     print("nova servers list:")
 200     print(nova.servers.list())
 201     for instance in nova.servers.list():
 202         name = getattr(instance, 'name')
 203         if name.find("rubbos") >= 0:
 204             print("reboot %s" % name)
 205             instance.reboot()
 206     print("Finish reboot all rubbos servers.")
 207
 208 def rubbos_run():
 209     print "========== run rubbos ==========="
 210
 211     nova = _get_nova_client()
 212     instances = get_instances(nova)
 213     if instances == None:
 214         print "Found *None* instances, exit rubbos_run()!"
 215         return False
 216
 217     control_public_ip = ""
 218     control_server = ""
 219     client_servers = ""
 220     web_servers = ""
 221     app_servers = ""
 222     cjdbc_controller = ""
 223     database_servers = ""
 224     for instance in instances:
 225         name = getattr(instance, 'name')
 226         private_ip = [ x['addr'] for x in getattr(instance, 'addresses').itervalues().next() if x['OS-EXT-IPS:type'] == 'fixed']
 227         public_ip =  [ x['addr'] for x in getattr(instance, 'addresses').itervalues().next() if x['OS-EXT-IPS:type'] == 'floating']
 228
 229         if name.find("rubbos-control") >= 0:
 230             control_public_ip = public_ip[0]
 231             control_server = str(name) + ':' + public_ip[0] + ':' + private_ip[0]
 232         if name.find("rubbos-client") >= 0:
 233             client_servers = client_servers + str(name)+':'+private_ip[0] + ","
 234         if name.find("rubbos-httpd") >= 0:
 235             web_servers = web_servers + str(name)+':'+private_ip[0] + ","
 236         if name.find("rubbos-tomcat") >= 0:
 237             app_servers = app_servers + str(name) + ':' + private_ip[0] + ","
 238         if name.find("rubbos-cjdbc") >= 0:
 239             cjdbc_controller = str(name) + ':' + private_ip[0]
 240         if name.find("rubbos-mysql") >= 0:
 241             database_servers = database_servers + str(name) + ':' + private_ip[0] + ","
 242
 243     client_servers = client_servers[0:len(client_servers)-1]
 244     web_servers = web_servers[0:len(web_servers)-1]
 245     app_servers = app_servers[0:len(app_servers)-1]
 246     database_servers = database_servers[0:len(database_servers)-1]
 247     print "control_server:    %s" % control_server
 248     print "client_servers:    %s" % client_servers
 249     print "web_servers:       %s" % web_servers
 250     print "app_servers:       %s" % app_servers
 251     print "cjdbc_controller:  %s" % cjdbc_controller
 252     print "database_servers:  %s" % database_servers
 253     with open(Bottlenecks_repo_dir+"/testsuites/rubbos/puppet_manifests/internal/rubbos.conf") as temp_f, open('rubbos.conf', 'w') as new_f:
 254         for line in temp_f.readlines():
 255             if line.find("REPLACED_CONTROLLER") >= 0 :
 256                 new_f.write( line.replace("REPLACED_CONTROLLER", control_server) )
 257             elif line.find("REPLACED_CLIENT_SERVERS") >= 0:
 258                 new_f.write( line.replace("REPLACED_CLIENT_SERVERS", client_servers) )
 259             elif line.find("REPLACED_WEB_SERVERS") >= 0:
 260                 new_f.write( line.replace("REPLACED_WEB_SERVERS", web_servers) )
 261             elif line.find("REPLACED_APP_SERVERS") >= 0:
 262                 new_f.write( line.replace("REPLACED_APP_SERVERS", app_servers) )
 263             elif line.find("REPLACED_CJDBC_CONTROLLER") >= 0:
 264                 new_f.write( line.replace("REPLACED_CJDBC_CONTROLLER", cjdbc_controller) )
 265             elif line.find("REPLACED_DB_SERVERS") >= 0:
 266                 new_f.write( line.replace("REPLACED_DB_SERVERS", database_servers) )
 267             elif line.find("REPLACED_CLIENTS_PER_NODE") >= 0:
 268                 new_f.write( line.replace("REPLACED_CLIENTS_PER_NODE", "200 400 800 1600 3200") )
 269             else:
 270                 new_f.write(line)
 271     if os.path.exists("rubbos.conf") == False:
 272         return False
 273
 274     cmd = "sudo chmod 0600 " + Bottlenecks_repo_dir + "/utils/infra_setup/bottlenecks_key/bottlenecks_key"
 275     subprocess.call(cmd, shell=True)
 276     ssh_args = "-o StrictHostKeyChecking=no -o BatchMode=yes -i " + Bottlenecks_repo_dir + "/utils/infra_setup/bottlenecks_key/bottlenecks_key "
 277
 278     print "############### Test #################"
 279     cmd = 'ssh-keygen -f "/root/.ssh/known_hosts" -R ' + control_public_ip
 280     subprocess.call(cmd, shell=True)
 281     print "## Ping test:"
 282     cmd = "ping -c 5 " + control_public_ip
 283     print cmd
 284     subprocess.call(cmd, shell=True)
 285     print "## ssh date test:"
 286     cmd = "ssh " + ssh_args + " ubuntu@" + control_public_ip + ' "date"'
 287     print cmd
 288     subprocess.call(cmd, shell=True)
 289     print "## neutruon net-list:"
 290     subprocess.call("neutron net-list", shell=True)
 291     print "## nova list:"
 292     subprocess.call("nova list", shell=True)
 293     print "############### Test #################"
 294
 295     cmd = "scp " + ssh_args + "rubbos.conf ubuntu@" + control_public_ip + ":/home/ubuntu/"
 296     print "Exec shell: " + cmd
 297     subprocess.call(cmd, shell=True)
 298
 299     cmd = "scp " + ssh_args + Bottlenecks_repo_dir + "/testsuites/rubbos/puppet_manifests/internal/run_rubbos_internal.sh ubuntu@" + control_public_ip + ":/home/ubuntu/"
 300     print "Exec shell: " + cmd
 301     subprocess.call(cmd, shell=True)
 302
 303     # call remote run_rubbos_internal.sh
 304     cmd = "ssh " + ssh_args + " ubuntu@" + control_public_ip + ' "sudo /home/ubuntu/run_rubbos_internal.sh /home/ubuntu/rubbos.conf /home/ubuntu/btnks-results" '
 305     print "Exec shell: " + cmd
 306     subprocess.call(cmd, shell=True)
 307     cmd = "scp " + ssh_args + " ubuntu@" + control_public_ip + ":/home/ubuntu/btnks-results/rubbos.out ./rubbos.out"
 308     print "Exec shell: " + cmd
 309     subprocess.call(cmd, shell=True)
 310     if os.path.exists("rubbos.out") == False:
 311         print "Failed to fetch results from the rubbos_control node!"
 312         return False
 313
 314     with open("rubbos.out") as f:
 315         lines = f.readlines()
 316         print "Rubbos results:"
 317         for line in lines:
 318             print line
 319     return True
 320
 321 def main():
 322     global Heat_template
 323     global Bottlenecks_repo_dir
 324     global image_url
 325     Bottlenecks_repo_dir = "/home/opnfv/bottlenecks"      # same in Dockerfile, docker directory
 326
 327     image_url = 'http://artifacts.opnfv.org/bottlenecks/rubbos/trusty-server-cloudimg-amd64-btnks.img'
 328     #image_url = 'http://artifacts.opnfv.org/bottlenecks/rubbos/bottlenecks-trusty-server.img'
 329
 330     if not (args.conf):
 331        logger.error("Configuration files are not set for testcase")
 332        exit(-1)
 333     else:
 334        Heat_template = args.conf
 335
 336     master_user_data=""
 337     agent_user_data=""
 338     with open(Bottlenecks_repo_dir+"/utils/infra_setup/user_data/p-master-user-data") as f:
 339         master_user_data=f.read()
 340     master_user_data = master_user_data.replace('REPLACED_PUPPET_MASTER_SERVER','rubbos-control')
 341     with open(Bottlenecks_repo_dir+"/utils/infra_setup/user_data/p-agent-user-data") as f:
 342         agent_user_data=f.read()
 343     agent_user_data = agent_user_data.replace('REPLACED_PUPPET_MASTER_SERVER','rubbos-control')
 344
 345     parameters={'image': 'bottlenecks_rubbos_image',
 346                 'key_name': 'bottlenecks_rubbos_keypair',
 347                 'flavor': 'bottlenecks_rubbos_flavor',
 348                 'public_net': os.environ.get('EXTERNAL_NET'),
 349                 'master_user_data': master_user_data,
 350                 'agent_user_data': agent_user_data }
 351
 352     print "Heat_template_file: " + Heat_template
 353     print "parameters:\n" + str(parameters)
 354
 355     image_created = False
 356     stack_created = False
 357
 358     rubbos_env_prepare(Heat_template)
 359     rubbos_env_cleanup()
 360
 361     dest_dir = "/tmp"
 362     image_file = _download_url(image_url, dest_dir)
 363     if image_file == None:
 364        print "error with downloading image(s)"
 365        exit(-1)
 366
 367     image_created = rubbos_create_images(imagefile=image_file)
 368     keyPath = Bottlenecks_repo_dir + "/utils/infra_setup/bottlenecks_key/bottlenecks_key.pub"
 369     rubbos_create_keypairs(key_path=keyPath)
 370     rubbos_create_flavors()
 371
 372     if image_created == True:
 373         stack_created = rubbos_create_instances(template_file=Heat_template, rubbos_parameters=parameters, stack_name="bottlenecks_rubbos_stack")
 374     else:
 375         print "Cannot create instances, as Failed to create image(s)."
 376         exit (-1)
 377
 378     print "Wait 300 seconds after stack creation..."
 379     time.sleep(300)
 380
 381     #reboot_instances()
 382     #time.sleep(180)
 383
 384     rubbos_run()
 385     time.sleep(30)
 386
 387     rubbos_env_cleanup()
 388
 389 if __name__=='__main__':
 390     main()