testsuites/vstf/run_vstf.py

   1 #!/usr/bin/env python
   2 ##############################################################################
   3 # Copyright (c) 2016 Huawei Technologies Co.,Ltd and others.
   4 #
   5 # All rights reserved. This program and the accompanying materials
   6 # are made available under the terms of the Apache License, Version 2.0
   7 # which accompanies this distribution, and is available at
   8 # http://www.apache.org/licenses/LICENSE-2.0
   9 ##############################################################################
  10
  11 import os
  12 import argparse
  13 import time
  14 import subprocess
  15 import logging
  16 import urllib2
  17 import shutil
  18 from heatclient.client import Client as HeatClient
  19 from keystoneclient.v2_0.client import Client as KeystoneClient
  20 from glanceclient.v2.client import Client as GlanceClient
  21 from novaclient.client import Client as NovaClient
  22
  23 #------------------------------------------------------
  24 # parser for configuration files in each test case
  25 # ------------------------------------------------------
  26 parser = argparse.ArgumentParser()
  27 parser.add_argument("-c", "--conf",
  28                     help="configuration files for the testcase, in yaml format",
  29                     default="/home/opnfv/bottlenecks/testsuites/vstf/testcase_cfg/vstf_Tu1.yaml")
  30 args = parser.parse_args()
  31
  32 #--------------------------------------------------
  33 # logging configuration
  34 #--------------------------------------------------
  35 logger = logging.getLogger(__name__)
  36
  37
  38 def _get_keystone_client():
  39     keystone_client = KeystoneClient(
  40                 auth_url=os.environ.get('OS_AUTH_URL'),
  41                 username=os.environ.get('OS_USERNAME'),
  42                 password=os.environ.get('OS_PASSWORD'),
  43                 tenant_name=os.environ.get('OS_TENANT_NAME'),
  44                 cacert=os.environ.get('OS_CACERT'))
  45     return keystone_client
  46
  47 def _get_heat_client():
  48     keystone = _get_keystone_client()
  49     heat_endpoint = keystone.service_catalog.url_for(service_type='orchestration')
  50     heat_client = HeatClient('1', endpoint=heat_endpoint, token=keystone.auth_token)
  51     return heat_client
  52
  53 def _get_glance_client():
  54     keystone = _get_keystone_client()
  55     glance_endpoint = keystone.service_catalog.url_for(service_type='image', endpoint_type='publicURL')
  56     return GlanceClient(glance_endpoint, token=keystone.auth_token)
  57
  58 def _get_nova_client():
  59     nova_client = NovaClient("2", os.environ.get('OS_USERNAME'),
  60                                   os.environ.get('OS_PASSWORD'),
  61                                   os.environ.get('OS_TENANT_NAME'),
  62                                   os.environ.get('OS_AUTH_URL'))
  63     return nova_client
  64
  65 def _download_url(src_url, dest_dir):
  66     ''' Download a file to a destination path given a URL'''
  67     file_name = src_url.rsplit('/')[-1]
  68     dest = dest_dir + "/" + file_name
  69     try:
  70         response = urllib2.urlopen(src_url)
  71     except (urllib2.HTTPError, urllib2.URLError):
  72         return None
  73
  74     with open(dest, 'wb') as f:
  75         shutil.copyfileobj(response, f)
  76     return dest
  77
  78 def vstf_stack_satisfy(name="bottlenecks_vstf_stack", status="CREATE_COMPLETE"):
  79     heat = _get_heat_client()
  80     for stack in heat.stacks.list():
  81         if status == None and stack.stack_name == name:
  82             # Found target stack
  83             print "Found stack, name=" + str(stack.stack_name)
  84             return True
  85         elif stack.stack_name == name and stack.stack_status==status:
  86             print "Found stack, name=" + str(stack.stack_name) + ", status=" + str(stack.stack_status)
  87             return True
  88     return False
  89
  90 def vstf_env_prepare(template=None):
  91     print "========== Prepare vstf environment =========="
  92     logger.info("env preparation for testcase.")
  93
  94 def vstf_env_cleanup():
  95     print "========== Cleanup vstf environment =========="
  96     glance = _get_glance_client()
  97     heat = _get_heat_client()
  98     nova = _get_nova_client()
  99
 100     for image in glance.images.list():
 101         if image.name.find("bottlenecks_vstf") >= 0:
 102             print "Delete image, id:" + str(image.id) + ", name:" + str(image.name)
 103             glance.images.delete(image.id)
 104
 105     for keypair in nova.keypairs.list():
 106         if keypair.name.find("bottlenecks_vstf") >= 0:
 107             print "Delete keypair, id:" + str(keypair.id) + ", name:" + str(keypair.name)
 108             nova.keypairs.delete(keypair.id)
 109
 110     for flavor in nova.flavors.list():
 111         if flavor.name.find("bottlenecks_vstf") >= 0:
 112             print "Delete flavor, id:" + str(flavor.id) + ", name:" + str(flavor.name)
 113             nova.flavors.delete(flavor.id)
 114
 115     for stack in heat.stacks.list():
 116         if stack.stack_name.find("bottlenecks_vstf") >= 0:
 117             print "Delete stack, id: " + str(stack.id) + ", name:" + str(stack.stack_name)
 118             heat.stacks.delete(stack.id)
 119
 120     timeInProgress = 0
 121     while vstf_stack_satisfy(name="bottlenecks_vstf_stack", status=None) and timeInProgress < 60:
 122         time.sleep(5)
 123         timeInProgress = timeInProgress + 5
 124
 125     if vstf_stack_satisfy(name="bottlenecks_vstf_stack", status=None) == True:
 126         print "Failed to clean the stack"
 127         return False
 128     else:
 129         return True
 130
 131 def vstf_create_images(imagefile=None, image_name="bottlenecks_vstf_image"):
 132     print "========== Create vstf image in OS =========="
 133
 134     if imagefile == None:
 135        print "imagefile not set/found"
 136        return False
 137
 138     glance = _get_glance_client()
 139     image = glance.images.create(name=image_name, disk_format="qcow2", container_format="bare")
 140     with open(imagefile) as fimage:
 141         glance.images.upload(image.id, fimage)
 142
 143     timeInQueue = 0
 144     img_status = image.status
 145     while img_status == "queued" and timeInQueue < 30:
 146         print "  image's status: " + img_status
 147         time.sleep(1)
 148         timeInQueue = timeInQueue + 1
 149         img_status = glance.images.get(image.id).status
 150
 151     print "After %d seconds, the image's status is [%s]" %(timeInQueue, img_status)
 152     return True if img_status == "active" else False
 153
 154 def vstf_create_keypairs(key_path, name="bottlenecks_vstf_keypair"):
 155     print "========== Add vstf keypairs in OS =========="
 156     nova = _get_nova_client()
 157     with open(key_path) as pkey:
 158         nova.keypairs.create(name=name, public_key=pkey.read())
 159
 160 def vstf_create_flavors(name="bottlenecks_vstf_flavor", ram=4096, vcpus=2, disk=10):
 161     print "========== Create vstf flavors in OS =========="
 162     nova = _get_nova_client()
 163     nova.flavors.create(name=name, ram=ram, vcpus=vcpus, disk=disk)
 164
 165 def vstf_create_instances(template_file, vstf_parameters=None, stack_name="bottlenecks_vstf_stack"):
 166     print "========== Create vstf instances =========="
 167     heat = _get_heat_client()
 168
 169     with open(template_file) as template:
 170         stack = heat.stacks.create(stack_name=stack_name, template=template.read(), parameters=vstf_parameters)
 171
 172     stack_id = stack['stack']['id']
 173     stack_status = heat.stacks.get(stack_id).stack_status
 174
 175     print "Created stack, id=" + str(stack_id) + ", status=" + str(stack_status)
 176
 177     timeInProgress= 0
 178     while stack_status == "CREATE_IN_PROGRESS" and timeInProgress < 150:
 179         print "  stack's status: %s, after %d seconds" %(stack_status, timeInProgress)
 180         time.sleep(5)
 181         timeInProgress = timeInProgress + 5
 182         stack_status = heat.stacks.get(stack_id).stack_status
 183
 184     print "After %d seconds, the stack's status is [%s]" %(timeInProgress, stack_status)
 185     return True if stack_status == "CREATE_COMPLETE" else False
 186
 187 def get_instances(nova_client):
 188     try:
 189         instances = nova_client.servers.list(search_opts={'all_tenants': 1})
 190         return instances
 191     except Exception, e:
 192         print "Error [get_instances(nova_client)]:", e
 193         return None
 194
 195 def vstf_run(launch_file=None, test_file=None):
 196     print "================run vstf==============="
 197
 198     nova = _get_nova_client()
 199     print(nova.servers.list())
 200     time.sleep(100)
 201     instances = get_instances(nova)
 202     if instances == None:
 203         print "Found *None* instances, exit vstf_run()!"
 204         return False
 205     if launch_file == None or test_file == None:
 206          print "Error, vstf launch/test file not given"
 207          return False
 208     cmd = "bash " + launch_file
 209     subprocess.call(cmd, shell=True)
 210     time.sleep(50)
 211     cmd = "bash " + test_file
 212     subprocess.call(cmd, shell=True)
 213     time.sleep(20)
 214
 215 def main():
 216
 217     Bottlenecks_repo_dir = "/home/opnfv/bottlenecks"      # same in Dockerfile, docker directory
 218     Heat_template = Bottlenecks_repo_dir + "/testsuites/vstf/testcase_cfg/vstf_heat_template.yaml"
 219     manager_image_url = 'http://artifacts.opnfv.org/bottlenecks/vstf-manager-new.img'
 220     agent_image_url = 'http://artifacts.opnfv.org/bottlenecks/vstf-agent-new.img'
 221
 222     #vstf_env_prepare(testcase_cfg)
 223     vstf_env_cleanup()
 224
 225     dest_dir = "/tmp"
 226     manager_file = _download_url(manager_image_url, dest_dir)
 227     if manager_file == None:
 228        print "error with downloading image(s)"
 229        exit(-1)
 230     agent_file = _download_url(agent_image_url, dest_dir)
 231     if agent_file == None:
 232        print "error with downloading image(s)"
 233        exit(-1)
 234
 235     #TO DO:the parameters are all used defaults here, it should be changed depends on what it is really named
 236     parameters={'key_name': 'bottlenecks_vstf_keypair',
 237                 'flavor': 'bottlenecks_vstf_flavor',
 238                 'public_net': os.environ.get('EXTERNAL_NET')}
 239
 240     print "Heat_template_file: " + Heat_template
 241     print "parameters:\n" + str(parameters)
 242
 243     if not (args.conf):
 244        logger.error("Configuration files are not set for testcase")
 245        exit(-1)
 246     else:
 247        testcase_cfg = args.conf
 248
 249     manager_image_created = False
 250     tester_image_created = False
 251     target_image_created = False
 252     stack_created = False
 253
 254     manager_image_created = vstf_create_images(imagefile=manager_file, image_name="vstf-manager")
 255     tester_image_created = vstf_create_images(imagefile=agent_file, image_name="vstf-tester")
 256     target_image_created = vstf_create_images(imagefile=agent_file, image_name="vstf-target")
 257     keyPath = Bottlenecks_repo_dir + "/utils/infra_setup/bottlenecks_key/bottlenecks_key.pub"
 258     vstf_create_keypairs(key_path=keyPath)
 259     vstf_create_flavors()
 260
 261     if manager_image_created == True and tester_image_created == True and target_image_created == True:
 262         stack_created = vstf_create_instances(template_file=Heat_template, vstf_parameters=parameters, stack_name="bottlenecks_vstf_stack")
 263     else:
 264         print "Cannot create instances, as Failed to create image(s)."
 265         exit (-1)
 266
 267     print "Wait 100 seconds after stack creation..."
 268     time.sleep(100)
 269
 270     launchfile = Bottlenecks_repo_dir + "/utils/infra_setup/heat_template/vstf_heat_template/launch_vstf.sh"
 271     testfile = Bottlenecks_repo_dir + "utils/infra_setup/heat_template/vstf_heat_template/test_vstf.sh"
 272     vstf_run(launch_file=launchfile, test_file=testfile)
 273
 274     vstf_env_cleanup()
 275
 276 if __name__=='__main__':
 277     main()