testsuites/vstf/run_vstf.py

   1 #!/usr/bin/env python
   2 ##############################################################################
   3 # Copyright (c) 2016 Huawei Technologies Co.,Ltd and others.
   4 #
   5 # All rights reserved. This program and the accompanying materials
   6 # are made available under the terms of the Apache License, Version 2.0
   7 # which accompanies this distribution, and is available at
   8 # http://www.apache.org/licenses/LICENSE-2.0
   9 ##############################################################################
  10
  11 import os
  12 import argparse
  13 import time
  14 import subprocess
  15 import logging
  16 import urllib2
  17 import shutil
  18 from heatclient.client import Client as HeatClient
  19 from keystoneclient.v2_0.client import Client as KeystoneClient
  20 from glanceclient.v2.client import Client as GlanceClient
  21 from novaclient.client import Client as NovaClient
  22
  23 #------------------------------------------------------
  24 # parser for configuration files in each test case
  25 # ------------------------------------------------------
  26 parser = argparse.ArgumentParser()
  27 parser.add_argument(
  28     "-c",
  29     "--conf",
  30     help="configuration files for the testcase, in yaml format",
  31     default="/home/opnfv/bottlenecks/testsuites/vstf/testcase_cfg/vstf_Tu1.yaml")
  32 args = parser.parse_args()
  33
  34 #--------------------------------------------------
  35 # logging configuration
  36 #--------------------------------------------------
  37 logger = logging.getLogger(__name__)
  38
  39
  40 def _get_keystone_client():
  41     keystone_client = KeystoneClient(
  42         auth_url=os.environ.get('OS_AUTH_URL'),
  43         username=os.environ.get('OS_USERNAME'),
  44         password=os.environ.get('OS_PASSWORD'),
  45         tenant_name=os.environ.get('OS_TENANT_NAME'),
  46         cacert=os.environ.get('OS_CACERT'))
  47     return keystone_client
  48
  49
  50 def _get_heat_client():
  51     keystone = _get_keystone_client()
  52     heat_endpoint = keystone.service_catalog.url_for(
  53         service_type='orchestration')
  54     heat_client = HeatClient(
  55         '1',
  56         endpoint=heat_endpoint,
  57         token=keystone.auth_token)
  58     return heat_client
  59
  60
  61 def _get_glance_client():
  62     keystone = _get_keystone_client()
  63     glance_endpoint = keystone.service_catalog.url_for(
  64         service_type='image', endpoint_type='publicURL')
  65     return GlanceClient(glance_endpoint, token=keystone.auth_token)
  66
  67
  68 def _get_nova_client():
  69     nova_client = NovaClient("2", os.environ.get('OS_USERNAME'),
  70                              os.environ.get('OS_PASSWORD'),
  71                              os.environ.get('OS_TENANT_NAME'),
  72                              os.environ.get('OS_AUTH_URL'))
  73     return nova_client
  74
  75
  76 def _download_url(src_url, dest_dir):
  77     ''' Download a file to a destination path given a URL'''
  78     file_name = src_url.rsplit('/')[-1]
  79     dest = dest_dir + "/" + file_name
  80     try:
  81         response = urllib2.urlopen(src_url)
  82     except (urllib2.HTTPError, urllib2.URLError):
  83         return None
  84
  85     with open(dest, 'wb') as f:
  86         shutil.copyfileobj(response, f)
  87     return dest
  88
  89
  90 def vstf_stack_satisfy(
  91         name="bottlenecks_vstf_stack",
  92         status="CREATE_COMPLETE"):
  93     heat = _get_heat_client()
  94     for stack in heat.stacks.list():
  95         if status is None and stack.stack_name == name:
  96             # Found target stack
  97             print "Found stack, name=" + str(stack.stack_name)
  98             return True
  99         elif stack.stack_name == name and stack.stack_status == status:
 100             print "Found stack, name=" + str(stack.stack_name) + ", status=" + str(stack.stack_status)
 101             return True
 102     return False
 103
 104
 105 def vstf_env_prepare(template=None):
 106     print "========== Prepare vstf environment =========="
 107     logger.info("env preparation for testcase.")
 108
 109
 110 def vstf_env_cleanup():
 111     print "========== Cleanup vstf environment =========="
 112     glance = _get_glance_client()
 113     heat = _get_heat_client()
 114     nova = _get_nova_client()
 115
 116     for image in glance.images.list():
 117         if image.name.find("bottlenecks_vstf") >= 0:
 118             print "Delete image, id:" + str(image.id) + ", name:" + str(image.name)
 119             glance.images.delete(image.id)
 120
 121     for keypair in nova.keypairs.list():
 122         if keypair.name.find("bottlenecks_vstf") >= 0:
 123             print "Delete keypair, id:" + str(keypair.id) + ", name:" + str(keypair.name)
 124             nova.keypairs.delete(keypair.id)
 125
 126     for flavor in nova.flavors.list():
 127         if flavor.name.find("bottlenecks_vstf") >= 0:
 128             print "Delete flavor, id:" + str(flavor.id) + ", name:" + str(flavor.name)
 129             nova.flavors.delete(flavor.id)
 130
 131     for stack in heat.stacks.list():
 132         if stack.stack_name.find("bottlenecks_vstf") >= 0:
 133             print "Delete stack, id: " + str(stack.id) + ", name:" + str(stack.stack_name)
 134             heat.stacks.delete(stack.id)
 135
 136     timeInProgress = 0
 137     while vstf_stack_satisfy(
 138             name="bottlenecks_vstf_stack",
 139             status=None) and timeInProgress < 60:
 140         time.sleep(5)
 141         timeInProgress = timeInProgress + 5
 142
 143     if vstf_stack_satisfy(name="bottlenecks_vstf_stack", status=None):
 144         print "Failed to clean the stack"
 145         return False
 146     else:
 147         return True
 148
 149
 150 def vstf_create_images(imagefile=None, image_name="bottlenecks_vstf_image"):
 151     print "========== Create vstf image in OS =========="
 152
 153     if imagefile is None:
 154         print "imagefile not set/found"
 155         return False
 156
 157     glance = _get_glance_client()
 158     image = glance.images.create(
 159         name=image_name,
 160         disk_format="qcow2",
 161         container_format="bare")
 162     with open(imagefile) as fimage:
 163         glance.images.upload(image.id, fimage)
 164
 165     timeInQueue = 0
 166     img_status = image.status
 167     while img_status == "queued" and timeInQueue < 30:
 168         print "  image's status: " + img_status
 169         time.sleep(1)
 170         timeInQueue = timeInQueue + 1
 171         img_status = glance.images.get(image.id).status
 172
 173     print "After %d seconds, the image's status is [%s]" % (timeInQueue, img_status)
 174     return True if img_status == "active" else False
 175
 176
 177 def vstf_create_keypairs(key_path, name="bottlenecks_vstf_keypair"):
 178     print "========== Add vstf keypairs in OS =========="
 179     nova = _get_nova_client()
 180     with open(key_path) as pkey:
 181         nova.keypairs.create(name=name, public_key=pkey.read())
 182
 183
 184 def vstf_create_flavors(
 185         name="bottlenecks_vstf_flavor",
 186         ram=4096,
 187         vcpus=2,
 188         disk=10):
 189     print "========== Create vstf flavors in OS =========="
 190     nova = _get_nova_client()
 191     nova.flavors.create(name=name, ram=ram, vcpus=vcpus, disk=disk)
 192
 193
 194 def vstf_create_instances(
 195         template_file,
 196         vstf_parameters=None,
 197         stack_name="bottlenecks_vstf_stack"):
 198     print "========== Create vstf instances =========="
 199     heat = _get_heat_client()
 200
 201     with open(template_file) as template:
 202         stack = heat.stacks.create(
 203             stack_name=stack_name,
 204             template=template.read(),
 205             parameters=vstf_parameters)
 206
 207     stack_id = stack['stack']['id']
 208     stack_status = heat.stacks.get(stack_id).stack_status
 209
 210     print "Created stack, id=" + str(stack_id) + ", status=" + str(stack_status)
 211
 212     timeInProgress = 0
 213     while stack_status == "CREATE_IN_PROGRESS" and timeInProgress < 150:
 214         print "  stack's status: %s, after %d seconds" % (stack_status, timeInProgress)
 215         time.sleep(5)
 216         timeInProgress = timeInProgress + 5
 217         stack_status = heat.stacks.get(stack_id).stack_status
 218
 219     print "After %d seconds, the stack's status is [%s]" % (timeInProgress, stack_status)
 220     return True if stack_status == "CREATE_COMPLETE" else False
 221
 222
 223 def get_instances(nova_client):
 224     try:
 225         instances = nova_client.servers.list(search_opts={'all_tenants': 1})
 226         return instances
 227     except Exception as e:
 228         print "Error [get_instances(nova_client)]:", e
 229         return None
 230
 231
 232 def vstf_run(launch_file=None, test_file=None):
 233     print "================run vstf==============="
 234
 235     heat = _get_heat_client()
 236     nova = _get_nova_client()
 237     print(nova.servers.list())
 238     print "## neutruon net-list:"
 239     subprocess.call("neutron net-list", shell=True)
 240     print "## nova list:"
 241     subprocess.call("nova list", shell=True)
 242     time.sleep(100)
 243     instances = get_instances(nova)
 244     if instances is None:
 245         print "Found *None* instances, exit vstf_run()!"
 246         return False
 247     if launch_file is None or test_file is None:
 248         print "Error, vstf launch/test file not given"
 249         return False
 250     cmd = "bash " + launch_file
 251     subprocess.call(cmd, shell=True)
 252     time.sleep(50)
 253     cmd = "bash " + test_file
 254     subprocess.call(cmd, shell=True)
 255     time.sleep(20)
 256
 257
 258 def main():
 259
 260     # same in Dockerfile, docker directory
 261     Bottlenecks_repo_dir = "/home/opnfv/bottlenecks"
 262     Heat_template = Bottlenecks_repo_dir + \
 263         "/testsuites/vstf/testcase_cfg/vstf_heat_template.yaml"
 264     manager_image_url = 'http://artifacts.opnfv.org/bottlenecks/vstf-manager-new.img'
 265     agent_image_url = 'http://artifacts.opnfv.org/bottlenecks/vstf-agent-new.img'
 266
 267     # vstf_env_prepare(testcase_cfg)
 268     vstf_env_cleanup()
 269
 270     dest_dir = "/tmp"
 271     manager_file = _download_url(manager_image_url, dest_dir)
 272     if manager_file is None:
 273         print "error with downloading image(s)"
 274         exit(-1)
 275     agent_file = _download_url(agent_image_url, dest_dir)
 276     if agent_file is None:
 277         print "error with downloading image(s)"
 278         exit(-1)
 279
 280     # TO DO:the parameters are all used defaults here, it should be changed
 281     # depends on what it is really named
 282     parameters = {'key_name': 'bottlenecks_vstf_keypair',
 283                   'flavor': 'bottlenecks_vstf_flavor',
 284                   'public_net': os.environ.get('EXTERNAL_NET')}
 285
 286     print "Heat_template_file: " + Heat_template
 287     print "parameters:\n" + str(parameters)
 288
 289     if not (args.conf):
 290         logger.error("Configuration files are not set for testcase")
 291         exit(-1)
 292     else:
 293         testcase_cfg = args.conf
 294
 295     manager_image_created = False
 296     tester_image_created = False
 297     target_image_created = False
 298     stack_created = False
 299
 300     manager_image_created = vstf_create_images(
 301         imagefile=manager_file,
 302         image_name="bottlenecks_vstf_manager")
 303     tester_image_created = vstf_create_images(
 304         imagefile=agent_file, image_name="bottlenecks_vstf_tester")
 305     target_image_created = vstf_create_images(
 306         imagefile=agent_file, image_name="bottlenecks_vstf_target")
 307     keyPath = Bottlenecks_repo_dir + \
 308         "/utils/infra_setup/bottlenecks_key/bottlenecks_key.pub"
 309     vstf_create_keypairs(key_path=keyPath)
 310     vstf_create_flavors()
 311
 312     if manager_image_created and tester_image_created and target_image_created:
 313         stack_created = vstf_create_instances(
 314             template_file=Heat_template,
 315             vstf_parameters=parameters,
 316             stack_name="bottlenecks_vstf_stack")
 317     else:
 318         print "Cannot create instances, as Failed to create image(s)."
 319         exit(-1)
 320
 321     print "Wait 300 seconds after stack creation..."
 322     time.sleep(300)
 323
 324     launchfile = Bottlenecks_repo_dir + \
 325         "/utils/infra_setup/heat_template/vstf_heat_template/launch_vstf.sh"
 326     testfile = Bottlenecks_repo_dir + \
 327         "/utils/infra_setup/heat_template/vstf_heat_template/vstf_test.sh"
 328     vstf_run(launch_file=launchfile, test_file=testfile)
 329
 330     vstf_env_cleanup()
 331
 332 if __name__ == '__main__':
 333     main()