bugfix of run_rubbos.py in CI job
[bottlenecks.git] / testsuites / rubbos / run_rubbos.py
1 #!/usr/bin/env python
2 ##############################################################################
3 # Copyright (c) 2016 Huawei Technologies Co.,Ltd and others.
4 #
5 # All rights reserved. This program and the accompanying materials
6 # are made available under the terms of the Apache License, Version 2.0
7 # which accompanies this distribution, and is available at
8 # http://www.apache.org/licenses/LICENSE-2.0
9 ##############################################################################
10
11 import os
12 import argparse
13 import time
14 import logging
15 import urllib2
16 import shutil
17 from heatclient.client import Client as HeatClient
18 from keystoneclient.v2_0.client import Client as KeystoneClient
19 from glanceclient.v2.client import Client as GlanceClient
20 from novaclient.client import Client as NovaClient
21
22 #------------------------------------------------------
23 # parser for configuration files in each test case
24 # ------------------------------------------------------
25 parser = argparse.ArgumentParser()
26 parser.add_argument("-c", "--conf",
27                     help="configuration files for the testcase, in yaml format",
28                     default="/home/opnfv/bottlenecks/testsuites/rubbos/testcase_cfg/rubbos_1-1-1.yaml")
29 args = parser.parse_args()
30
31 #--------------------------------------------------
32 # logging configuration
33 #--------------------------------------------------
34 logger = logging.getLogger(__name__)
35
36
37 def _get_keystone_client():
38     keystone_client = KeystoneClient(
39                 auth_url=os.environ.get('OS_AUTH_URL'),
40                 username=os.environ.get('OS_USERNAME'),
41                 password=os.environ.get('OS_PASSWORD'),
42                 tenant_name=os.environ.get('OS_TENANT_NAME'),
43                 cacert=os.environ.get('OS_CACERT'))
44     return keystone_client
45
46 def _get_heat_client():
47     keystone = _get_keystone_client()
48     heat_endpoint = keystone.service_catalog.url_for(service_type='orchestration')
49     heat_client = HeatClient('1', endpoint=heat_endpoint, token=keystone.auth_token)
50     return heat_client
51
52 def _get_glance_client():
53     keystone = _get_keystone_client()
54     glance_endpoint = keystone.service_catalog.url_for(service_type='image', endpoint_type='publicURL')
55     return GlanceClient(glance_endpoint, token=keystone.auth_token)
56
57 def _get_nova_client():
58     nova_client = NovaClient("2", os.environ.get('OS_USERNAME'),
59                                   os.environ.get('OS_PASSWORD'),
60                                   os.environ.get('OS_TENANT_NAME'),
61                                   os.environ.get('OS_AUTH_URL'))
62     return nova_client
63
64 def _download_url(src_url, dest_dir):
65     ''' Download a file to a destination path given a URL'''
66     file_name = src_url.rsplit('/')[-1]
67     dest = dest_dir + "/" + file_name
68     try:
69         response = urllib2.urlopen(src_url)
70     except (urllib2.HTTPError, urllib2.URLError):
71         return None
72
73     with open(dest, 'wb') as f:
74         shutil.copyfileobj(response, f)
75     return file_name
76
77
78 def rubbos_stack_satisfy(name="bottlenecks_rubbos_stack", status="CREATE_COMPLETE"):
79     heat = _get_heat_client()
80     for stack in heat.stacks.list():
81         if status == None and stack.stack_name == name:
82             # Found target stack
83             print "Found stack, name=" + str(stack.stack_name)
84             return True
85         elif stack.stack_name == name and stack.stack_status==status:
86             print "Found stack, name=" + str(stack.stack_name) + ", status=" + str(stack.stack_status)
87             return True
88     return False
89
90 def rubbos_env_prepare(template=None):
91     print "========== Prepare rubbos environment =========="
92     logger.info("Generate heat template for the testcase based on template '%s'." % template)
93
94 def rubbos_env_cleanup():
95     print "========== Cleanup rubbos environment =========="
96     glance = _get_glance_client()
97     heat = _get_heat_client()
98     nova = _get_nova_client()
99
100     for image in glance.images.list():
101         if image.name.find("bottlenecks_rubbos") >= 0:
102             print "Delete image, id:" + str(image.id) + ", name:" + str(image.name)
103             glance.images.delete(image.id)
104
105     for keypair in nova.keypairs.list():
106         if keypair.name.find("bottlenecks_rubbos") >= 0:
107             print "Delete keypair, id:" + str(keypair.id) + ", name:" + str(keypair.name)
108             nova.keypairs.delete(keypair.id)
109
110     for flavor in nova.flavors.list():
111         if flavor.name.find("bottlenecks_rubbos") >= 0:
112             print "Delete flavor, id:" + str(flavor.id) + ", name:" + str(flavor.name)
113             nova.flavors.delete(flavor.id)
114
115     for stack in heat.stacks.list():
116         if stack.stack_name.find("bottlenecks_rubbos") >= 0:
117             print "Delete stack, id: " + str(stack.id) + ", name:" + str(stack.stack_name)
118             heat.stacks.delete(stack.id)
119
120     timeInProgress = 0
121     while rubbos_stack_satisfy(name="bottlenecks_rubbos_stack", status=None) and timeInProgress < 60:
122         time.sleep(5)
123         timeInProgress = timeInProgress + 5
124
125     if rubbos_stack_satisfy(name="bottlenecks_rubbos_stack", status=None) == True:
126         print "Failed to clean the stack"
127         return False
128     else:
129         return True
130
131 def rubbos_create_images(src_url=None, image_name="bottlenecks_rubbos_image"):
132     print "========== Create rubbos image in OS =========="
133     dest_dir = '/tmp'
134     file_name = _download_url(src_url, dest_dir)
135     #file_name = "bottlenecks-trusty-server.img"
136     if file_name == None:
137        return False
138
139     glance = _get_glance_client()
140     imagefile = dest_dir + "/" + file_name
141     image = glance.images.create(name=image_name, disk_format="qcow2", container_format="bare")
142     with open(imagefile) as fimage:
143         glance.images.upload(image.id, fimage)
144
145     timeInQueue = 0
146     img_status = image.status
147     while img_status == "queued" and timeInQueue < 30:
148         print "  image's status: " + img_status
149         time.sleep(1)
150         timeInQueue = timeInQueue + 1
151         img_status = glance.images.get(image.id).status
152
153     print "After %d seconds, the image's status is [%s]" %(timeInQueue, img_status)
154     return True if img_status == "active" else False
155
156 def rubbos_create_keypairs(key_path, name="bottlenecks_rubbos_keypair"):
157     print "========== Add rubbos keypairs in OS =========="
158     nova = _get_nova_client()
159     with open(key_path) as pkey:
160         nova.keypairs.create(name=name, public_key=pkey.read())
161
162 def rubbos_create_flavors(name="bottlenecks_rubbos_flavor", ram=4096, vcpus=2, disk=10):
163     print "========== Create rubbos flavors in OS =========="
164     nova = _get_nova_client()
165     nova.flavors.create(name=name, ram=ram, vcpus=vcpus, disk=disk)
166
167 def rubbos_create_instance(template_file, rubbos_parameters=None, stack_name="bottlenecks_rubbos_stack"):
168     print "========== Create rubbos instances =========="
169     heat = _get_heat_client()
170
171     with open(template_file) as template:
172         stack = heat.stacks.create(stack_name=stack_name, template=template.read(), parameters=rubbos_parameters)
173
174     stack_id = stack['stack']['id']
175     stack_status = heat.stacks.get(stack_id).stack_status
176
177     print "Created stack, id=" + str(stack_id) + ", status=" + str(stack_status)
178
179     timeInProgress= 0
180     while stack_status == "CREATE_IN_PROGRESS" and timeInProgress < 150:
181         print "  stack's status: %s, after %d seconds" %(stack_status, timeInProgress)
182         time.sleep(5)
183         timeInProgress = timeInProgress + 5
184         stack_status = heat.stacks.get(stack_id).stack_status
185
186     print "After %d seconds, the stack's status is [%s]" %(timeInProgress, stack_status)
187     return True if stack_status == "CREATE_COMPLETE" else False
188
189 def rubbos_run():
190     pass
191
192 def main():
193     global Heat_template
194     global Bottlenecks_repo_dir
195     global image_url
196     Bottlenecks_repo_dir = "/home/opnfv/bottlenecks"      # same in Dockerfile, docker directory
197     #Bottlenecks_repo_dir = "/root/wyg/bottlenecks"       # Test dir in local env
198
199     image_url = 'http://artifacts.opnfv.org/bottlenecks/rubbos/bottlenecks-trusty-server.img'
200
201     if not (args.conf):
202        logger.error("Configuration files are not set for testcase")
203        exit(-1)
204     else:
205        Heat_template = args.conf
206
207     #TO DO:the parameters are all used defaults here, it should be changed depends on what it is really named
208     parameters={'image': 'bottlenecks_rubbos_image',
209                 'key_name': 'bottlenecks_rubbos_keypair',
210                 'flavor': 'bottlenecks_rubbos_flavor',
211                 'public_net': os.environ.get('EXTERNAL_NET')}
212
213     print "Heat_template_file: " + Heat_template
214     print "parameters:\n" + str(parameters)
215
216     image_created = False
217     stack_created = False
218
219     rubbos_env_prepare(Heat_template)
220     rubbos_env_cleanup()
221
222     image_created = rubbos_create_images(image_url)
223     keyPath = Bottlenecks_repo_dir + "/utils/infra_setup/bottlenecks_key/bottlenecks_key.pub"
224     rubbos_create_keypairs(key_path=keyPath)
225     rubbos_create_flavors()
226
227     if image_created == True:
228         stack_created = rubbos_create_instances(template_file=Heat_template, rubbos_parameters=parameters, stack_name="bottlenecks_rubbos_stack")
229     else:
230         print "Cannot create instances, as Failed to create image(s)."
231         exit (-1)
232
233     rubbos_run()
234     rubbos_env_cleanup()
235
236 if __name__=='__main__':
237     main()