[bugfix] should create result folder for multisite

Change-Id: I004225131de57f1597edc62558a3a3e42f31b504
Signed-off-by: meimei <meimei@huawei.com>

[bugfix] pass the wrong argument to rally

Change-Id: I23ff06b53e45e9aa226f430e7d2fb75025281b9e
Signed-off-by: meimei <meimei@huawei.com>

Add conf directory to Dockerfile

Currently mounting the credentials file cannot be done at launch
time since the parent folder doesn't exist. This is usually not
noticed because prepare env will get the credentials file
via ssh, but the docker mount will silently fail.

Change-Id: I2e33c3c218a01ac6e1e5bf09609083dec3647b95
Signed-off-by: Michael Chapman <woppin@gmail.com>

Merge "Create config_functest patch to update the conf with scenario"

add report flag to parser

parser has no report flag, every time we run the test the results will be reported to db

JIRA: FUNCTEST-410

Change-Id: I6336b4c367fd8edc70e076b81d01d9356580bc22
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Merge "[multisite] refactor the scripts of multiste"

Merge "update pip version of functest docker image"

Merge "Bug fix in functest ODL-SFC"

[multisite] refactor the scripts of multiste

Change-Id: I07f0f5e253b04c9ac70e6dc4ea210e7cecf22c6a
Signed-off-by: meimei <meimei@huawei.com>

change parser path from RNC to vRNC

JIRA: FUNCTEST-409

Change-Id: I83887160a328c6f022efaa1547ca214571a9a01c
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

update pip version of functest docker image

JIRA: FUNCTEST-408

Change-Id: Ie14bbd0e2fa6f76957217d27cb8b0c76d4d28a03
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Create config_functest patch to update the conf with scenario

Adding support of LXD scenario

JIRA: FUNCTEST-268

Change-Id: I5891ff9de674d99d32d8db747be501ee8a2e6609
Signed-off-by: boucherv <valentin.boucher@orange.com>

Merge "parser integration bugfix"

Add SKIP status if Domino Test Case is skipped

Change-Id: I099010496dadabc18952de88fd6b3740592fc583
Signed-off-by: Ulas Kozat <ulas.kozat@gmail.com>

parser integration bugfix

JIRA: FUNCTEST-407

Change-Id: I9f202cb09935d9b77c5a977234bec6b505e296fd
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Bug fix in functest ODL-SFC

Change-Id: I496ade3ea5888967e933231f515a340369bffe8f
Signed-off-by: Manuel Buil <manuel.buil@ericsson.com>

Merge "Use Kingbird Bind host URL for Tempest"

Update test with the new SF and new tacker script

- A new SF image was created with a new name. Several files must be updated
- There is a new tacker branch for OPNFV Colorado, an update was made

Change-Id: Ib5ed364467baca32fa204155655318cb1ec189f5
Signed-off-by: Manuel Buil <manuel.buil@ericsson.com>

Use Kingbird Bind host URL for Tempest

Earlier, there was external URL for accessing KB services
in tempest.conf which is not accessible from functest docker.

Use bind host URL for KB service to access from the docker.

Change-Id: I147ffc2cd9883a6913080f9e1ab245807e0ca707
Signed-off-by: ashish singh <ashishsingh2k8@gmail.com>

Merge "Enable Copper functest under JOID"

Merge "Bug fixes odl-sfc + new features"

Bug fixes odl-sfc + new features

* Doing the test with private IPs as floating are currently not working in ODL
* New SF takes more time to start the service. A while loop is added.
* Configuration of the compute set-up due to ODL limitations added

Change-Id: I5449af940caee456262dac66bc47b66fd05c2a70
Signed-off-by: Manuel Buil <manuel.buil@ericsson.com>

Reduced timeout for SSH connection attempt in tempest.conf

Some tempest test cases try to establish SSH connection to
Cirros VMs using default 300s timeout. Since Cirros VMs send
only three DHCP requests with 1 minute interval, future SSH
connection attempts will most probably fail if DHCP response
will not be received right after third request. For that reason
the optimal timeout is slightly above 2 minutes.

JIRA: FUNCTEST-378

Change-Id: I57415ad37a85cd84887d3cac4f7a44f7e145d820
Signed-off-by: vitikkan <viktor.tikkanen@nokia.com>

Merge "Re-generating tempest.conf file before starting tests"

Merge "unify test result check for feature project and apply to parser"

Merge "support "" equals to None check in Testcase.is_compatible"

Re-generating tempest.conf file before starting tests

"rally verify genconfig" command doesn't generate tempest.conf
file if it already exists in the used deployment. This can cause
troubles if some resources (images, flavors etc.) change between
consecutive runs of tempest. The change ensures that tempest.conf
is deleted before executing "rally verify genconfig".

JIRA: FUNCTEST-403

Change-Id: Icf5e380da3cb8757f4177b49028937355e2cf1d7
Signed-off-by: vitikkan <viktor.tikkanen@nokia.com>

unify test result check for feature project and apply to parser

add check_test_result() method to unify test result process

JIRA: FUNCTEST-405

Change-Id: Iee4d2876cbbf372f8c3e3bf94448036669bc7f7e
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

support "" equals to None check in Testcase.is_compatible

when check ci_installer/ci_scenario is None, we also check if ci_installer/ci_scenario is ""

JIRA: FUNCTEST-404

Change-Id: Ib8b7b9a98f6eb064d2b3648e5d1334990c69cb2f
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Set lnfo logging level for Doctor tests

JIRA: DOCTOR-63

Change-Id: Iaa8fb5989f69a8853c0e3e03ce87d58fb2d4309b
Signed-off-by: Carlos Goncalves <carlos.goncalves@neclab.eu>

Enable Copper functest under JOID

JIRA: COPPER-4

Change-Id: Ief49cea34ed15ba9c877bf4acd512f4d77cb5016
Signed-off-by: blsaws <bryan.sullivan@att.com>

Merge "Shorter test case names are accepted for tempest blacklist file"

Shorter test case names are accepted for tempest blacklist file

Blacklist file handling is changed so that also partial test case
names are accepted. For example, "tempest.api.object_storage"
entry will exclude all the test cases containing this string.

JIRA: FUNCTEST-401

Change-Id: I620be7dfd5d980a343d2f7cc7c0dbe40598bf65c
Signed-off-by: vitikkan <viktor.tikkanen@nokia.com>

functest utils - get_resolvconf_ns() Ensure that dns works with dns name resolution

JIRA: FUNCTEST-402

Change-Id: I5fa9204aafb13330eb810950aa7bc728f1a69162
Signed-off-by: boucherv <valentin.boucher@orange.com>

Merge "Fix for the endpoint URL for kingbird"

Merge "modfied to mute object storage test on joid."

Fix for the endpoint URL for kingbird

Currently, there is internal IP address which is getting populated
in tempest.conf. Since the tempest are run inside functest docker container
we need to use public IP address for accessing Kingbird services.

Now, there will not be any installer specific endpoints as we had earlier.
All should communicate with public endpoints.

Change-Id: Id22e7e4d9ece9a0000a1186113627b82d6ba400a
Signed-off-by: ashish singh <ashishsingh2k8@gmail.com>

use configured success_rate to check tempest test status

when checking tempest test results using success_rate
configured in testcases.yaml rather than written it in the code

JIRA: FUNCTEST-400

Change-Id: I2a34e3e032a0d94c6a4605fcf09a66c8f8f9b78c
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Fix missing directory when calling bgpvpn tests

Change-Id: Ic9f6b9592202c3bed9d6835eeea7c14971e1c01f
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Merge "Several bug fixes in ODL-SFC functest testcase"

Several bug fixes in ODL-SFC functest testcase

JIRA: SFC-42

- SSH options added so that the ssh key is not needed
- IPTABLES change done before contacting nova, neutron...
- Fix a problem in the CI test (we need to CD the BASEDIR)

Change-Id: Id63c02a614bf31e5a33637c2bf95270bd1399ff8
Signed-off-by: Manuel Buil <manuel.buil@ericsson.com>

modfied to mute object storage test on joid.

In case of joid we implement ceph-radosgw for object storage which creates
swift api for object storage. Manually i can verify we can upload the
object. But functest is failing other installer removed the API but we
need in JOID for juju based deployment on Openstack. So this patch will
mute the object storage test cases for functest.

Change-Id: I21d2bdc665a9589630cfcacb278cfb65a1c15f11
Signed-off-by: Narinder Gupta <narinder.gupta@canonical.com>

Wrap call to the rest api with try-except while generating report

When the Rest api is not available for some reason
(see associated JIRA), the script fails and it gives also a false
output to Jenkins.

JIRA: FUNCTEST-399

Change-Id: I81622a2e22661889afcf49526c2421af257920a4
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Add onos_sfc scenario

JIRA:ONOSFW-172

Change-Id: I019edf79f8d343f794aa7af151d8e30c18e2c5f6
Signed-off-by: wuwenbin2 <wuwenbin2@huawei.com>

Add dir_repo_domino to fix bug

JIRA: DOMINO-19

Change-Id: Ib054b859569ef69e32cec650c7dd223199762763
Signed-off-by: Ulas Kozat <ulas.kozat@gmail.com>

Return with exit code in Doctor testcase

JIRA: DOCTOR-63

Change-Id: Ib142a6102a705ee571081651c650ced05f7d5d4f
Signed-off-by: Carlos Goncalves <carlos.goncalves@neclab.eu>

Return with exit code in Promise testcase

JIRA: PROMISE-77

Change-Id: Ie856d7b58f72a253abf4b446e33f3c98d06c50c1
Signed-off-by: Carlos Goncalves <carlos.goncalves@neclab.eu>

Return -1 in Rally if the success criteria is not met

JIRA: FUNCTEST-382

Change-Id: Iaf475ecd3dbfcf6fb639ff146fe96e54c5393a1e
Signed-off-by: Markus Kullberg <markus.kullberg@nokia.com>

Merge "Select test cases in tempest to be blacklisted per each scenario"

correct rally criteria check

add method check_success_rate() to unify criteria check by success_rate

JIRA: FUNCTEST-398

Change-Id: I1b3f0ccd7061b80ac88356206f29844e31e4101b
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

unify test results logger and apply to parser

refine a unified method to log the test results
and use it to parser.

JIRA: FUNCTEST-397

Change-Id: I5ed6b04107be5590b1d9d5683c8f1846fef5a4d4
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Select test cases in tempest to be blacklisted per each scenario

JIRA: FUNCTEST-396

Added example for SDNVPN test cases

Change-Id: I623130fc330c95239d982097552ca09f2a7ea34a
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Merge "Bug fix of the CI script in the ODL-SFC test case"

Bug fix of the CI script in the ODL-SFC test case

Change-Id: Id3db14d1f26a7dd75cdaaf4d7ca0f54268a89faf
Signed-off-by: Manuel Buil <manuel.buil@ericsson.com>

Prevent exiting the overall execution when there is a failed test case

Unless it is a test with the flag blocking=true

Change-Id: Iada54319db1c81c73781f1b135eb496bc9f2af1b
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Scripts added to enable the SFC-ODL test in CI

We need to install Tacker in the server before running the test cases

Change-Id: Id7daee80627bc71c335fcb3efa5d389594641b65
Signed-off-by: Manuel Buil <manuel.buil@ericsson.com>

Add configure options for healthcheck

The healthcheck tier used hard-coded x86 image for testing glance and nova.
This breaks functest for ARM based pods, because x86 instances cannot run on
ARM and even more, if healthcheck fails no other testcases are executed.

Change-Id: I8a4cc754569a26d98bff57470574ed28eebbf2da
Signed-off-by: Ciprian Barbu <ciprian.barbu@enea.com>

Add region name to OpenStack credentials

Currently functest doesn't account for regions when it tries to
instantieate OpenStack clients. As a result, the code fails when
functest is used in a multi-region environment.
The fix forces functest account for region name.

Signed-off-by: Dimitri Mazmanov <dimitri.mazmanov@ericsson.com>
Change-Id: Iebbd20042548c02da9d5ed7e58a454347a555778

Functional testing for tosca2heat translation

in Dockerfile, add parser related work
in config_functest.yaml/testcase.yaml, add parser related configuration
in exec_test.sh to run parser test
add vnf/RNC/parser.py script

JIRA: FUNCTEST-187

Change-Id: I8b53774da00f13b630ec5d9f750817db892a82bb
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Merge "Bugfix: dont stop execution when a test case is not blocking"

Bugfix: dont stop execution when a test case is not blocking

Change-Id: I3564b6f2d8f8057ec2c9753837e3a5fe16a4a866
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Add endpoint type support on functest

By default public endpoint was used but now you can use internal or admin

JIRA: FUNCTEST-387

Change-Id: If1adaa88248d379ad6d74b20f2dffd76278b67b9
Signed-off-by: boucherv <valentin.boucher@orange.com>

logger the push result of rally test

JIRA: FUNCTEST-393

Change-Id: I94158531739e1e05c694a785a8bbca7f80684af5
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Merge "[bugfix] issures in multisite testcase"

Disable security scan tests

Change-Id: Ic6800f4b1401c44dbded160f45fdd17c706f14f8
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Make openstack_clean be aware of the names and not only the IDs

Sometimes, when using the same container for a different deployment,
the IDs of the openstack resources are different but the names are
the same. This will avoid cleaning for example the user 'admin'
regardless of the ID it has.

JIRA: FUNCTEST-383

Change-Id: If27603f8f6d0cb7ad0aeba6e3c89ca19e2b8aed2
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Fix the proper version output for kingbird.

Signed-off-by: Dimitri Mazmanov <dimitri.mazmanov@ericsson.com>

Return -1 in Tempest if the success criteria is not passed.

JIRA: FUNCTEST-381

Change-Id: I533bb50e26a3b97da9fd3bfa007f8ac7ce752a5b
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Return -1 if copper test fails

Change-Id: Ib66d1b69c73603bab33950ca2c0fca3f07eb3d22
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

[bugfix] issures in multisite testcase

Change-Id: I351311688742c04c2c2b7278015e221178267fda
Signed-off-by: meimei <meimei@huawei.com>

Enable odl-sfc in CI

JIRA:FUNCTEST-392

Change-Id: If1c931df26062501695061e1155eb26ad007c8de
Signed-off-by: Manuel Buil <manuel.buil@ericsson.com>

Bump rally to 0.5.0 and add shyaml

A newer version of rally brings in this change that is required by armband:
https://bugs.launchpad.net/rally/+bug/1580695

The shyaml cli parser can be used to make the healthcheck testcase
configurable, for instance to pass a different cirros image other than the one
for x86_64. Also required by armband to make functest execute all tests.

Change-Id: Ic4976bb6d4a4753e56deade35b641f1127af3162
Signed-off-by: Ciprian Barbu <ciprian.barbu@enea.com>

Merge "[bugfix] miss a argument"

[bugfix] miss a argument

Change-Id: Id8cdf6a5dadee6a2e0ba10772db88c84e5ce13a3
Signed-off-by: meimei <meimei@huawei.com>

substitue misused variable 'total_success' with 'success_rate'

JIRA: FUNCTEST-390

Change-Id: I35a2f72016573fc9e0a8403e436d5568937c5b14
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Generate Functest report at the end of the execution

JIRA: FUNCTEST-89

Change-Id: I10c41efdd6a7f737f57ab15158c8c8d49f392271
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

delete useless stop_time initialization in run_rally-cert.py

stop_time is assigned twice, delete the first one

JIRA:FUNCTEST-384

Change-Id: I380113474e66a73c516f4411d8d7c5832e33921a
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Bug fix for ODL-SFC testcase

The vxlan_tool was sometimes not started properly in the SFs. Now we check
that the process is started

Change-Id: I8b88b76ba30755a1ed339f9e4c374d43e5e0b422
Signed-off-by: Manuel Buil <manuel.buil@ericsson.com>

Bad status on rally_sanity

format total_success to float when compared with numeric 90

JIRA: FUNCTEST-365

Change-Id: I473582053c107bb026bf0e8d76dab46b2e5e3eb6
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

add .idea directory to gitignore

ignore .idea created by using pycharm

JIRA: FUNCTEST-386

Change-Id: I425b4525ea16cafc2883f165efd2293a8adb13fb
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Turn off vPing_ssh for odl_l3 scenarios due to odl bug

https://bugs.opendaylight.org/show_bug.cgi?id=5586
JIRA: FUNCTEST-363

Change-Id: I4d195ae7ebbe10cfc4fe2947eecf5f0c051fd4e3
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Merge "Create a flag in the tests to indicate if they should be blocking or not"

Create a flag in the tests to indicate if they should be blocking or not

JIRA: FUNCTEST-380

Change-Id: I737d71a47ddac80bf0222a1f004af05f509c5971
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Bug fix for SFC test case

The path is fixed in the sfc_tacker script, some minor bug fixes in sfc.py are
made and the "FAILED" messages are not handled by log.error instead of debug

Change-Id: I2facbd985c1c0c0cac3865504b1bf65940b7ce50
Signed-off-by: Manuel Buil <manuel.buil@ericsson.com>

Add duration message after test execution

Change-Id: Ida68009ba02b2a5135dc4f3ae958fc77088389d7
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

bugfix: Don't try to run a tier if it doesn't contain any enabled test

- Add separation (blank lines) between the test cases output

JIRA: FUNCTEST-349

Change-Id: I54a5d4f33d5776b4754641168c3775d19ca50e4a
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Fix execute_command function to show all the output

This function wasn't showing anything for some commands,
like 'rally show images' and 'rally show flavors'

JIRA: FUNCTEST-348

Change-Id: I75bf5f3504ea8ffea42c2fb237d6863c655259e1
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Add cd to test directory

JIRA: COPPER-4

Fix pendantic formatting issue

Change-Id: Iaab44a990fc04addd4c66dc8432bc9428bb5a52f
Signed-off-by: blsaws <bryan.sullivan@att.com>

Bugfix: ODL report to DB fails

JIRA: FUNCTEST-370

Change-Id: I48c8927f3490b86fcf1c95656324429b70201653
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Merge "Add kingbird endpoint information to functest."

Remove logger as input parameter of functions in openstack_utils

JIRA: FUNCTEST-376

Also some fixes to get rid of flake8 violations in onos-sfc

Change-Id: I52c2fd30a6b81af20ea779db2d73b9386524f7ce
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Add kingbird endpoint information to functest.

The patch multihops to the fuel node and dynamically retrieves kingbird
endpoint information. It also resolves the controller ip instead of
using the hardcoded value from the config ONLY if the installer type is
Fuel.

Signed-off-by: Dimitri Mazmanov <dimitri.mazmanov@ericsson.com>
Change-Id: I5161df5df3da7283f6374efa6bd1108246c1095a

Add logger to openstack_utils to output error messages

This will help to see the exception error when something
fails

JIRA: FUNCTEST-376

Change-Id: Ibaa6954fc63af00d552ac32b3cf903b9218200d1
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Merge "Show real time tempest test execution"

Show real time tempest test execution

JIRA: FUNCTEST-375

Change-Id: I4f0cb68639b927f2980389d9331ec260605c8caf
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Catch timeout exception in vIMS

JIRA: FUNCTEST-368

Change-Id: Ifeec4b89e9a05ee02d5a0829ee787dbd6ef528b2
Signed-off-by: boucherv <valentin.boucher@orange.com>

Exit with -1 return code if something fails in vping tests

Also, turn off debug info from paramiko python module in vping_ssh

JIRA: FUNCTEST-373
JIRA: FUNCTEST-374

Change-Id: I6168cae85db91b2dd6ceac591f12dd9295786b59
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Extend timeout to check vm in onos-sfc testcase

Change-Id: I68ae154391d8098cab3d3cb05cebe6f1922ca701
Signed-off-by: wuwenbin2 <wuwenbin2@huawei.com>

Don't take openstack snapshot when "-n" option is set

JIRA: FUNCTEST-236

Change-Id: I37bfa4ebe88a8cf02f2cddc8fc4cce70ad87b775
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

[multisite] run on the env of fuel and compass

Change-Id: Ie590a99e8b571af66cc2164c291dd8e9eed47e4a
Signed-off-by: meimei <meimei@huawei.com>