Catch os.makedirs() exceptions in tempest.py

It can raise an error exception if the leaf directory already exists or
cannot be created [1].

[1] https://docs.python.org/2/library/os.html

JIRA: FUNCTEST-804

Change-Id: Ie410bccf1bb2dfd36df6e918c152ecf94844b5d7
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Manage criteria in TestCase

It converts all criteria values to the corresponding percent in
functest/ci/testcases.yaml.

Result is expected to be equal or greater than criteria. If both are 0,
result is considered as false.

It is compatible with the old behavior but warns to update.
It will allow a safer remove.

It also fixes a bug in test_tempest to allow merging [1] and
tier_handler.py which required that type criteria was str.

[1] https://gerrit.opnfv.org/gerrit/#/c/27949/

Change-Id: Ib6edcfa3103b7d51b0bdc83119f1cea2a8be9fbc
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Switch TestCase attribute criteria to result

It mainly avoids mixing input and output.
Criteria is now an input set in functest/ci/testcases.yaml and then
must be passed as __init__() args (which will be proposed in an
additional change).

Then it also renames the related TestCase method to
check_result().

Change-Id: Ifc3c8e3ea6cde7e3edf7174bed4bf2bf0894e8e3
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Remove the useless opnfv_tests dir in tests"

Remove the useless opnfv_tests dir in tests

Change-Id: I41a8db181adf6c0c67b9de8380c3ccdd1ad3b529
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Remove useless lines of code in barometer.py

Change-Id: Ie312dbd296a85a35096294331c28a45f8dc10d0c
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Switch testcase to test case in docstrings

Change-Id: Iea64673788a3d5ab5eb3028522f659de183440ed
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Minor changes in docstrings"

Merge "Ignore _build (sphinx output dir)"

Merge "Remove exec right for ci config files"

Merge "Fix pylint warnings in decorators.py"

Merge "Stop hardcoding results suffix in push_to_db"

[VNF_base] Support existing tenant and user

Support existing tenant and user with a get_or_create_tenant method.
If the tenant and user already exist it only get the id of those

JIRA: FUNCTEST-799

Change-Id: Id5daf2904592e42199471bdd3547e861e6db6e32
Signed-off-by: boucherv <valentin.boucher@orange.com>

Remove exec right for ci config files

Change-Id: Ibf7e549252234fb69dd6e0cc7920b66759469aea
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Ignore _build (sphinx output dir)

Change-Id: I8afb00fb2942d2144968896981532324ac8e322d
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Fix pylint warnings in decorators.py

Change-Id: Ie6c53feb97053248c909d641753b44b5f51c8719
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Minor changes in docstrings

It removes case_name from the list of attributes that run() must set
because it's now managed by run_tests.py (see __init__())

Change-Id: Id6228880257d0e9fb27483c56aa9985197feb04e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Stop hardcoding results suffix in push_to_db

Adding results in url is useless as it is defined in results
section in config_functest.yaml.

It allows defining the full name in case of dumping to file (see
decorator.py). The commented local file is the value required by
dovetail.

Co-Authored-By: Cédric Ollivier <cedric.ollivier@orange.com>
Change-Id: I35ba9b34d99e138292f099934e28585ee8b85604
Signed-off-by: MatthewLi <matthew.lijun@huawei.com>
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add mock to requirements.txt

Package mock is absent for functest, while it is required by
decorators.py.

Change-Id: I0d042def0335e369c4e22a349e3068829e1d2c59
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Add docstings in feature.py

It also modifies the testcase module docstring.
Now features.py is rated 10/10 by pylint.

Change-Id: I83f2ac385b2a713d116c1ae4b49ba9cc9b26a83c
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Remove former cmd instance attribute

It's now useless as it's passed as run() args.

Change-Id: I97e14bd431a8844cd90905bf2050c48fb00f1cc5
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Fix Sphinx warnings/errors

It takes into account the following warnings/errors:
  - Inline strong start-string without end-string
  - Unexpected indentation

Change-Id: Idb05c7b04ba98ef8f3ef65e6ec7c9bb5b7571cad
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Use Sphinx to create API documentation

The packages/modules which are part of Functest framework are parsed.
It also generates ODL TestCase API as it's well commented.

The content is simply referring to modules.

Change-Id: I873ae1535fc05c9d7e426f5fb54f9579eb01e6d1
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Fix the irc channel

Change-Id: Idb446213274b7dfb03b0ee072717a35e03428609
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Add class attribute docstrings in testcase.py"

Merge "Fix typos in vnf_base.py"

Merge "Add copper section in testcases.yaml"

Add class attribute docstrings in testcase.py

Change-Id: I91a5c6fb14f7c76a348bb4329d023bab53a3804c
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Updated method calls to SNAPS tests."

Fix typos in vnf_base.py

Change-Id: Idf0380930e97e1aa4584ba000f32d742a87d9486
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Set image and flavor id in tempest config file"

Add copper section in testcases.yaml

JIRA: COPPER-34

Change-Id: I7301745718b9c035493c2e5c162e2a4e117982db
Signed-off-by: Aimee Ukasick <aimeeu.opensource@gmail.com>

Add license in feature.py

Change-Id: I75f51f216dcbf0db1c563cf381c28efc47241d3c
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Remove deprecated feature modules

All features running bash programs are now simply defined in
testcases.yaml. All deprecated modules and unit tests are removed.

Change-Id: I7047b6f7a1e43cb8ed5ba2d569d5dcecae68fb86
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "update check_os.sh admin port seds to match public"

update check_os.sh admin port seds to match public

If there's not a / on the end of the admin url then port is not found
public already handled this correctly. updating admin to match public

JIRA: FUNCTEST-793
Change-Id: I01d654dfe247c6102a90ba7ea3921a9f15991789
Signed-off-by: Dan Radez <dradez@redhat.com>

Set image and flavor id in tempest config file

Kingbird tests require that image and flavor are defined in tempest
configuration file.

JIRA: FUNCTEST-783

Change-Id: If96ef8e38e3f1a5946b687f1e5c8c0a6c3a90d54
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>

Updated method calls to SNAPS tests.

Due to the refactoring performed in gerrit patch
31435, the calls to the SNAPS tests needed to be
updated.

JIRA: SNAPS-23

Change-Id: I9069ea61b1d15b52a081501b03ae8bf73da10f29
Signed-off-by: spisarski <s.pisarski@cablelabs.com>

Refactor the Feature framework

run() returns the expected status code (see following JIRA tickets).
repo, pre() and post() are removed as they were quite useless.
A dedicated class is proposed for bash programs.
Unit tests have been added to fully cover this module.

All features have been modified to conform with these modifications.
It also removes the decorators which skipped several unit tests.

JIRA: FUNCTEST-778
JIRA: FUNCTEST-779
JIRA: FUNCTEST-780
JIRA: FUNCTEST-781

Change-Id: Ifb1e4c4f68260a4e20d895f67f07f369ca959374
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Modify TestCase constructor attributes

Every feature/testcase now allows receiving the data defined in
testcases.yaml as args (name is renamed to case_name).

From the time being, only project and case names are handled. Next
pending patches will add criteria, cmd and repo to this list.

It keeps the default values for case names except for features which
will be aggregated into Feature.

Change-Id: Id742d100b8183d7f10894c24ae6879d1b2b60ac9
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Rename test_ims_base.by to test_ims_base.py

It fixes errors when importing modules too.
It completes the review "Added test case for opera vims" [1].

[1] https://gerrit.opnfv.org/gerrit/#/c/30681

Change-Id: Ib3cf9c66eb9a2c25ff4fb58d48e4b15a44556f7c
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Write feature case names in testcases.yaml

It replaces some project names by the corresponding case names.
Else some feature projects results failed to be pushed to DB.

Co-Authored-By: Cédric Ollivier <cedric.ollivier@orange.com>
JIRA: FUNCTEST-792

Change-Id: Id81644406bafb361da46e397a92e60b4da2ec068
Signed-off-by: Linda Wang <wangwulin@huawei.com>
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add unit tests for parser

It also fixes the corresponding case name in testcases.yaml.

Change-Id: I2b93323a18bb192d9ad35823dc48b236cb6841b1
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Bugfixing the testcases execusion

tempest.api.compute.servers.test_server_actions\
.ServerActionsTestJSON.test_reboot_server_hard
is working in fuel so do test it.

The "-" was missing so
tempest.scenario.test_server_basic_ops
.TestServerBasicOps.test_server_basic_ops
was executed on fuel which is known to be
not working since metadata service is not
available. That was added already long
ago but through the not adding
of the "-" it got added again.

Change-Id: I6808ce9283271e2d2f8acf7c2587aed006d1cbc2
Signed-off-by: Nikolas Hermanns <nikolas.hermanns@ericsson.com>

Merge "Enable the deployment info print for compass"

Merge "Increase ram for tempest tests (aarch64)"

Bugfix: Add case_name as constructor arg for snaps_smoke

JIRA: FUNCTEST-791

When running snaps_smoke, it complains " __init__() got
an unexpected keyword argument 'case_name'"

Change-Id: I4a59828ba735ba14a286d000d1d061be14878d1c
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Increase ram for tempest tests (aarch64)

The following tests fail on armband because the VM cannot boot.
tempest.api.compute.servers.test_server_actions.
ServerActionsTestJSON.test_reboot_server_hard

tempest.scenario.test_network_basic_ops.
TestNetworkBasicOps.test_network_basic_ops

tempest.scenario.test_volume_boot_pattern.
TestVolumeBootPattern.test_volume_boot_pattern

tempest.scenario.test_volume_boot_pattern.
TestVolumeBootPatternV2.test_volume_boot_pattern

The reason for the failure is that the 128 ram is insufficient for the
image to boot. The fix consists in increasing the ram to 256

JIRA: ARMBAND-61

Change-Id: I5be1a44a8038b4952cca100511e8d08b7a37681c
Signed-off-by: Cristina Pauna <cristina.pauna@enea.com>

Add case_name as args in all features

Now run_tests.py forces case_name as arg of every TestCase or Feature.
It also updates the related unit tests.

Change-Id: I4d70005b53730f36785f0ac95f4f0f6a04455794
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "refstack client: improvement and fix of TestCase usage"

Merge "Bugfix: Add case_name as constructor arg for snaps and rally"

Bugfix: Add case_name as constructor arg for snaps and rally

When running healthcheck tier and rally, it complains " __init__() got
an unexpected keyword argument 'case_name'"

Change-Id: I078094921f08b457b88beabee60eabf40b657411
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Fix VIM onboarding and ims deployment

VIM onboarding: check for API version of OpenStack -> support of v2 and v3
ims deployment: fix userdata in order to wait for EMS registration

Change-Id: Id0932232ddb1f1163ef3c37460bc88b71b9c0bdd
Signed-off-by: Michael Pauls <michael.pauls@fokus.fraunhofer.de>

refstack client: improvement and fix of TestCase usage

JIRA: FUNCTEST-772

1, RefstackClientParser should not be a subclass of TestCase
2, tempest_conf.py used for generating reference tempest.conf file
   not related to functest cmd, use logger is enough

Change-Id: If9c37331a5a7687e5704e546efcdea8175b1529c
Signed-off-by: MatthewLi <matthew.lijun@huawei.com>

Add unit tests for feature

They partially cover feature but already highlight bugs.
Several tests are skipped to allow merging. Their decorators could be
removed as soon as feature is fixed.

I think bad-continuation is false positive so it's disabled (pep8 and
flake8 return ok).

JIRA: FUNCTEST-779

Change-Id: I89b9e2ec0388eea2471d941b2c653deca7fbddf6
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add unit tests for security_scan

Change-Id: Idda799c01408aa9afd09d573e23f42e011f3fafb
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add unit tests for sdnvpn

Change-Id: Ie4ebc4e2bc6f2e66f5f567f45f44c073cd9d313d
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add unit tests for promise

Change-Id: I538fcedbfbef46ae36b8eff5a20acaa28a8bfb85
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add unit tests for odl_sfc

Change-Id: I8eb037a8c2427695d42207897064b79cb2b03a5d
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add unit tests for netready

Change-Id: I45f9209c55bd65c9538fc3b1181ccbcfbdd23a40
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add unit tests for domino

Change-Id: Ie6671080a3d38a17da0ee608a362605a6d9df9db
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add unit tests for doctor

Change-Id: Iba3c63592623623507e009b0b9f514792c82d25e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add unit tests for copper

Change-Id: Ia4e53e2aee5b93071b3acd3d75c7e42841321a0a
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add unit tests for barometer

2 tests are skipped to allow merging [1]

[1] https://jira.opnfv.org/browse/FUNCTEST-777

Change-Id: Ida376a03266489e252f7ef8de1ff40f1474c500a
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Add case_name as constructor arg"

Add case_name as constructor arg

It allows managing multiple TestCase names with only one TestCase
module. It is mainly required by odl which implements:
  - odl,
  - odl_netvirt,
  - fds.

It also renames case to case_name in Features to conform with
TestCases.

JIRA: FUNCTEST-762

Change-Id: Ie254f754a0ea3077a8afda1c470528d38c79478f
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "modify old naming testcase_base to testcase"

Merge "[Clearwater Test] Fix bug in error message"

Backup of reporting status for Danube 1.0

- reporting html pages for apex, compass, fuel and joid
- text file with history of Danube scenarios
- text file of validated Danube scenarios (100% in functest)

Change-Id: If5585acc5bf56406c0c92e8b132157ed742244f1
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>

[Clearwater Test] Fix bug in error message

Change-Id: I5d1a3f44915821fcf778c4bcecb32d2aaf475262
Signed-off-by: boucherv <valentin.boucher@orange.com>

Enable the deployment info print for compass

Change-Id: Ifcd81ac4694df46109a78e522da2e399b166c867
Signed-off-by: helenyao <yaohelan@huawei.com>

Merge "Adding label for userguide"

Adding label for userguide

Change-Id: Iaab305c913173594ee2d857255b6492d15f15916
Signed-off-by: ShubhamRathi <shubhamiiitbackup@gmail.com>

Make tempest cleanup resources after running

JIRA: FUNCTEST-773

1. When running refstack_defcore, create tenant and user failed due to conflict
   with those created when runnning tempest_smoke_serial.
2. Clean all resources created for tempest_smoke_serial.

Change-Id: Icf8ec95f6db0b2f93bf6c56ec10a6e8ea1a91ab1
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Merge "Re-enable rally and tempest full for weekly"

Merge "Check a rule existence for a specific security group"

Check a rule existence for a specific security group

    Implement a functionality to check if a rule concerning
    a specific security group exists
    - function get_security_group_rules(neutron_client, sg_id)
      returns the list of the security rules for a specific security group
    - function check_security_group_rules(neutron_client,
                                          sg_id, direction,
                                          protocol,
                                          port_min=None,
                                          port_max=None)
      checks if a specific rule for a specific security group exists
      and returns True or False
    - implement unit tests for the two new functions

     This new functionality is needed for sdnvpn project

Change-Id: Ib930bc9a76141932f4164d88e2640b49f3df4d77
Signed-off-by: tomsou <soth@intracom-telecom.com>

Upgrade to the latest kingbird version

Change-Id: I80015fa05811f11c2c62e4c87f6008bea279fbf7
Signed-off-by: Dimitri Mazmanov <dimitri.mazmanov@ericsson.com>

Merge "Release notes for Danube 1.0"

Re-enable rally and tempest full for weekly

Change-Id: I640531ebcc471adebe780c75627d822cf8fd956d
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Release notes for Danube 1.0

JIRA: FUNCTEST-562

Change-Id: I1e2c827bad7c924561bbe433dac97c096282024d
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

modify old naming testcase_base to testcase

testcase_base is the old naming, now testcase is adopted

Change-Id: Ic937da1fba16060d8a2ff1e6f3d1301be1293cd3
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Merge "More Unit Tests for utils module"

Merge "More Unit Tests for ci directory"

Merge "Clean up Tempest blacklist"

Merge "More Unit Tests for tempest and IMS module"

Merge "Disable tempest server reboot test for SDNVPN and Gluon"

Clean up Tempest blacklist

This list has been generated in Colorado and there are
some scenarios that are deprecated and there is no
need to list them here.

Change-Id: I62a30b5026ed1df65ebdb7a68a6acf3364469865
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Disable tempest server reboot test for SDNVPN and Gluon

Bug report: https://bugs.opendaylight.org/show_bug.cgi?id=5586
As a result, floating IPs are not working in Apex at the moment.

Change-Id: I437c10b53dc01810ed757f040d3378c92320274b
Signed-off-by: Georg Kunz <georg.kunz@ericsson.com>
Signed-off-by: Nikolas Hermanns <nikolas.hermanns@ericsson.com>

Merge "rename FeatureBase to Feature"

Merge "rename feature_base to feature"

More Unit Tests for tempest and IMS module

This patch adds more unit tests for
openstack/tempest/ and ims/ modules
with coverage >= 80%

Change-Id: I7c18cea791ac8dc3e890da98066179225283b068
Signed-off-by: ashishk1994 <ashishk.iiit@gmail.com>

Merge "Add docstrings in odl"

Merge "refstack: bugfix of name TestCase"

Added test case for opera vims

1. Created a ImsOnBoardingBase to wrap up all common ims operations
2. Created test case to test opera vims onboarding

Change-Id: Idf3a82e10661271ad413f4dd5795c80ca4421d73
Signed-off-by: helenyao <yaohelan@huawei.com>

refstack: bugfix of name TestCase

JIRA: FUNCTEST-758

Change-Id: I1b90597c9745faa67afa58e5653f72411a95aa3d
Signed-off-by: MatthewLi <matthew.lijun@huawei.com>

Merge "modify old naming Testcase_base to TestCase"

Add docstrings in odl

It has been rated at 10.00/10 by pylint.

Change-Id: If45656080a47c2582556f841a02379b37e481fd9
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Fully fix pylint warnings in test_testcase

It partially takes into account missing-docstring.
It is disabled for public methods as they are unit tests.

It has been rated at 10.00/10.

Change-Id: I70e6729b9228d58cc67a18da29b925dad22cf5bd
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Rename test_testcase_base to test_testcase

It follows "Rename testcase_base to testcase" [1]

[1] https://gerrit.opnfv.org/gerrit/#/c/31879/

Change-Id: I54bb62a37bdab842f433790688128a459b0ac78c
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>