Merge "Move get_dict_by_test() into run_tests.py"

Merge "Conform with OpenStackUser.get_os_creds() in juju_epc"

Merge "Get neutron endpoint via snaps in odl"

Remove one obsolete var

Else it simply forces the config file into xtesting.

Change-Id: I33153997f2aa422e50cea011f6a4e7eb567a83d7
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Unlink feature from constants

Saving results dir as class attribute seems better in the context of
xtesting.

Change-Id: If40303d07d3be9bdc09d990f560cbeda429fd642
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Unlink vnf from constants

It generates a default description which all testcases can easily
override.

Change-Id: I81b97c394cf064088767cc934295602f01a7f739
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Unlink run_tests from constants

run_tests.py doesn't read any functest config file what is mandatory
for xtesting.

Change-Id: I49f672c54a606acead75f573d1ce496c81fb235a
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Unlink Energy from functest utils and constants

It requires an update of releng jobs which have to export
ENERGY_RECORDER_API_URL = http://energy.opnfv.fr/resources

Change-Id: Iecd5d49b4d4c961c9dc51e43e54df1fcd4027266
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Move get_dict_by_test() into run_tests.py

It also removes functest_utils.get_criteria_by_test()

Change-Id: I3f265642acd053755e32f8e92f1086b93517c247
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Conform with OpenStackUser.get_os_creds() in juju_epc

UserSettings are not linked to any project then abot has to be passed
as arg when calling get_os_creds. Else it returns the project
registered in credentials instead of the one created by this testcase.

Change-Id: Ia0658cc9af155df06de3d14e21e5288dad6367f9
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Move source_credentials() into run_tests.py"

Merge "Refactor tempest resource manager"

Get neutron endpoint via snaps in odl

Change-Id: Iaf0e451e7f6bd7d22459f8d3509b39773527cfea
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Move source_credentials() into run_tests.py

It's also renamed source_envfile().

Change-Id: I0e7c38c2def125961f86dc2bc9a63cfb6ad87c03
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Refactor tempest resource manager

Split resource creation into several methods.

Implements partly JIRA: FUNCTEST-913

Change-Id: Ic0dd5782c604498066c636deef10b0c18c1cb48d
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>

Add variablefile as possible robot.run() args

Change-Id: Ic80840957b4d9c3c4a1615696a2851f3f5bf7bf4
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Revert "Temporary disable one unstable snaps test"

This reverts commit 728e77ab3dbf075a21829a56d83cf34751bcdef6.

Change-Id: I6e5d3fa2cdf423b3c4c149108afbd9a18f0fc4b3
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Temporary disable one unstable snaps test

Else all verify jobs are failing [1]

[1] https://jira.opnfv.org/browse/SNAPS-263

Change-Id: Ic2dca7f2387af1f98d3720b8db05dc3ccd54098c
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Remove dns server from juju_epc config

The dns server shoud be set by the Cloud provider via Neutron configs.
Snaps is currently enforcing 8.8.8.8 as default too.

Change-Id: I3e9a25d8bbfbab4cd1d44e394235b329df86e82e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Disable orchestra_* testcases"

Fix rally cinder volume attach scenarios

Add network id to following scenarios:

CinderVolumes.create_snapshot_and_attach_volume
CinderVolumes.create_nested_snapshots_and_attach_volume

JIRA: FUNCTEST-929

Change-Id: If95babebf9ea6205684494395bdfd72d5203f4bf
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>

Disable orchestra_* testcases

They can be simply disabled and they unsuccessfully run vs Daily only.

In a second step, moving the related python modules in a new
orchestra repository could be a good solution simply because they
don't reach our coding criteria.

The best way is still to update them according to our rules and to
check all installers thanks to these two vnfs.

Change-Id: If36b16f0ed95d7039db9455a32c18f7fd1a739ef
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Stop printing data sent to DB

https://build.opnfv.org/ci/view/functest/job/functest-daisy-baremetal-daily-master/lastFailedBuild/console

Change-Id: I0f794159d05fe21f659ecf3b5a9fa407620b723d
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Fix docstrings

Else sphinx can't parse snaps_suite_builder.py and IxRestUtils.py.

Change-Id: Iab231a043120154bce708263474b9f9926c1f715
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Switch to the readthedocs theme for api docs

It also adds a requirement file for external doc tools wich couldn't
handle upper constraints.

Change-Id: Idf8f43e5e1a845055ce248f1dc8b8d676a3ac37b
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Remove yamllint from upper-constraints.txt

OpenStack doesn't list test requirements in upper constraints [1].

[́1] https://github.com/openstack/requirements/blob/stable/pike/upper-constraints.txt

Change-Id: I7472158d385beb311c159563bc3bb973c4a2d4c7
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add build_sphinx section in setup.cfg

Change-Id: Ieac48a1a213bc5cd62a42dab1c74c80761e82fd1
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Blacklist Quotas.nova_update_and_delete test

Excluded since the test occasionally fails due to race condition issue
on quota manipulation in nova [1].

[1] https://bugs.launchpad.net/nova/+bug/1552622

Change-Id: Ib979c1e371727aa3adea9dc0b5955e7ed24881cf
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>

Merge "Add modules docstrings in snaps"

Increase Rally full criteria

Even if several tests are currently under investigation, it seems
relevant to expect a full success here.

Change-Id: I6a8c5fb5a7dd4bfb5c3a2e7a93de1c0bec77c878
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add modules docstrings in snaps

JIRA: FUNCTEST-922

Change-Id: I058486427fe55e1d1ce939fce20d75ff7afde85c
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Update results printed in configguide.rst

It updates the entry points and all results.
It also takes into account that:
  - juju_epc was added
  - fds was moved to features

It should be noted that refstack_defcore, parser and several vnfs are
failing from the time being.

Change-Id: I918a7767005569f03115749ad121a6c7a04c04a9
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Fix links in configguide.rst

It also removes trailing whitespaces.

Change-Id: I6a7e4aaff700a85ff1c0c2741624e9359441e0ac
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Fix JujuEpc prepare() and deploy_orchestrator()

It bypasses a known unfixed Juju bug [1] by creating a second
'_member_' user [1]. An 'admin' user is still required to create
flavors and by snaps when listing virtual machines.
It highlights a possible bug in user_creator.get_os_creds().

It partially rewrites the testcase by cleaning instance attributes and
by taking several os.system() returns into account. It sets the new
password automatically generated [2] and starts switching from
openstack utils to snaps in vEPC.

This patchset must be completed by unit tests and by another patch
fully switching to snaps in the last methods.

It should be noted that the testcase sets 8.8.8.8 as dns server which
could raise side effects.

[1] https://bugs.launchpad.net/juju/+bug/1710848
[2] https://gerrit.opnfv.org/gerrit/#/c/50747/

Change-Id: Id18b4b185aa1825196e91f6692338169f51faea8
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Do not use shell to execute commands in tempest"

Merge "Stop setting ext net in config"

Merge "Install vEPC dependencies in Dockerfile"

Do not use shell to execute commands in tempest

Change-Id: I4d699481fdc63058c12ca9cfe18138e87025e9b3
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>

Stop setting ext net in config

It simply relies on the related env var as expected.

Change-Id: Ibbb1a2ab2cccdff8cafe6f409af383a24778b1f5
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Fix a typo in docstring"

Rename a common credential file for OS and K8S

Change-Id: Ib8d24be4b29ab1de00d5dd5e3442146b2437cb94
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Install vEPC dependencies in Dockerfile

It also cleans sources and packages.

Change-Id: Ie3a1a836c27af295b93386e8df63c0ae5accde84
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Use snaps_utils to get credentials in tempest"

Fix a typo in docstring

Change-Id: I4826240a56141771df202b9b3b416d64d2db2cf4
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add tempest and rally in functest-features

SDNVPN also requires these packages.
It would be refactored in a second step when xtesting is published.

Change-Id: I069ecf8d60dc0ee1a755d0974913b686f4c7ae61
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Removal of deprecated SNAPS-OO classes in juju_epc"

Use snaps_utils to get credentials in tempest

Change-Id: I1d240d5edd536d71c87a7dff4e2676715697d0e2
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>

Merge "Fix pylint errors/warnings in rally"

Merge "proper instance status handling"

Removal of deprecated SNAPS-OO classes in juju_epc

It completes the first commit about that topic [1].

[1] https://gerrit.opnfv.org/gerrit/#/c/47617/

Change-Id: I1a55b45f0535ae98681546d4d24bb424cf892aa8
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Fix pylint errors/warnings in rally

JIRA: FUNCTEST-906

Change-Id: I484f9a291d5adbedb855450e4ff067dfa4a3b2ae
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>

Merge "Remove duplicated code related to snaps creds"

Remove duplicated code related to snaps creds

Add support for providing credentials in snaps_utils.

JIRA: FUNCTEST-916

Change-Id: I3e027229d213d3791a115920f7012309cc027712
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>

Fix pylint errors about refstack

JIRA: FUNCTEST-907

Change-Id: Ib08a88523c700d35894b9b89b7585425a02065c3
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Merge "Create subnet and net within the same project"

Merge "Enable epc unit tests"

Merge "Fix warnings in all snaps-related modules"

Merge "Fix pylint errors in several utils modules"

Merge "Avoid duplicating get_parameter_from_yaml"

Merge "Fix last Pylint error in Functest"

Enable epc unit tests

It adds the missing __init__.py to activate vepc unit tests.
They are disabled because they are currently false (otherwise
it would block next changes).

Change-Id: I65b32490efde4cc8f6b3d9e6ee19257dcf02c2dd
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Fix the connect issue when checking deployment

Socket.connect() requires only one param with type tuple.

Change-Id: I63aa4633e80bde3ad5e1b5af9d67d8f46eb84571
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Create subnet and net within the same project

It is required to create a network and subnet within the same project
for some SUTs.

Change-Id: Icd02edb0aebee93713f315cdbbeb021e9ae82dae
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Fix warnings in all snaps-related modules

It also adds vping/__init__.py to stop skipping vping unit tests.
It removes the useless import os which is not required for mock (here
the mock patch was simply false).

It should be noted that the code is partially duplicated between
snaps_test_runner.py and vping_base_base.py. A small part of code has
been rewritten to fix that without multi inheritance.

Change-Id: I2e3e181ad7dab8aa41afb1e63d0b6795ff0d1610
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Refactor rally report generation"

Fix pylint errors in several utils modules

All utils which are moving to xtesting are now fixed.
It remains OpenStack and Functest utils (+ the related unit tests)
which doesn't move to the new package.

Change-Id: If13c627c8444c62d5c6bf9c8057d6413aa0e56c7
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Avoid duplicating get_parameter_from_yaml

It switches to this helper which was locally copied.

Change-Id: Iaa30d83e8c0e2d4472f4ef8fe1da4943e424ebb3
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Fix last Pylint error in Functest

It also fixes all pylint warnings in router and the related unit
tests. tox.ini is updated to ensure that no error is introduced.

Change-Id: Iddd74b0dac7b6581d72b04369140006c9e19f998
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Refactor rally report generation

- statistic data based on Rally results report
- fix statistics calculations
- use PrettyTable in generating the report

Change-Id: Ic84adc5e30d446aea1f3045ba997c3ddf895e9f5
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>

proper instance status handling

This would fix the exception happening in the SDNVPN CI testsuite.
Example: http://artifacts.opnfv.org/logs/functest/lf-pod1/2018-01-21_17-18-06/bgpvpn.log

Change-Id: Ie22dcdbba5299177d4e98e5995433553df5bfa68
Signed-off-by: Periyasamy Palanisamy <periyasamy.palanisamy@ericsson.com>

Fix pylint warnings/errors in cli

cli_testcase and cli_tier have been refactored to avoid duplicating
code. Then functest/cli and funtest/unit/cli can be added to the list
of modules rated 10/10.

Change-Id: Iec90e806397248a10f39080ec554e3f0a6eda7c1
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Delete functest_vacation.py

Change-Id: Id0e2769a1989e6778ae41f67ed634e2e5002a83d
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge RegexMatch into test_cli_env.py

It also deletes SubstrMatch which is not called (then uncovered).

Change-Id: Ifde1e2491ab5e0e75652eb4b25b359e859c2aa95
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Disable all missing-docstring warnings in unit tests

Change-Id: I22b7bbdab5f000b4ade6c2ba3a4029c146887cbd
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Partially rewrite test_run_tests.py

It mainly fixes pylint issues and leverages on decorators.
It should be noted that run_tests.py is not fully covered (see
xtesting requirements).

Change-Id: I114b67c3c5bfe61d72d004829af513e2014ad8b8
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Fully test and cover functest/ci/tier_*

It also fixes check_deployment.py and ci unit tests which were wrong
when testing exceptions.

Now ci modules are rated 10/10 and fully covered.

Change-Id: I30dca491b44cc54aa1abc0d0433c00b4dcabfdc4
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Move push_results_to_db to TestCase

It removes the link between TestCase and Functest utils (xtesting).
It should be noted that testresults url can only be set by env var.

Co-Authored-By: Cédric Ollivier <cedric.ollivier@orange.com>
Change-Id: Ie072c675890d0ae2e63619c599d2684a8c7d762d
Signed-off-by: Jose Lausuch <jalausuch@suse.com>
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Configure password for the user in vnf

For some SUTs, the password for creating user is not allowed to
be the same as user name, and some even is required to contain
at least 8 characters and three types of characters for security.

It also turns yamllint warnings into errors and fixes the remaining
warnings.

Change-Id: Icf25a7b9ff1c8cee55899198f1e519c9209877ff
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Merge "Fix Rally output retrieval"

Fix Rally output retrieval

Read stdout until nothing left instead of stopping once the child
process is terminated.

Change-Id: I46a2eb93fd614e2e7ff676727eb9dc132c29d03f
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>

Update set of region identity attribut

Use OS_REGION_NAME environment variable if defined

Change-Id: Ifcdfc468fa4931ab62ac0f3ead103e15af7c0de6
Signed-off-by: Samuel Bartel <samuel.bartel@orange.com>

Build functest-parser for arm64 via travis-ci

Even if clearwater-live-test dependencies have been updated [1], the
next containers can be built for ARM (ruby raises SEGFAULT via
qemu-user-static):
  - functest-vnf
  - functest-restapi

The related manifest is also updated.

[1] https://gerrit.opnfv.org/gerrit/#/c/50295/8

Change-Id: Ie1eb78436a3da5eb7b5c1028b7f8323e8c3e73a2
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Switch to absolute paths in Dockerfiles"

Switch to absolute paths in Dockerfiles

It updates functest-smoke and functest-restapi.

Change-Id: If4d48f8a6ead1b9b7726a9b7b7baf6b51340a926
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Delete the updated Alpine image

It completes "Update Alpine to 3.7" [1].

[1] https://gerrit.opnfv.org/gerrit/#/c/49741/

Change-Id: If836a7ca80f5869c9ffeea65a1c0eacf1042ffab
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Build vnf and restapi containers for ARM"

Build vnf and restapi containers for ARM

The root cause of the problem was the installation
of unf_ext packet. The Gemfile.lock in
https://github.com/boucherv-orange/clearwater-live-test
asked for version 0.0.6 and this version was not found for arm.
When it tried to build the package, the conversion from int
to char error was thrown (issue reported here
https://github.com/knu/ruby-unf_ext/issues/15).

As now version 0.0.7.4 is selected, then the vnf docker
images are built without any other errors.

Gemfile.lock was updated in the original repo,
this fix enables vnf and restapi containers build for ARM.

JIRA: FUNCTEST-899

Change-Id: Id2c5fe82cb3705f58a8175fcf0a17f443e9b7d9d
Signed-off-by: Delia Popescu <delia.popescu@enea.com>

Fix tempest error on Apex

1. Reconfigure v3_endpoint_type only when it is not None. It is
   adminURL by default.
2. Ignore the setting of api_v2_admin, as it only applies if api_v2
   is set to True.

Change-Id: I48b166bdb274467519390af3c1aa5ebf30b38c6d
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Merge "Introduce Euphrates main changes"

Introduce Euphrates main changes

6 topics:
- functest framework
- requirement management
- python packages
- docker slicing
- docker builds
- REST API

Change-Id: Ib25a2df9f1a723861606355aea95f61d53495794
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Remove the judgement of OS_ENDPOINT_TYPE

Remove the judgement of OS_ENDPOINT_TYPE when configuring
[identity-feature-enabled] section in tempest.conf

Change-Id: Ia0f6926cdd6e063c953358df5108b537917418bc
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Merge "Config physical network when creating tempest net"

Merge "Configure physical_network when creating network"

Merge "Remove the obsolete configs in config yaml"

Modify cmd for parser

The modification is related to https://gerrit.opnfv.org/gerrit/#/c/49649/

Change-Id: I51ec841da49dd05ee454896514a9e1b7761ee035
Signed-off-by: shangxdy <shang.xiaodong@zte.com.cn>

Remove the obsolete configs in config yaml

Change-Id: I389f3f4b09274529f92d7a74ebfb0cdd257c493a
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Configure physical_network when creating network

When the network_type is vlan, configuring physical_network
and segmentation_id should be supported by snaps.

JIRA: SNAPS-252

Change-Id: I2d3270a82991230385fdc18889ed5c5e979672b5
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Disable keystone v2 if keystone v3 is available

Change-Id: I9ae18ac6702b6bc1df80e5ff794307929e4aefb9
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Merge "Update Alpine to 3.7"

Merge "Execute feature command by subprocess directly"