Fix upper-constraints in tempest-based containers

Change-Id: Id7f82b314af05c6b8ec47ef3685fcc806e72f1a6
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 749613f723ac25dc161b4311d20e3e691b7a8341)

Rename CNTT specific testcases

Test DB and API don't support suites which raise side effects in Cachet
if both IaaS verification and CNTT conformance are executed.

Vmtp and Shaker haven't been modified for CNTT. They will be renamed
once CNTT asks for new post processing.

http://testresults.opnfv.org:8080/

Change-Id: I64e06694620027faa06b6d9d339684f5e8d733d7
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit c37c09b137d61d046a27973ffc44e5b32845462c)

Apply Accept-custom-registered-endpoints

This patch is needed to verify Ceph RadosGW and then has to be
backported to Hunter (CNTT).

Tempest maybe simply updated in a few branches (Jerma, Iruya?)
depending on the side effects.

Updating Tempest in Hunter would ask for an deep update of CNTT RC.

https://github.com/openstack/tempest/commit/1d500e79156ada6bc6fdb628ed1da0efd4121f6a

Change-Id: I5cbe6374cc5cb9d4cae92ae390f5ab63f301e4cb
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 719985c55d51fd7093753ae61de2328ea0543367)

pcre-dev is now needed

https://build.opnfv.org/ci/job/functest-smoke-docker-build-amd64-hunter/298/console

Change-Id: Ia0d2ff72869e0ccf1b657532404f0000b77546e0
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Increase Shaker timeout before init message in console

It failed in parallel of rally_full [1].

[1] https://build.opnfv.org/ci/job/functest-opnfv-functest-benchmarking-hunter-shaker-run/397/console
[2] https://build.opnfv.org/ci/job/functest-opnfv-functest-benchmarking-hunter-shaker-run/395/console

Change-Id: I0eab7374c5962d45405c5f4147798067526f6e70
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 14268b0e9f73a057c16f1a3ea0be0246dedaf4db)

Check the login prompt in console in SingleVm1

It also checks the second vm2 console log in case of vping_ssh.

Change-Id: I13a5edfb3e19449a38d2f0478d549bd8fcc5cfa7
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit c4206f485163d0fd75acf98683aea1268aa1205d)

Remove duplicated g++ in vnf/Dockerfile

Co-Authored-By: Juha Kosonen <juha.kosonen@nokia.com>
Change-Id: I63fbeb8d2a0941d9b3492c97e14a139ba050ad7d
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 1413d32a207502f88675e379264765687230884b)

Doesn't redirect stderr when getting verifier id

The logic fails when rally produces warnings [1].
It also updates Rally OpenStack and checks if the previous error
has been solved[2].

TypeError: _discover_or_create_flavor() missing 1 required positional
argument: 'flv_disk' [3]

[1] https://build.opnfv.org/ci/job/functest-opnfv-functest-healthcheck-latest-tempest_smoke-run/757/console
[2] https://github.com/openstack/rally-openstack/commit/e62315115af20e53f6c7205494ba0008634047ed
[3] https://build.opnfv.org/ci/job/functest-opnfv-functest-healthcheck-latest-tempest_smoke-run/629/console

Change-Id: Ia1daaa76d7cef7f30904c1f3bd42e2f6a6ba10af
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 62f33836dfb2d24650ec7474d532e304d5d537f6)

Update xtesting to 0.87.0

Change-Id: I0ee3499cf9c78687825714c00c1cf18ed2a70456
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 8e9706da7d6c5ab23c30fc0699fbe34e6010c6f8)

Remove a duplicated package

Change-Id: I7f9c5b5e2c59f23ada721e7209bec56bfa23ae9e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit b732b5b53e1b46e406b8ebfcff16466e2543cd67)

Add oauth1 as optional Keystone features

It was not listed in Keystone which defacto sets it as optional.
It may be considered as mandatory in a second step.

It should be noted that it's not working in CNTT RI and there is no
true plan to update CNTT RI from the time writing.

Close cntt-n/CNTT#1253

Change-Id: If7ee4efeafc05638173a51ce997ecbdcaabfc79c
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 13b8fd9d9f54fdac817b99f4506a1171ab0a9481)

Skip a few tests in tempest_full and tempest_slow

It completes the first patch updating neutron-tempest-plugin-api [1].
The same dvr regex is used in tempest_slow, a new one is defined for
tempest_full which will be added in CNTT doc
(test_network_basic_ops.TestNetworkBasicOps.test_router_rescheduling).

Close cntt-n/CNTT#1106

Change-Id: I9fd79c9a82bb1f84a622ccb9ea316b8e43273e2a
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 9ebccf93627d929fbf8738fbc9ce5ddb5f12c649)

Blacklick test_add_subport if OVN

https://bugs.launchpad.net/neutron/+bug/1863707

Change-Id: Ieebe10ee2a9040887d84aca3e8fb5ee66294634b
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 7d2d6d9e9330b5535d52b88a6c864151b512ae5b)

Update test case list in neutron-tempest-plugin-api

It takes into account latest changes in CNTT [1]

[1] https://github.com/cntt-n/CNTT/pull/1107

Close cntt-n/CNTT#1106

Change-Id: I3212d1b765f7fd657ed603ed520d79fccae80bfa
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit a149d2fa5b8bfcfd1dcd225c0f4bc6f4d949e420)

Exclude vxlan testing in CNTT

Close cntt-n/CNTT#1077

Change-Id: If9c0f52138e9f669f17933c42906936e2e196b2a
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 6a67a88d9511226aba749cdd73a4570eab38bfeb)

Run test_agent_management vs OVN

They must not longer be blacklisted as opposed to
test_dhcp_agent_scheduler [1].

https://bugs.launchpad.net/networking-ovn/+bug/1863432

Change-Id: Ib08bb87580a10e2124faa1b3853f3e27dcb3a0a0
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 73d016b7c10d9c6c651dbc36556d9d727a678717)

Set dhcp_agent_scheduler as optional

dhcp_agent_scheduler [1] indirectly forces the Neutron backends
as highlighted by OVN testing.

[1] https://specs.openstack.org/openstack/neutron-specs/specs/api/agent_schedulers.html

Close cntt-n/CNTT#1073

Change-Id: Iafa3ad7f15dc157c0362ffa59eed31b89bf368e7
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 9f06dba2a6b5e4eb22652a5e17947dab612f53a4)

Order regex in neutron-tempest-plugin-api (CNTT)

It mostly adds admin as prefix.

Change-Id: Ic2e723b858ff1f3e26478f6037a19db1fd52e4aa
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit a617bcfd4e5754adcf55aa1b69cf8397ed3571cd)

Add Functest CNTT-specific containers in release notes

Change-Id: I979a5e26caee893d772de484e7a61f2e82762ace
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit bb8d191d367921beae379a78809a07c39498241c)

Revert "Ease overriding tempest_conf.yaml"

It raises side effects if the file is missing (trying to mount a
directory onto a file) which is the default case.

This reverts commit 552a96c56f31043ef0b6e413085f2bdf2dd39063.

Change-Id: Id8dd3ecf8871c5447ba4655f8a2019527dd106e1
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Ease overriding tempest_conf.yaml

It works asis in Functest gates but its values mays be modified by
users at their convenience.

Change-Id: Id83c01693818802d11eb3822b59a508ac09990c3
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit fe4c595edbaa31a43b94c5065fb14cab932ddffd)

Remove test_server_connectivity_cold_migration_revert from exclusion list

It has to be part of the Compliance testing

Co-Authored-By: Deepanshu Bhatia <deepanshu@voereir.com>
Change-Id: I16d35e3c3a14b6b18901b6b27e50fc709ce0559f
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 4cbdef191c5c0f08043291f7c11167cd649880cc)

Set port_security: true in tempest_conf.yaml

It allows running
test_boot_into_disabled_port_security_network_without_secgroup.

It also sets a few default values.

Change-Id: I851c5d13705e0419a7e664e05d32eec0efb417c6
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 9e128dcdbf26ace6790e9c0307b7e6e37763f43b)

Fully remove Quotas.nova_update_and_delete

It was blacklisted for a while and it's still failing [1][2].
It has to be removed from scenarios (blacklisting is useless and could
mislead endusers).

[1] http://artifacts.opnfv.org/functest/BYERCT6UZDWT/functest-opnfv-functest-benchmarking-iruya-rally_full-run-227/rally_full/rally_full.html
[2] http://artifacts.opnfv.org/functest/LYQLHFQB7CTI/functest-opnfv-functest-benchmarking-hunter-rally_full-run-329/rally_full/rally_full.html

Change-Id: I9ccea90a70024b6e54d873024cf550db5beea990
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit c0f66abd6d97dc3ffa707e4fb02dc41fe7337653)

Remove former Rally blacklist

Change-Id: Ibc9aa210846ad2163f7ef943d224374dfff6f1ec
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 0374c91ac2d5af94d274d19ee37f995c48372cf3)

Update Xtesting to 0.86

It eases dumping all logs for third-parties.

Change-Id: I6055e85902eb41cce01f1502cd31d7ec489708d8
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 14a39e86860031bc19d114a8641a52148e1e829e)

Run tests sequentially in tempest_slow

concurrency is set to 2 in the upstream job [1] but it conflicts with
serial also passed.

As it fails once without any other test in parallel, the number of
executors should be decreased [2].

[0] https://799189c1bf6a1aa9c8de-48970bda2a30ee836a70a12e61555969.ssl.cf1.rackcdn.com/694893/1/check/tempest-slow/1bf5851/job-output.txt
[1] http://artifacts.opnfv.org/functest/functest-opnfv-functest-smoke-cntt-hunter-tempest_slow-run-7/tempest_slow/tempest-report.html

Change-Id: I51bc9a584cf4b32a88b7a84d9387e7b8e90281c2
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 83c3cc3f9b71de33cd1e88c11da4879156be7cf3)

Disable false ansiblelint warnings

git commit has to be executed via shell module [1].
It also update ansible to conform with the latest changes in
XtestingCI.

[1] https://github.com/ansible/ansible/issues/50334

Change-Id: I3cc7a675eddabb0cbd9834a9e64fe7389a11865f
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 36acd696022081c06a4d5f25ac13ea50cc5f1d2a)

Disable tempest serial_console testing

DevStack seems incorrect when configuring serial console in case of
multinode deployment (missing proxyclient_address in master, missing
socket in Rocky, etc). Then the testing is disabled.

Change-Id: I9d1d43017b0935b23ea2a939748b5f709212c70d
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 55adb2ddd6ee699c026e6f623e599f4d6cb322cb)

Verify Shaker results via json report

As shaker always returns 0, it verifies the records and returns false
after the first failure.

Change-Id: I9393be0c65d315c1ca055de9f7f994f9db22eadb
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 6b9e3d83030a6fe63d29bf679db93e4793700ee2)

Return result = 0 if failure in juju_epc

Else it's falsy successfull [1]

[1] https://build.opnfv.org/ci/job/airship-opnfv-functest-vnf-latest-juju_epc-run/42/console

Change-Id: Ic9f7c37db998904833c90ae3ee912e9908617abd
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit e03d0444b53d1a9eaeadf52f66fb69d35889d768)

Update Xtesting to 0.85.0

It fixes falsy hrefs returned by OPNFV Test API.

Change-Id: Ib6e7e7e35cf6ad581fb67692dcba561769686007
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 3b7311af247edfdc3b6aa61b56b3c2afa4722347)

Add swift scenario in rally

As for refstack_object, it forces swift in SUT.
Role is hardcoded to admin as for a few Neutron tests.

Change-Id: I0ae823fc8f31016d37831a82f7a50e92b2ed5f58
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 72a238d63d6e2e15eb74d02c3030663404c3872c)

Update package list before installing in CircleCI

It currently fails:
https://app.circleci.com/jobs/github/collivier/functest/189

Change-Id: I8d3e2f468c6c44fa2b680f0370100d2bcf786601
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 0ae9a065aefcb592c6a51b0004f98419d22fee0e)

Propose CNTT Compliance playbook

It eases building CI/CD toolchains everywhere veryfing the compliance
between CNTT Chapter 5 API and local platforms.

Change-Id: Ia5375031d5e8cafca808d52c71dde70f80e841e9
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 3259d7433b8315e0d4dce668c480f1a6594a5fc6)

Add tempest_scenario and tempest_slow in smoke-cntt

The testcases related to ipv6 are currenty not executed because they
cannot be covered by our SUTs.

Close cntt-n/CNTT#696

Change-Id: Ic0ca3818011bede965702e778f37752059c86173
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit a1c9756dbf867a6cfacffdecadbaf66c412c129f)

Add tempest slow

It conforms with tempest-slow-py3 executed in Neutron Gates [1].

[1] https://logs.opendev.org/68/672568/6/check/tempest-slow-py3/49fece6/testr_results.html.gz

Change-Id: I0c1c6f7be38c9fcdd1a32e5cfa2bc4d8414885e0
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit bbe35dc42e442fa2669a24e7927d389188e42b4c)

Add functest-benchmarking-cntt

It configures Rally to verify the mandatory services asked by CNTT.
It also prepares the next benchmarking (API and dataplane) KPIs.

Change-Id: Ie8701ddfa1a497f8b1a6f839e6ff7a77849b618c
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 92460cf5330c29eb483d903f3aa659cbad1d58b8)

Complete tempest_full for CNTT Compliance

It forbids skipping any test and counts the testcases executed.

It mosly avoids running tests accoring to the upstream skip tests
(known bugs), related to nova-network, glance v1, keystone v2 and
all features defined as optional by CNTT.

It fixes an issue highlighted by yallint.

Close cntt-n/CNTT#624

Change-Id: Ib4678cb9e9fc37b16fcf21d8418931eae0f667d0
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 21a0708799bd0fa61e086dc6f1c0f35c1450b55c)

Add tempest_full in Compliance

Change-Id: Ib2898d48d21704a06cf1f4574df81f4f0dae3f52
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 97dffc8fa0c297854d2cb96e10833c40a7c949fe)

Update scheduler_available_filters

Else few tests are skipped if DifferentHostFilter is not available.

Change-Id: Idfc524216dc8503e590d4fed569a43e99ea22123
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit c8a4d5f41f90dcbc60e3b276ed560b3b10be7bef)

Add rally_sanity

Gnocchi and Barbican are not currently selected by CNTT.
Then they are removed from the optional list.

Change-Id: I46d16b2cabd832b2655606b0708a6f43721cb3c5
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit d673cd586a464079c35660e828d81952f2707b4f)

Verify additional Nova features

Our SUT allows verifying the next Nova features
  - shelve
  - vnc_console
  - cold_migration

attach_encrypted_volume is now False because of ceph.

It writes the tempest default values to ease highlighting the overall
configuration.

Change-Id: Ib9ebc8e5b390ea99edf2c3aacbd873c5eb6e7abc
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit f196f59ef2f3f4e4eca3759dbfa725f035614d5b)

Switch to OPNFV Clearwater repository

Project Clearwater is backed by Metaswitch Networks [1].
They will therefore not be reinstating the 14.04 Project Clearwater
repo server.

Then all binaries have been compiled and published on
http://artifacts.opnfv.org/functest/clearwater/debian

Then it updates sources.list.d/clearwater.list

[1] https://www.projectclearwater.org/

Change-Id: I529e59f8aeeafb96bafb7da8a1cce5c4c5a9e031
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 0159c469d752fd41876c81995e113562650f73a0)

Set manage_volume_ref and manage_snapshot_ref

Ceph doesn't conform with the LVM driver and asks for modifying the
manage volume and snapshop refs [1].

It allows passing test_unmanage_manage_snapshot [2].

[1] https://opendev.org/openstack/tempest/commit/ebc752b59dd3e2164807930e31b313a92bce70d5
[2] http://artifacts.opnfv.org/functest/functest-opnfv-functest-smoke-latest-tempest_full-run-480/tempest_full/tempest-report.html

Change-Id: I8d3b2484ba5cbd203c32fa446fa27e17a80888d5
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit ce9e26333b6f70a8fbabb86f9987c3c320e0cc26)

Conform with latest SUT updates

Ceph is now used as backend which requires few adaptations for live
migration. It differs from the main OpenStack gates but suits CNTT and
most of the feedbacks received from enduser deployments.

Change-Id: If6b76a7d4ec09f90467f3e63618c15a9b413bfbd
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit f6d84155526f367c73a43a83aca31af9ecdcc51a)

Add tempest_keystone in CNTT API Compliance

It excludes test_federated_authentication as federation is currently
optional [1].

Close cntt-n/CNTT#624

[1] https://github.com/collivier/CNTT/commit/2e4ae5d0f4ebf4ef4bbc2504ed6cd46388361c09

Change-Id: Ie322e7912c429543c5da92f8afb33de3e8e75c8a
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 8384c497bd55b0e31e971b0e01b2f3744c07eccb)

Update Xtesting 0.84

It bypasses the current S3 compat limitation as proposed by google
(multipart upload).

Change-Id: Id702bf32e41e0d2ff904f1e22df1998857454106
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 4895057eef7f967194885fd794dc01e311ae56de)

Fix details in Rally

self.details is now a dict and summary is located under root [1].

[1] https://build.opnfv.org/ci/job/functest-opnfv-functest-smoke-hunter-rally_sanity-run/422/console

Change-Id: Ic89e674b2f6660704b9dafe6070a224753e2af46
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 07b6f59f209d4bdf7b9a722ac348f87f3bfce320)

Update to Xtesting 0.83

It supports mimetypes and then eases reading the reports from browser.

Change-Id: Ic38fca9fb05ca1ad76b589800b22bc78882c7806
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 9df8ee861d2161a105598474092e5e83da88a354)

Correctly override dir_results and res_dir

Both have to be modified else publishing artifacts fails [1].

[1] https://build.opnfv.org/ci/job/functest-opnfv-functest-healthcheck-latest-tempest_smoke-run/555/console

Change-Id: Ibd110e4b57cb443b12adea73f73c8cdf7f828652
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 793e17835b948be7c421d6b9e766878e82e56fa7)

Optimize lxml build if arm

Else it raises timeouts on travis-ci.org:
https://www.travis-ci.org/collivier/functest/builds/612068457
https://www.travis-ci.org/collivier/functest/builds/612116863
https://www.travis-ci.org/collivier/functest/jobs/612116916

Change-Id: Id34144ebcdf3f418d5a07068434eb7aa96b023d2
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 6fd2216a21aad00a0c6fba272f04ee0319fc119a)

Test identity project_tags and application_credentials

Both are supported by OpenStack and Functest gates.
It also sets the default values to highlight the coverage.

Change-Id: Iae080a8bde0c411acc7811e7a0e70e3471db8c98
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit c0069ab720070eaaa07f083e508ded5e89e39571)
(cherry picked from commit 041162760eb2b96fbe4baaed6971a90fb53421f0)

Upgrade cinder tempest plugin to 0.2.0

One test passing in 0.2.0 seems buggy in 0.1.0:

Can't revert volume 1c37f177-aef5-42f1-92d4-21dbd08777e7 to its latest
snapshot 7a9f97c1-86bb-4f99-9aeb-a4bdc45ae923. The volume size must be
equal to the snapshot size

Change-Id: I5d36c7e38bd58e1606b616550373f670b08b3bd7
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add tempest_cinder in compliance

It conforms with Cinder Microversions and Feature [1].
It cleans the testcases which require CNTT updates (Keystone, Glance,
Nova, etc.)

[1] https://github.com/cntt-n/CNTT/pull/577

Change-Id: I8e719e9f48d70a860c0f879117144bb3ce6f4875
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 91de272c725a9a4d9d5b97381e574802036da8b7)

Add keystone-tempest-plugin

It adds tempest_keystone which runs the tests proposed by
keystone-tempest-plugin [1].

[1] https://opendev.org/openstack/keystone-tempest-plugin

Change-Id: I83db584c37fe63a549ccf396b03e034778254b3a
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 22ec0c1008b81f368476d8cea84117a93d15dab2)

Add cinder-tempest-plugin

It adds tempest_cinder which runs the tests proposed by
cinder-tempest-plugin [1]. test_incremental_backup is disabled because
it currently fails vs Functest SUT (under analysis).

[1] https://opendev.org/openstack/cinder-tempest-plugin

Change-Id: I85b255eb05b9ab1c74c3829148da5230d6c7647e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit e46aa41172fa1bf63364505fbbf922323788ac98)

Update neutron-tempest-plugin-api regex (CNTT)

It conforms with the last updates in API [1] adding Neutron QoS and
Trunk as mandatory.

QosMinimumBandwidthRuleTestJSON is skipped as it's not covered by
OpenStack (and Functest) gates.

[1] https://github.com/cntt-n/CNTT/pull/463

Change-Id: I54ff5e1fdb9b1e7265c63e3f66dfcf2f10db07d5
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 0c07bc255968d21558d3aec8ac7e4dc7659a69a2)

Fix py version in path

Change-Id: Ie927a0abf9615a0a8f832b718622d022c5b0ca47
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 08c3ef387ff40fb0bd9d4a9579ecec4ab50f833c)

Add features volume testing

The next features are supported by Functest SUT:
 - backup
 - snapshot
 - clone
 - manage_snapshot
 - manage_volume
 - volume_revert

Change-Id: I0e83bb616a56b9e8651115bebf2373f85c642260
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 21dff047b6363c17a3fd56c4857df6b6e354eb67)

Set provider_vlans in tempest Neutron_plugin_options

Few tests are skipped if this value is unset.
Then it's needed to fully cover Neutron Trunk (Compliance).

Change-Id: Ife4becb7ff8b47c2d90fc6c5eb4f585685205ed6
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 2f7805141872eb52adfaa2545d547e6a72d96ca0)

Fix parent container in smoke-cntt/Dockerfile

Change-Id: I3e7cfd66f503d09f3a30b381fbeae9fa5a83cf68
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Buld cntt containers in a specific stage

They must be built after smoke.

Change-Id: I939ef6c4663ad940c9f1b95440980628c4880385
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit de56278767076c2edb00865d65b4d7495acb6d9e)

Publish functest-cntt-smoke

It tunes neutron-tempest-plugin-api to avoid skipping any test
(conformance as expected by CNTT). Until CNTT clearly defines the
optional and mandatory neutron extensions, it selects the
OpenStack and Functest gate values as default.

The next Neutron extensions are considered as optional (still verified
by functest-smoke):
- logging
- network-segment-range
- port-resource-request
- qos
- trunk
- metering
- uplink-status-propagation
- dns-domain-ports
- dns-integration
- router-interface-fip
- rbac-security-groups
- floatingip-pools

The next tests (tempest_full, tempest_slow, tempest_scenario, etc.)
will be updated in next changes.

Change-Id: I003d1e509cd6dc7bd58261f27676fb53cb79e68c
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 1456f68e90103afab958ae8a305c840e6fa29cf7)

Update to Xtesting 0.82.0

Change-Id: Ie94b35c9107c851bf0a412c1361629e0cf4154a2
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 74384557d789e000b43f1622124ba348c3a678a5)

Update Xtesting to 0.81

It contains a key fix about bucket creation.
It also changes the Rebaca link which sometimes breaks sphinx
spellcheck.

Change-Id: Iaa7c791ad9a70c9fb65288557c5c8e8cddb5f2d0
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 331877142ab37dd2c7a4b7ca773bb8e3c87d0012)

Update xtesting to 0.80.0

It allows publishing the artifacts via Xtesting.
It's required by the new Xtesting Ansible role [1].

It disables the pylint warning super-on-old-class which is falsy here
(xtesting 0.80 conforms with py3 rules).

[1] https://github.com/collivier/ansible-role-xtesting/commit/8c62525bb0d0b5f8dcc2c4436711d5d075de8811

Change-Id: I832e5e19467c7fd86a46574448faad4d6f2d4c0d
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit d0ee068c6e1c4a6e0a52156143a04feb6f9a78cb)

Pin sphinxcontrib-spelling (4.2.1)

Change-Id: I7587caf387c4fefbf382e56a3246fe1929854ed2
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 4e5ec2a6716789713917c99cb2efadbb72d2fc39)

Add spelling exceptions (travis-ci)

This words seem fine but it enforces the verification in travis-ci [1].

[1] https://travis-ci.org/collivier/functest/jobs/603020830

Change-Id: I44b8db5e63668899a27480a7f7da5d48f9f41f21
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 66631dfdbc2fcacc7a397ecaa6bcac9937177808)

Allow checking Tests count

It meets CNTT requirements (verifying conformance with a reference
implementation) and may protect vs synchronization issues (see gambia
refstack_defcore).

Change-Id: I842bc4ed91eec6bc545c489e3686d0d41dae7b44
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 7c67624b8ee7f7a9a7fb36bb25e9881a63c982d4)

Allow blacklisting tests if public endpoint only

It allows reusing the blacklisting system if only public endpoints are
reachable (ONAP Openlab testing). It contains a first list of
tempest-based tests which force the use of admin endpoints.

Change-Id: Ic1ab07dec3ae1f2a0ca50b80e08cd0ac396f2e56
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 9679178a1f99b38264a2afb56097700bef34868a)

Add neutron_plugin_options section in tempest.conf

It avoids skipping the next 2 tests [1]:
neutron_tempest_plugin.api.admin.test_agent_availability_zone.AgentAvailabilityZoneTestCase.test_agents_availability_zone
neutron_tempest_plugin.api.admin.test_networks.NetworksTestAdmin.test_create_tenant_network_vxlan

[1] http://artifacts.opnfv.org/functest/functest-opnfv-functest-smoke-latest-neutron-tempest-plugin-api-run-498/results/neutron-tempest-plugin-api/tempest-report.html

Change-Id: I83f3f44302336045e47514e0aa0b67737161f0e1
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 1e33a4884e3b7e49b2d4ae3725fe60b6fcfd5607)

Update Flake8

It avoids the next incompatibility:
ERROR: flake8 2.5.5 has requirement mccabe<0.5,>=0.2.1, but you'll have mccabe 0.6.1 which is incompatible.

Change-Id: Ic3bb14b032adfee64109549abc0a09d8cc86968f
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 4d98d29002bf3ce61e1671db0b35c9046e2fbd8b)

Check spelling in rst files

It fixes a few typos too and installs enchant in TravisCI and CircleCI
jobs.

Change-Id: Id5dbf5f926edc8b0b4e4337d11bf63e21ea7e173
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 83aa78773dd0fea7064b8fa9676c44c061dc5e66)

Leverage on Rally task tags

It avoids parsing rally task outputs which may hang (subprocess
communicate) as seen in rally_full and rally_jobs.

It simply selects test names as tags.

Change-Id: I88b54a8f155e557f8a606fdbd7d86c1f4d5dae3b
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 74df72ec294998787a8f0af5e2084db91ba0778b)

Count all hypervisors by default

If one hypervisor is down, few tempest test fails.
User is free to set SKIP_DOWN_HYPERVISORS if it's down on purpose.

Change-Id: I7b6a4d0d8f67755d8c1550fd1bc6fd707634f68b
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 7332716dc835cd72b0beefc38afda2697bd99e02)

Update Shaker image (1.3.0 + Debian Stretch)

It udates Shaker to 1.3.0 and switches to Debian Stretch as base image.
It also eases debugging as ssh basic auth is enabled (shaker/shaker).

The arm image has to be built before enabling the testcase for arm.

Change-Id: I894bae86c7e8f7cafbba2b4e00e3334afed0b6e2
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 574243656df6acae28094c62f33410ef1fc3e7b5)

Update rally versions to detect cinder endpoints

It mainly backports "Update rally-openstack to support block-storage"
[1] to fix the issues when cinder enpoint is missing (reported by
Dovetail and Orange).

[1] https://gerrit.opnfv.org/gerrit/c/functest/+/67614

Change-Id: I3369d2063e8829f1f0881a757f1f91c187127e23
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Ease debugging Shaker

It turns Shaker debug on to ease troubleshooting it.

Change-Id: I7f24a8d3776742d569d2d47a60d6985584514014
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 8c65928cc7346af2d6cd00a3aa9924ce6d158c83)

Merge "Count all active hypervisors" into stable/hunter

Count all active hypervisors

Else tempest_slow fails if one hypervisor is down (detected in ONAP
Openlab). It also improves Shaker, Rally and Vmtp which count them.

Change-Id: Iee7c20e0357d9237501c5c451580d8f6409ac86b
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 22b37f0482f84fc935ae9ece3c9722098c0573bc)

List services via OS_INTERFACE in Rally

Rally now leverages on list_services as proposed in utils [1]

[1] https://git.opnfv.org/functest/commit/?id=0837a745c81ed2a6e7df097f60d227d5997c805e

Change-Id: Ib17f9b530c2933d4a49eb5b744c2ae80b24ad560
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 9d839eb3a0109609513c23f9362573ae3aed0904)

Fix falsy links

It completes the previous commit "Allow getting service via any
endpoint" [1].

[1] https://gerrit.opnfv.org/gerrit/c/functest/+/68542

Change-Id: Ib396ed75e2385f99bce51e09d37f7f05808b5b5e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 07f4468978fdc43d7a9885f6e4efa87b5e83d2a9)

Allow getting service via any endpoint

It overrides the default implementation provided by Shade.

Change-Id: I3ad2f8ba543be4483f108c4bd7765018dddc5b19
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 44d577770f19136483b3d48aa627b035513e27b5)

Swith to coreutils timeout

juju is not correctly stopped when no internet.

Change-Id: Id06c6e829ab8a992107f655aac6ec4539e292d82
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit cda22d7db0bcca380e1caef76e171cd7753b6221)

Merge "Print OpenStack version in connection_check" into stable/hunter

Print OpenStack version in connection_check

Functest is becoming very used and sometimes vs older OpenStack
releases (ONAP Openlab). It will ease debugging and easily find
backward incompatibilities.

Even if that value could be checked for OPNFV Release Management,
testing older SUT is not considered as false from a Functest statepoint.

Change-Id: Idd782cc98ec4d36f726e233fc5d011308e9d6b71
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 3cec072a2fdd7d814e8597d363f417e01df89ef8)

Remove any cores quota in tempest_scenario and shaker

Both can reach the default limit if lots of computes available.

Co-Authored-By: Vincent Huet <vincent.huet@orange.com>
Change-Id: Ifd8a1080a08f55bf4b0efe1858e79fa4aff75895
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 48c819f97d53b558e7be02f7f0eb5b2f72cabcac)

Add punctuations in password generator

It adds a subset of string.punctuation to conform with a few
password rules (see ONAP Openlab).

Change-Id: I7751031bcb9b908d4162d70f8acaa4bdc87e3c79
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit cf052c809b027d6167c93399715bcd330cc0782c)

Harden OS_ env vars for VMTP

VMTP doesn't take into account domain ids and then forces the use of
domain names (detected when verifying ONAP Openlab).

It prints the next warnings and then fails.
2019-09-14 08:43:50,162 WARNING OS_PROJECT_DOMAIN_NAME is missing
2019-09-14 08:43:50,162 WARNING OS_USER_DOMAIN_NAME is missing

Change-Id: I283d86ac0d96071480eefb571da9f2ff92705b08
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit d0ce372aeae75c099ade1b742b2bbd826ddb0380)

Remove any instance quota in tempest_scenario

The next testcase can reach the default limit if lots of computes
available [1].
tempest.scenario.test_server_multinode.TestServerMultinode.test_schedule_to_all_nodes

[1] http://artifacts.opnfv.org/functest/functest-opnfv-functest-smoke-hunter-tempest_scenario-run-325/results/tempest_scenario/test_raw_list.txt

Change-Id: Ibf68e2a367199afee3f6198ebf683be6cd938d94
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit bbe8c3e48543eca31493cf33b02e1d9a48de2280)

Allow skipping list_services

Shade forces the use of admin endpoints when listing services [1].

A new env var is added to allow running Functest when only public
endpoints are reachable (e.g. testing from a VM as proposed for ONAP
integration).

It seems the best approach as list_services provides key data and
we do avoid blocking requests.

It seems easier and more generic than listing all calls in
testcases.yaml.

[1] https://github.com/openstack/shade/blob/master/shade/openstackcloud.py#L9956

Change-Id: Idcbe5d364f4230ffe1da34e7da0e99e863f15c5e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit f3072c8b1f32feacc9785165477efee9a328eb2e)

Blacklist boot_and_associate_floating_ip if no floating ip

Change-Id: Id907abff44490a57e8ec2cdb00396d9e4b422815
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 48a9f1d3ad295d30c8e80a1117830da4bdc57420)

Blacklist create_and_delete_stack if no floating ip

One HeatStacks.create_and_delete_stack call asks for floating_network.

Change-Id: I75d01b4ecb1f484eac3af6efc53cf4a94206b158
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 9ceacae40f638695472d5c6dadf3ae2c3521bd81)

Prevent occasional rally hangs

Set timeout on subprocess invocation instead of spawned child process.

Increase the timeout value for rally_full to 2h since the execution
typically takes ~90min [1].

[1] https://build.opnfv.org/ci/job/functest-opnfv-functest-benchmarking-latest-rally_full-run/22/

Change-Id: I0ca90bc2d85b4625336eb0396d8b2816a486b746
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>
(cherry picked from commit 9f07e41cc85f3dbe6e5eb151a0c59743521a6c00)

Merge "Switch to the classical ping (iputils)" into stable/hunter

Support regex in tempest blacklist

The expression both in the test cases as well as applicable scenarios
support regex in blacklist.

Change-Id: Id76297a1cfbf908bda67641bc7ba686db83d76e6
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>

Switch to the classical ping (iputils)

Ping provided by busybox doesn't support -M (pmtudisc_opt) which is
asked by [1] (part of tempest_slow).

[1] tempest.scenario.test_network_basic_ops.TestNetworkBasicOps.test_mtu_sized_frames

Change-Id: I75340f239ae372b56cffe9c30c6242878c06ef74
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 4ba4fac64df972d805bf7e88e9b5a987724e2aa9)

Conforms with latest changes in Xtesting ansible role.

It selects the generic way to set execution-type [1].

[1] https://github.com/collivier/ansible-role-xtesting/commit/292ab576fb8f0a13519bacc5ec46561a3ed8f838

Change-Id: I75e57f05d99381c9d0608aa4a88f0b12d9b6a9cf
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit c9c61b560d88b929de3457276a6372583c45f924)
(cherry picked from commit b44b6d717fc92904d4c70d4c26bdad4619929160)

Clean orphan security groups

It removes all security groups which are not owned by a project.
This approach seems suitable as it works even if dynamic accounts
(tempest and rally). All other OpenStack resources are still
removed by the underlying framework.

It lists all orphan security groups in use as debug to avoid
misunderstanding the testcase results (it could happen if cloud admin
removes accounts without cleaning the virtual machines).

Change-Id: I033d96e077b4277d59233a3de4ca6d41ed91f743
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 1e36927d4f17775c3f3ca3201b36e153ff9fd0da)