Update and enable Cloudify-based testcases

It switches from the Cloudify virtual machine to the community
container which allows deploying vyos_vrouter and cloudify_ims.

Last stable Cloudify OpenStack plugin (2.4.17) is now deployed.
It also updates the Cloudify python package to latest release.

It adds a delay before deleting the blueprint which may be
improved in a second change (it allows enabling the testcase in
the stable release).

Change-Id: Ie48a2c9d2badab0d7ba0b9e7845f453fad335ef7
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 97dde581982b9d49122aee3630328fb6064c8609)

Increase juju_epc timeout

It fails 4 times in functest-virtual (out of 34) due to a possible slow
bandwidth (e.g. [1]).

[1] https://build.opnfv.org/ci/job/functest-opnfv-functest-vnf-latest-juju_epc-run/24/console

Change-Id: Ie1aa69464f8dd0fa1a15900e7d49576368187a44
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Remove tempest_smoke from smoke

It completes "Move testcases in the right tiers" [1]

[1] https://gerrit.opnfv.org/gerrit/#/c/66863/

Change-Id: Ic2e6ebf9371de87caafbfdb54029a24440e6fd5b
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Move testcases in the right tiers

Here are the moves:
  - tempest_smoke in healthcheck
  - tempest_full and tempest_scenario in smoke
  - rally_jobs in benchmarking

It avoids conflicts between benchmarking tools and few functional
tests (short timeouts).

Then it should allow running in parallel all testcases in one tiers.
It also allows cleaning the additional steps defined in releng.

rally_full could move in benchmarking in a second step.

Change-Id: I0bc657557a61c7d9bf7679b4f2dbda08c36728ca
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 1d0f0bbf773aaaf7139b76442a9e59d13bd32830)

Update Cloudify images

The former image can't be downloaded and then breaks all gates.
It will be completed by changes in vnf if needed.

Change-Id: Ie364aa2315257157a5e09eb4ba121926a60e7b26
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit f501b520f80d573a77cdae941fe19db216b94307)

Override tempest upper-contraints

Change-Id: Ieadf7ec3d1b05eefa6634db5f3d0ea264e9994af
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Update tempest to fix interfaces_by_fixed_ip

It includes [1] which allows testing even if one shared network is
defined.

[1] https://review.openstack.org/#/c/615425/3

Change-Id: I8bd72ad351a3702e9f72014a1ae43542e5d8e927
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Remove CreateInstanceVolumeTests (snaps_smoke)

The volume and the virtual machine created are not deleted.

Change-Id: I238fcb0839a2f609333080bc8c88b84327d51475
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 14d26a963665f17dc01d95bb996e1ae91ac44f03)

Decrease volume_size in all Rally tests

Devstack allocates a 24G disk image by default [1].
It can be easily reached by setting volume size to 5G or 10G.

[1] https://github.com/openstack-dev/devstack/blob/master/stackrc#L779

Change-Id: I7c35d8f333718d6c192a9f12a714e626d60b1895
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 890d9a764bf88752d36983802f375d5e29c2bee2)

Allow running latest tempest_full

It allows running test_user_update_own_password [1]

[1] http://artifacts.opnfv.org/functest/functest-opnfv-functest-components-latest-tempest_full-run-8/results/tempest_full/tempest-report.html

Change-Id: I9f273ba58871f1e16886af623dcbb91f5c20c2f6
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 9cd8ca6db84fd80f17b2d9c37d66d6a861130e7a)

Wait for apps being active (juju_epc)

It seems that juju-wait doesn't wait for all apps.
Juju_epc passes in functest-virtual thanks to that additional tries.

Change-Id: I161902c6308cfa6323c21e09140d16e036768ece
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 900b51c6885339c68cd0762f2b10363c436fbafb)

Clean project/user if snaps tests are skipped

Change-Id: I88a58516a3620cc6b19013313672ad1a80791e70
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit c9b7fe1da2432581d30bb166d381ac72fce33e97)

Merge "Stop using urljoin when adding v3" into stable/hunter

Merge "Set Gnocchi scenario as optional in rally tests" into stable/hunter

Remove Snaps NeutronUtilsFloatingIpTests

It has been fixed in Snaps [1] but we can't sync its requiremets [2].
Then we have to remove the test.

[1] https://gerrit.opnfv.org/gerrit/#/c/66625/
[2] https://gerrit.opnfv.org/gerrit/#/c/66627/1

Change-Id: Ied405092cb4992bc04ca13c1536d1e8cee056ace
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 17b788c5340e7d76f6c37397cd8aa35c8db3f4c2)
(cherry picked from commit bda196b00cd7567aad33bde12f66536bd1143bc3)

Stop using urljoin when adding v3

urljoin works here only if url ends by /.
It replaces identity by v3 when running vs devstack.

Change-Id: Id896f2b54dfcabadaad1137deef91b1cb07c697d
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 9e4e6f049fa7d5cce8db61dfa2ebebc55f91c1d8)

Set Gnocchi scenario as optional in rally tests

The execution of an optional scenario is skipped if the corresponding
openstack service does not exist.

Change-Id: I8721f26ebc253ce02138b85d6c88e659c5afae80
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>
(cherry picked from commit 3b7b393ca643bcf7db0361bcc4414b74fff953be)

Remove test_get_endpoint_with_each_interface

It checks all 3 endpoints for image but nothing forces to define them.
Here is the only endpoint created by devstack.

glance      | image          | RegionOne
            |                |   public: http://192.168.1.10/image

[1] keystoneauth1.exceptions.catalog.EndpointNotFound: internal endpoint for image service in RegionOne region not found

Change-Id: If501b849fbbed6df98742db21e924094c1df9c7f
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 9675c5a0cb2ccd698451a5930708263be5eba527)

Slightly improve heat_ims

It increases timeouts which could be reached if shared bandwidth
(functest-virtual [1]).

[1] http://artifacts.opnfv.org/functest/functest-opnfv-functest-vnf-latest-heat_ims-run-4/results/functest.log

Change-Id: I29adcd9ea88bbccbaef9ba7f8e155d37a3217433
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 9bb9d8d495317fe7e3aaeb7082d9662f211eafec)

Force the right external network if juju

It may select a falsy external network [1].

[1] https://build.opnfv.org/ci/job/functest-opnfv-functest-vnf-latest-juju_epc-run/4/console

Change-Id: Ic403d0cfb4bc829275617d6b1338311e8e7ea894
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit f28094ae0ecfedc3c7c3f32cc1cfc1eff12ea773)

Fix one typo in docstring (tempest.py)

Change-Id: I46053c92660139f4004d9cec8d1cfb6817cc0e07
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit bf976b4f606860630ffa967fe70a36a7e5954828)

Take control over Rally logics

Rally selects the first external network [1] which could raise side
effects if:
 - another testcase is creating a dummy external network in //
 - all external subnets are not reachable from jumphost
It's now overriden by EXTERNAL_NETWORK as defined in Functest

Rally creates a new shared network if one already exists [2].
As juju now allows other shared networks, it can be safely created by
Functest to allow only one logic and to handle provider networks,
different name servers, etc...

[1] https://github.com/openstack/rally-openstack/blob/master/rally_openstack/verification/tempest/config.py#L146
[2] https://github.com/openstack/rally-openstack/blob/master/rally_openstack/verification/tempest/context.py#L85

Change-Id: Icf8c08077d4b0a9eb1c2e1b7309c62957b0a3b63
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit ee52195f4476d3debf9c3f92c6d808256a199500)

Move logics out of TempestCommon.__init__()

It conforms with best programming practices.
It allows muting console and increasing log level (debug).

Change-Id: I0e0cfef6abe3b354a43817fcb242c71da701e237
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit b482b494ce695e83cca0a10e7750200fd1be42ea)

Remove former ci jobs

They can now be generated via the new ansible role.

Change-Id: I7746d08b940e8d6906cb023c39bc87d8dee441cc
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 12023f6a1a040c07f805553a1f5c65ab3940d638)

Remove fds in all branches

FDS didn't participate to Gambia.
Removing it in all branches avoids compexifying the jjbs.

This patch will be reverted as soon as the support is ready.

Change-Id: I9fb293b2972e0deb318ac9d3d08377039ea247e4
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 2fd07adb36288e9247ad73a7344340c36754132e)

Check if key exists instead of leveraging on update_if_exists

It seems falsy (see line 72)

2019-01-07 11:50:32,550 - functest.core.cloudify - DEBUG - try 9: Cloudify Manager isn't up and running
Traceback (most recent call last):
  File "/usr/lib/python2.7/site-packages/functest/core/cloudify.py", line 72, in execute
    "foo", "bar", update_if_exists=True)
  File "/usr/lib/python2.7/site-packages/cloudify_rest_client/secrets.py", line 86, in create
    response = self.api.put('/secrets/{0}'.format(key), data=data)
  File "/usr/lib/python2.7/site-packages/cloudify_rest_client/client.py", line 263, in put
    timeout=timeout)
  File "/usr/lib/python2.7/site-packages/cloudify_rest_client/client.py", line 224, in do_request
    verify=self.get_request_verify(), timeout=timeout)
  File "/usr/lib/python2.7/site-packages/cloudify_rest_client/client.py", line 158, in _do_request
    self._raise_client_error(response, request_url)
  File "/usr/lib/python2.7/site-packages/cloudify_rest_client/client.py", line 119, in _raise_client_error
    response=response)
  File "/usr/lib/python2.7/site-packages/cloudify_rest_client/client.py", line 131, in _prepare_and_raise_exception
    status_code, error_code=error_code, response=response)
CloudifyClientError: 409: <Secret id=`foo` tenant=`default_tenant`> already exists on <Tenant name=`default_tenant`>

Change-Id: I6f4e2719ad2e55e997ebbd158dce4c6a204b2c36
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 73f4aee1a22e502a7775a9be43829174f18fbc84)

Print traceback as debug during cloudify tries

The traceback is printed as debug to avoid priting the first
unsuccessful tries in console. It will ease debugging issues as for [1]

[1] https://gerrit.opnfv.org/gerrit/#/c/66253/

Change-Id: I89992ea4452b24788cc06dec4c384a263b704efb
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 9ba1fe31f31a3381eef29d820c688feb2c51a7cb)

Prevent from CloudifyClientError (key already exists)

It has rarely occured in Orange Openlab [1].

Traceback (most recent call last):
  File "/usr/lib/python2.7/site-packages/functest/core/cloudify.py", line 70, in execute
    self.cfy_client.secrets.create("foo", "bar")
  File "/usr/lib/python2.7/site-packages/cloudify_rest_client/secrets.py", line 86, in create
    response = self.api.put('/secrets/{0}'.format(key), data=data)
  File "/usr/lib/python2.7/site-packages/cloudify_rest_client/client.py", line 263, in put
    timeout=timeout)
  File "/usr/lib/python2.7/site-packages/cloudify_rest_client/client.py", line 224, in do_request
    verify=self.get_request_verify(), timeout=timeout)
  File "/usr/lib/python2.7/site-packages/cloudify_rest_client/client.py", line 158, in _do_request
    self._raise_client_error(response, request_url)
  File "/usr/lib/python2.7/site-packages/cloudify_rest_client/client.py", line 119, in _raise_client_error
    response=response)
  File "/usr/lib/python2.7/site-packages/cloudify_rest_client/client.py", line 131, in _prepare_and_raise_exception
    status_code, error_code=error_code, response=response)
CloudifyClientError: 409: <Secret id=`foo` tenant=`default_tenant`> already exists on <Tenant name=`default_tenant`>

Change-Id: Ic61d0c729f13caa552a0b0a00dad35e50d130e01
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit b8a115906e4f6e598e7e1f1b59e2b1fb201af6a5)

Merge "Publish "Functest on steroids" (Plugfest-Gambia)" into stable/hunter

Switch from port to dport in site.yml

port is reserved in ansible

Change-Id: I87842857514e8fb589e565ece83552418a93c550
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 0f440f10bd1567c76720e106813908e01f288ad4)

Publish "Functest on steroids" (Plugfest-Gambia)

It will be completed by demos:
  - deploy your own Functest CI/CD toolchains (Functest bot)
  - deploy your own CI/CD toolchains for your test case
  - run Functest on Raspberry PI

The presentation is avalaible in [1]

[1] http://testresults.opnfv.org/functest/gambia/

Change-Id: If69f11a3f7dde070e3af0f8a5b082b5ec1443bbb
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 6a31d033b8aef014e62cf6f94f2f98358ed99b90)

Update reveal.js to 3.7.0

Change-Id: I198c757a7bda86c2d87d746aa3d1846be395c987
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Conform with new tag configs

It allows generating gate jobs.

Change-Id: I741da199bca7617e73eb1e4638fcb4139b872141
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit eaaec1d3083ba4d579a77345de219409048ee9d7)

Disable nose html output plugin

It doesn't run vs py36.

Change-Id: Ief5b6ac58a1c2e8aa840362433d94d403e6b52c5
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit f89763ed82a429e83a903895eea037bd1c8bd064)

Update Xtesting to 0.61

It now generates html reports for unit tests (snaps).

Change-Id: Ica8fab2b383723957c1068c5accbcab9568002ac
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 98ee1837b939f32c2c3bc17787065d0bf0a22c3f)

Fix nits in ansible/site.yaml

Change-Id: Iab87d6b3d8acd07c400ce800e76a4dd82ab7b7d5
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Verify Ansible playbooks via ansible-lint

Change-Id: Id8b4553f5d36a52086433f00ce9f846a30212d66
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 471d030673b2008502c3f5d83d1a16743695bcf4)

Allow pulling Neutron reviews or tags

It updates smoke/Dockerfile to allow pulling Neutron reviews/tags
(rally_jobs).

Change-Id: Ifc10eebb444bfe2c3e1fb47a9bd52d8a4f8a7007
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 2d0c8cb6eaf10b7c712335beb79fae726ea3a965)

Deploy Functest CI toolchains

It eases verifying OpenStack by deploying the full testing toolchain
via Ansible. As opposed to the Releng model, all tests can be executed
in parallel.

It leverages on Xtesting Ansible role which currently deploys
Jenkins, Minio and S3www and loads all jobs in Jenkins.
Last components (MongoDB, TestAPI and dashboard) will be deployed in
the next update of the ansible role.

To deploy the testing toolchain:
$ ansible-galaxy install collivier.xtesting
$ ansible-playbook ansible/site.yml

Change-Id: I260806c1d19562891d2ed9c52ba37a82bf60792e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 800802114f822eb9be7bfe06c929b655148ff197)

Fix NEUTRON_RALLY_TAG in smoke

Change-Id: I4f6fbbef814a5b45aeb3b6152878421fc6e998bc
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Remove duplicated code in vnfs

It mainly leverages on functest_utils instead of duplicating.

Change-Id: I97dc9215a835d3e7f1527b565132f667f09f2b7e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 555956f1d19800114a6f422de78816859aaa7bdc)

Remove Snaps NovaUtilsInstanceVolumeTests

It doesn't clean its resources and then breaks the gate after multiple
runs. It's the only way as Snaps is inactive and pinned in Functest.

Change-Id: I5bb8707edaf998b91b8d5642b48465d4247cf8e7
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 2e278acd3797f71d04500b3e9892a1769044b682)

Fix an invalid class name (vGPU)

Change-Id: Ifff9eff1984846937920124ad0a7790e20593b25
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit d263576bd9961b4177080ff75844d0ed47dc886a)

Stop cleaning role

Functest may create default role if member doesn't exist.
It cannot be removed at the end of the testcase as it raises side
effects when testing in parallel.

Change-Id: Ief552f450a34b4aeda045b0c5d5f237ed77f3643
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 79771aaf65fd6eb93e318c472d72d5fad6561bf1)

Rename Rally blacklist.txt to blacklist.yaml

It eases editing it or verifyfing it via yamllint.

Change-Id: I380830eff5f404745e284067b5a10f58dc60b80e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit f600874cef933a2077a51bb334365a861e6fbb48)

Fix cherry-pick mistakes

Change-Id: I891a8bb9f1440688dd17bda750d6e9fca17eb7a6
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Switch to Clearwater Zamin (heat_ims)

Zamin is declared as the first "stable" release.
Cloudify descriptor is not ready for the update.

Change-Id: Ibfd2e3a226e1a547dd8c4e32ff998bac007f10a5
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 3ac3d8d6f725b76ccb22a730cd802f36f75c8b90)

Protect vs build-args not consumed

BRANCH is useless in case of components which only inherits from tempest.
The build could simply fail depending on the docker version [1].

[1] https://build.opnfv.org/ci/job/opnfv-functest-components-latest-build/1/console

Change-Id: I7fe0c5bf8373e61a658153fda3d3a4bd233f6bc0
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 284e30415fdec9c1a17c7f0b0b023fb0bbf045ce)

Add anchors in ci yaml files

It eases foctorizing between releng (1 multijob only) and functest
jjbs.

Change-Id: I72deb86d155a1da7e0d8bf0f76992e7b6dd6cfad
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 5a846fceeeb61b8586ab28f1d48322434cdb67a4)

Check if at least 2 hypervisors (Shaker)

Shaker is now skipped if only one hypervisor.

Change-Id: Ib3f803ab61e66e0daba0622ead0c1bf0905d0cce
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 07a5762fd3e929a50c49785f2e583dba20a0ba4a)

Check if at least 1 hypervisors

Vmtp is skipped if only one hypervisor.

As Vtmp returns 0 when all is skipped, it protects vs issues when
generating charts.

Change-Id: I5ea7c31c0688ae773425d2192a4f30a22360185f
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 396b3d8a7a9036ae3a8a8443b489654d3a2dd3cb)

Merge "Disable agent testing in tempest-based testcases" into stable/hunter

Remove snaps ansible test cases

They can't work vs all OPFV scenarios (MTU doesn't conform with Geneve)
and are deprecated. Updating snaps commit id [1] breaks all gates
closed to Gambia release.

[1] https://gerrit.opnfv.org/gerrit/#/c/64515/

Change-Id: Ie4a7a694703642a74b731a4142a5c8c029f7e661
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 24a7b14c20ad96f10db0d8bfa6187c1b7c9737b9)

Revert "Update Snaps commit id"

This reverts commit 68980ac76c433b1445e863bdedf3d0823bb66d63.

Change-Id: I842271e7be13a9e74fe38ae83d7fef03e8ba530c
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Disable agent testing in tempest-based testcases

It blacklists agent testing and two tests asking for VXLAN as overlay
if OVN (OVN supports GENEVE) [1]

blacklist.txt is renamed blacklist.yaml and is verified by yamllint.

[1] https://build.opnfv.org/ci/view/functest/job/functest-apex-baremetal-daily-gambia/33/console

Change-Id: I73c1b8cbbd74973a7f15476feea6ee4532786660
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 3b07c3e741e0e64603d01afc651176aa2fc52391)

Update Snaps commit id

It updates Snaps commit id to allow testing OVN [1]

It should be noted Snaps doesn't create any stable branch.
Then this patch can be cherry-picked asis in all branches.

It takes the package renaming into account.

[1] https://gerrit.opnfv.org/gerrit/#/c/64515/

Change-Id: I1dbfe9a68c8448d117b7b074cf2b4ac64b65e139
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 1c2663063db356cebd1d156abf89d47a15b4eb1e)

Merge changes If9b61064,I0490eade into stable/hunter

* changes:
  Increase Vmtp timeouts
  Run vnfs in all scenarios

Increase Vmtp timeouts

It now conforms with other testcases booting ubuntu images.

Change-Id: If9b610646ee5dcb2eb002d74dff8e1a797a4f232
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 023a4c7d0cb85d3b624ee946097e721880169371)

Run vnfs in all scenarios

It allows fair comparisons between scenarios (e.g. ovs dpdk).
os-nosdn-calipso-noha could be verified VNFs as well [1].

[1] https://build.opnfv.org/ci/view/functest/job/functest-apex-baremetal-daily-gambia/32/console

Change-Id: I0490eade81c531e38ce7156a61446a9fccaffb17
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 61b708cc0987bf48d07df9d46ed25e4b42c15efc)

Override tempest_conf.yaml in ci jobs

It also removes STORAGE_PROTOCOL (env var) which was removed.

Change-Id: Ib0f388f20c52ebf2409d2aca0bcba5c641287b40
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit e715a8309122c3fa3b4983cfa53c82519dd6ead7)

Prepare OPNFV Functest releases

It sets version to 8.

Change-Id: Iedf689497256ec10edec7c1b93e8426a3be0ce13
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Move tempest logics in tempest_conf.yaml" into stable/hunter

Update rally and rally-openstack tags

It switches from commit id to tag in case of rally-openstack.

Change-Id: I0316f33e960b1ddc50acdae20603eeeaba3e6942
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Move tempest logics in tempest_conf.yaml

It allows removing OPNFV logics out of Functest (releng) and then
simplifies conf_utils.

tempest.conf is filled by the current default values.

functest-alpine.sh will be updated to allow modifying the default
values without breaking the OPNFV installers.

It deprecates the only tempest-related env var (STORAGE_PROTOCOL)

Change-Id: I14bcb715826ef2d85af87e7af600261a3c08e72c
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 3872290bb673513459588bbe83e65efc631615f7)

Temporarily disable Cinder volumes backup tests

From the time being, all OPNFV installers [1][2][3] don't support
Cinder volumes backup.

We will find a better way to handle the lack of OPNFV requiremements
(these tests pass succesfully in Orange Openlab).

At least, it will allow verifying tempest_full in OPNFV gates.

[1] Apex: https://artifacts.opnfv.org/logs/functest/lf-pod1/2018-10-25_02-17-25/tempest_full/tempest-report.html
[2] Compass: https://artifacts.opnfv.org/logs/functest/huawei-virtual9/2018-10-24_04-54-25/tempest_full/tempest-report.html
[3] Fuel: https://artifacts.opnfv.org/logs/functest/lf-pod2/gambia/2018-10-25_05-57-54/tempest_full/tempest-report.html

Change-Id: I319536070aa77a5dbab6a692a1d76049f75e758b
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 7cf46992c7f3e854b038f6f17a279d65108aa764)

Temporarily disable VNC tests

At least Compass and Fuel configure Spice as console [1][2].
It disables vnc testing as it could fail for endusers as well.

[1] https://artifacts.opnfv.org/logs/functest/huawei-virtual9/2018-10-24_04-54-25/tempest_full/tempest-report.html
[2] https://artifacts.opnfv.org/logs/functest/lf-pod2/gambia/2018-10-25_05-57-54/tempest_full/tempest-report.html

Change-Id: I2a1ecf345cb81170c1b1a3e49f8f3a58602fc3f0
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit df9d5c5d3b80b613130de59a1810f7fce9cbbc0d)

Revert "Temporarily switch to collivier/abot_charm"

This reverts commit 204835a691869dc22031d207787f83a2a2937b0c.

Change-Id: Ib64c3bd331f412692de3cac3ddff3b18e6bf819a
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Temporarily switch to collivier/abot_charm

It hosts a key fix which should be merged in the right repo.
This patch can be safely reverted as soon as [1] is merged.

[1] https://github.com/RebacaInc/abot_charm/pull/3

Change-Id: If98d163ecd2ce6b50c08d8dad886c0d4b2c39a34
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit d2c129f8319503a8fabe5b87c71737845f06ab36)

Disable Glance API v1

It has been deprecated since Newton [1].
Even if the related tests are skipped in latest tempest [2], API v1
has to be disabled in Gambia's tempest.conf [3].

[1] https://docs.openstack.org/glance/latest/user/glanceapi.html
[2] https://artifacts.opnfv.org/logs/functest/lf-pod1/2018-10-22_02-34-24/tempest_full/tempest-report.html
[3] https://artifacts.opnfv.org/logs/functest/lf-pod1/gambia/2018-10-23_10-34-07/tempest_full/tempest-report.html

Change-Id: I3b6bb632412c0fecaa659da262760af64d79fa71
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit dddd8073c97ca09937504cb10c1a7be2a0986380)

Overprotect vmtp vs unversioned OS_AUTH_URL

It simply adds v3 to OS_AUTH_URL if required.
Vtmp should be updated to manage unversioned url [1].

https://build.opnfv.org/ci/view/functest/job/functest-apex-baremetal-daily-master/371/console

Co-Authored-By: Juha Kosonen <juha.kosonen@nokia.com>
Change-Id: I4806e811c0714b061b77f940934830cfb1835d74
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 5ac878fe7cccbfe5cb829488d0aedc307dd42885)

Harden Rally generate report

It converts html_file to str and raises all possible exceptions.
It sometimes fails when locally generating reports.

Change-Id: Idf6a12aaac4561800cd5e364f8bcc495aabbee1d
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 4d3627e56d333e313b67bbf1e7880b11883b5652)

List neutron exts and service providers in connection_check

It eases debugging as well [1].

[1] https://artifacts.opnfv.org/logs/functest/lf-pod1/2018-10-20_12-23-41/patrole/tempest-report.html

Change-Id: Ie9ddc280fc239c5e0887347d434839940e7a3240
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 87f5db13d594075903face649f877478edb3b285)

Switch SCAP url

The former link is unreachable 502 [1].

[1] https://build.opnfv.org/ci/job/functest-verify-unit-tests-and-docs-gambia/96/console

Change-Id: Ibc865a4d367fdc48505e9b4ebe674f63cba8b8e1
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit bed550d1971dbeb7d2f237d9630f24b4bc49b0b6)

Temporarily disable py36

Build servers haven't been updated yet to support py36.

Change-Id: I6e396f944e7226d682a58c8e74ed136e0b55d2cd
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 6c65f82b3571550229566be3c6b9490741018502)

Remove Functest gating

It would make confusion to print OPNFV installer results as they are
not so good.

Change-Id: I5b1cf2144090cb3b6090a23e0b3022a62733ea53
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 3ca122e853d9a5208867d619eb52d99008de39b9)

Move LF doc files into a new dir

rtd forces conf.py to be in the root dir.
Then it moves all LF files into a dedicated dir and reverts rtd
config.py.

Change-Id: I181c76c2b06df630aedf5b9fd96415ab9b23d9e1
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 0d0f0d5e5f18cbb91c0119b16e737815a7756277)

Fix links to remove references to submodules

It forces one single documentation.

Change-Id: I47edd947885a4c3fb9e6579cf61fa7473b47ba31
Signed-off-by: Aric Gardner <agardner@linuxfoundation.org>
(cherry picked from commit a4990a60c9b8e499e698fab28f9368816e50c6f7)

Merge "Ease configuring extra specs via env vars" into stable/hunter

Ease configuring extra specs via env vars

Ease configuring flavor extra specs, as well as
image extra specs.

Set environment variables for image_properties and
flavor extra_specs for ovs|fdio scenario from the start.

Image extra_properties and flavor extra_specs
will continue to get updates from functest config file
but so will from IMAGE_PROPERTIES and FLAVOR_EXTRA_SPECS
env variables.

Change-Id: Ie1c69e66d2e2e158915d214402fe44d9991c56d3
Signed-off-by: Delia Popescu <delia.popescu@enea.com>
(cherry picked from commit 1a00b9de56ef65eef2a0b269a514cb25491ac54b)

Do not create files in site-package directory

Use /home/opnfv/functest/data/rally/task directory for storing
temporary files when running rally tasks.

Also removes unused vm scenario from task service list.

Change-Id: Icfd4f99ebe6194360bda8bd88e497e018a9541a0
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>
(cherry picked from commit 520331a06750dd02228f840c346402f52fb864e8)

Conform with LFN doc rules

It hugely hacks docs to move away from submodules.
https://docs.opnfv.org/en/latest/how-to-use-docs/local-build-transition.html

It removes intern reports which can't be integrated in this new model.
All wrong links now deteted are updated.

Change-Id: I9dbebeed041d2e104e3b8e73483f656ba0ef5bb9
Signed-off-by: Aric Gardner <agardner@linuxfoundation.org>
(cherry picked from commit 1a22e73c850c450305764c784c86dbc067e65dae)

Update python3 to python3.6

It conforms with Alpine 3.8 (It updates the related tox entry).

Change-Id: I7ba8e3cf5bae2f48ff5d802511a288446bca645a
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit b51417c9d2e7d34fec7d4bfa4fd723746e6b28e3)

Fix image properties parsing

It removes useless spaces and now conforms with oslo.conf dict.
New helpers and unit tests are available.

Change-Id: I20335c5e5c3840cc872e158c6072d97a3f2cb98c
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 904377462f58464937d4cafeb8c432f024a85bd4)

Add Rally scenarios for testing floating IP

rally_sanity:
  NovaServers.boot_server_associate_and_dissociate_floating_ip

rally_full:
  NovaServers.boot_server_associate_and_dissociate_floating_ip
  NovaServers.boot_and_associate_floating_ip

Change-Id: I31b7693828920bae92ff4ac8e7b0fde86e958cb5
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>
(cherry picked from commit 6efcc4fe7456663445e9fbda54bba3239288ad73)

Enable bgpvpn and barometer

They are being synchronized to OpenStack Rocky.

Change-Id: I58f45bac24714faaa1cc2738ef04b50cd179f7be
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Rename IMG_PROP to IMAGE_PROPERTIES

Any other env vars are reduced.

Change-Id: Ic2c37d6efd543603a2495f9d2621b66d61710a54
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 62b12b859c0172c737f70493b3052dcef47f96f7)

Use environment variable for image properties

Use IMG_PROP environment variable to read extra image
properties.

Set image_extra_properties for scsi volume types
without file patch, but using IMG_PROP env variable
IMG_PROP is defined through releng.

Image extra_properties will continue to get updates from
functest config file

With this change, remove unnecessary parameters from arm patch
Related to:https://gerrit.opnfv.org/gerrit/#/c/63203/

JIRA:ARMBAND-402

Change-Id: I64139240751b1e109bbe24ba32f487ccd98b9a92
Signed-off-by: Delia Popescu <delia.popescu@enea.com>
(cherry picked from commit d7c5419ed8d3dcdb59f4f5f254de0c7bb7a0aec6)

Read thirdparty-requirements.txt if py3

It fixes the current build issues due to unsynced doctor [1].

[1] https://build.opnfv.org/ci/job/functest-features-docker-build-arm64-master/455/console

Change-Id: Iad8b667e2615dcd976cd8120e4204665134922b7
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 01509097c7447ee70d61f7e97d7947b127425eac)

Enable sfc and doctor in hunter

sfc [1] and doctor [2] master are being synced with OpenStack Rocky.

[1] https://gerrit.opnfv.org/gerrit/#/c/63239/
[2] https://gerrit.opnfv.org/gerrit/#/c/63237/

Change-Id: Id5d41fa98ab5f00703d557ce82cb2037bc827c2b
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Update juju agents

It conforms with last juju update.

Change-Id: I4941aac66e5ac96045090f10f197f6ee2712caac
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 1ab7a53dab08a6f67ff2cf54f33b70dea0e82bfb)

Update Juju to 2.3.9

It should fix the key bug about subnet discovery.
Now juju_epc may run in parallel of rally testcases.

Change-Id: I04c1fcf2a18b461e5809d436846aa52c4b2660c8
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit a51d42200d94643314ece1a833181a7193ce2265)

Protect if default secgroup not created

https://build.opnfv.org/ci/view/functest/job/functest-compass-virtual-daily-master/lastFailedBuild/console

Change-Id: I2b5f1dc577f98773ad40ed3bcfff609d8d6c4b93
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 5bb60b33a8fad4859b7391576fdfed7cec4c14a8)

Update tempest_full result

It's now passing in Orange Openlab.

Change-Id: I487f426346af0ea706da1f38302eae7603b9d477
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit c3dcb96a8b94d7114fa7f25e936015b111f044a0)

Protect vs former OS env vars

rally_jobs is failing vs APEX which still sets OS_TENANT [1].

[1] https://build.opnfv.org/ci/view/functest/job/functest-apex-baremetal-daily-master/324/console

Change-Id: I672bfa93b37b1b773ea7d20fdd91bea0ff14b79f
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 83e0e6836d7f5e18eb4eb8c9d28b4e6980b790c2)

List default secgroup via orig user

Else the generated account can be already removed [1].

[1] https://build.opnfv.org/ci/view/functest/job/functest-apex-baremetal-daily-master/324/console

Change-Id: I93d88763cdc67cd38286c24ad830244e0c12e019
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Fix typos in tempest.conf

It completes the previous change [1].

[1] https://gerrit.opnfv.org/gerrit/#/c/62793/2

Change-Id: Ie4c4c5cb374f2bfac6397841f8ddc2cd3b2f524b
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 98a4a863935be38f63e78550ddbcf4c1299bfdf1)

Set default_domain_id in tempest.conf

It allows verifying via non-default domain.

Change-Id: I95ae26fd3bfd1c10421c02d2b4f6e8a9b6aa49e6
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 11d28aaf2e726859b59b7511d64dc4dd4b422e1e)

Set admin_domain_scope to True (tempest)

It completes the previous commit [1].
It also sets cidr and fully forces Keystone v3.

[1] https://gerrit.opnfv.org/gerrit/#/c/62777/

Change-Id: Ida948a4ff051dc1d1325d29a815c201366a1e33e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit f4b545efe2339bdb5f6117d484e127adda5c8021)

List all sheduler filters instead of all

It doesn't work as expected as highlighted in [1].

[1] https://review.openstack.org/#/c/570207/

Change-Id: Iaf64345c40e8d62349cd50a6861c1191d25c40b9
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit ecc7bc215cdf47104d61ba7e23e5f8ec65ca03c4)

Clean the default security group

It's not removed when deleting the users and the projects.

Change-Id: Ib5de0885dcbfb558a48cdd20ae3ccc47b7f23748
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit d4e60af2b8f544d774223b16c193dc40bd5dce38)