Pin ruamel.yaml.jinja2

It's out of openstack/requirements and last version breaks our stable
containers [1]. It will be updated in master in a second step to ease
cherry-picking.

[1] https://build.opnfv.org/ci/job/functest-verify-unit-tests-and-docs-hunter/322/console

Change-Id: I76e1965d49e6be6f185611bcfcd056d81bc599fe
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 3472870b0e42c135d004e0006ad3e3607036e553)

Updated from global requirements

Change-Id: Ibc60387cd43bd18d49631afb1050c0cec0e371e1
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Publish rally logs

Both Rally and Tempest publish Rally debug logs.
It also moves the logics from tempest to rally.

Change-Id: I5c057d830202baddd73577ade1b09ce304e3c5a5
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit bc88eff8f5850f8207431bb8d1958fe6b9cd09e8)

Merge "correct permanent redirects in documentation" into stable/hunter

correct permanent redirects in documentation

Change-Id: I5bcb402f51541483a2797629c44485e5d75913e3
Signed-off-by: VincentDanno <vincent.danno@orange.com>

Decode tempest exception output (py3)

https://build.opnfv.org/ci/job/functest-opnfv-functest-smoke-latest-refstack_compute-run/30/console

Change-Id: I77264525917af5f67cdecae85ef7a50439499db8
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Remove PyNacl contraints in Features

It conforms with "Install PyNaCl via package" [1].
functest-feature may raise timeouts when cross-compiling PyNacl [2].

[1] https://gerrit.opnfv.org/gerrit/#/c/67956/
[2] https://travis-ci.org/collivier/functest/jobs/538119733

Change-Id: I986677b869f62caee6be219ee1de622b7bc20ca4
Signed-off-by: Cédric Ollivier <ollivier.cedric@gmail.com>
(cherry picked from commit 7a628f087403089d282cda14bcba858d8b0bc6c3)

Stop downgrading pip

The pip package poposed by Alpine is fine.

Change-Id: I415757b8f4028c76e9d8cec4895306d843d42ac2
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 5819ff6a14e7e89b6c7004336bfcabed9f16baa4)

Install PyNaCl via package

Building functest-core container sometimes reaches travis-ci timeout
[0]. It currently selects the right version in master and
stable/hunter.

[0] https://travis-ci.org/collivier/functest/jobs/531417730

Change-Id: Ie6c8e729f76c98c6f8c8e9ca01b2c998081f7ce8
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 6aad708727e41eaa8f61a104323386568a163dd3)

Run bandit when verifying changes

It reports only MEDIUM issues or higher like nova [1].
It selects bandit 1.1.0 as defined in nova and neutron lower
constraints [2].

[1] https://github.com/openstack/nova/blob/master/tox.ini#L221
[2] https://github.com/openstack/nova/blob/master/lower-constraints.txt#L8

Change-Id: I6fc505f684701792d3e03659eb0feea8321452c0
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 0440ffcac18991395799e5aafc9243e028917ab6)

Set utf-8 in decode and encode calls

It eases backporting in iruya and hunter as a few logs can't be
decoded as ascii [1].

[1] https://build.opnfv.org/ci/job/functest-opnfv-functest-vnf-iruya-juju_epc-run/56/console

Change-Id: I52a6f9a25130cbf62e8ce3b9972064ab73177665
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 5853dd1ef3c522a975f9685250b1b3e85588f738)

Decode Bytes in logging calls

It fixes a few incorrect types in log calls [1].

[1] https://build.opnfv.org/ci/view/functest/job/functest-latest-daily/163/

Change-Id: I01790f6454694f434d31366f9c1cf9d98ff5a9cf
Signed-off-by: Cédric Ollivier <ollivier.cedric@gmail.com>
(cherry picked from commit 7d58f89103a8c44fd166c3e06b492ade63e5c5b3)

Merge "Enable Vmtp if py3" into stable/hunter

Enable Vmtp if py3

It leverages on last Vmtp review which adds py3 support [1].

[1] https://review.opendev.org/659970

Change-Id: I8319b9e7eb88b9015961188d47657a8c67e0f8da
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit f994b9180b621ae6bb6397acd23de8f1a625c4cd)

Update to Python3

Functest containers leverage on Python3 instead of python2.
https://mail.python.org/pipermail/python-dev/2018-March/152348.html

It also updates robotframework librairies to latest release and Vmtp
to master ([1] is needed)

It patches cloudify rest client to support python3.

Vmtp is currently disabled because it currently supports python2 only.

[1] https://github.com/openstack/vmtp/commit/a5d062881d91bf4f547d92c6e289bea30feb5d6e#diff-b4ef698db8ca845e5845c4618278f29a

Change-Id: I39964a212ec2d4dbf53c9ea7c63f02e0b6a05b48
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 2a0702ea914a574ffa7c6d6f83a5c606e24ebd0a)

Update Pylint score (10/10) in Release notes

https://build.opnfv.org/ci/job/functest-verify-unit-tests-and-docs-master/2239/console

Change-Id: I5f124250aba3aa9a5ca0bc01221c06843bba1b35
Signed-off-by: Cédric Ollivier <ollivier.cedric@gmail.com>
(cherry picked from commit ab5dfff578e7c9686882c844ff2c0fed1f663e6f)

Avoid running local dnsmasq when testing IMS

It may be unsafe and it's useless for testing IMS if BONO_IP is set.

Change-Id: I8b0f010956defbfa1fd22b5aa5cbea70bd2968a4
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit a82827bd4f93c318f0bc2554928ab2213d1ee766)

Update tempest to avoid resource leaks in EndPointGroupsTest

It includes "Fix resource leaks in EndPointGroupsTest" [1] which
removes the 2 remaining tempest services.

It's worth mentioning they raised side effects when trying to connect
to Horizon.

Change-Id: Ic85fa38a4690c5532d10d21d2eec64d99ab1e8cd
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 084ce7dd3976d65409f54d8ff5010e709ec76cd6)

Update defcore.txt to the latest cached one

Change-Id: Iea42b7ef8a76ff1c7bd56e88290c716776dd9291
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 90389efe0257f730418181291b82dda9c390b953)

Allow building containers when refstack.openstack.org is down

It has been down for days and break our gates again.

Change-Id: I66e286f3624c776c7cec5164df53eb117550e78a
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 6b578b9068164eab33b2cc2d6002f59b9af88f8d)

Revert "Disable Patrole network.test_agents_rbac"

This reverts commit 4fd59de2b5751437ca6faf71415129cf6f64cf8f.
It should have been applied in master and iruya only.

Change-Id: I8f467e5cbe2f230a0a3f119a3f4ad80da8a5a6bf
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Update neutron-tempest to 0.3.0

It includes the fix "Cleanup Tempest tests legacy resources" [1]
which cleans all remaining routers and security groups detected
in Functest gates.

[1] https://github.com/openstack/neutron-tempest-plugin/commit/2de722ef0af284b4f68e952df53ad4f0d9d452be#diff-44d072bece4c5873f0e78df8ad7cacf2

Change-Id: I4da824447ab67e4b0aba044c39467f8f105b5630
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Disable Patrole network.test_agents_rbac

They don't clean routers (tempest-L3AgentsExtRbacTest-Router) after
testing.

Change-Id: I78cfc783feb51d0f1b029c98e988c07e57e1e694
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit d4178d425312497412e9832fb6cb1a074e5099f3)

Enable volume backup testing

It conforms with OpenStack gates by default.

Change-Id: Icc1537b0f8342666d2a2a0de4655ba99f4f42470
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 305f9f41df7ecba640fc4552269bca8ee588b92c)

Update to tempest 20.0.0

test_dualnet_multi_prefix_slaac which is uncovered (marked as slow) by
OpenStack gates [1] is failing on lf-virtual6 [2]. Updating to 20.0.0
is closer to the current OpenStack Neutron Rocky gates
(tempest==20.0.1.dev42) [3].

It's worth mentioning that we cannot downgrade to 19.0.0 because the
next commit is needed [4].

[1] http://logs.openstack.org/28/656428/1/check/tempest-multinode-full-py3/74d9cd7/testr_results.html.gz
[2] http://artifacts.opnfv.org/functest/functest-opnfv-functest-smoke-hunter-tempest_scenario-run-113/results/tempest_scenario/tempest-report.html
[3] http://logs.openstack.org/57/654957/2/check/neutron-tempest-multinode-full/e5eda83/job-output.txt.gz
[4] https://github.com/openstack/tempest/commit/3588bb3f5ef546a0ef4d4ad621fd1be381b5fdaf

Change-Id: I496df1272f26ad73daf388070b762b736e4e5fd8
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Manage block_migration in Rally

It creates a new env var BLOCK_MIGRATION (True by default) to allow
block migration for live migration in Rally.

It updates scenarios and blacklisting to take that env vars into account.

Change-Id: I41129432798ae9e40fe23bbe2c2162df4c0dff80
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 940e49a6cdf7ae0f8286c953952a9757ba63a20b)

Use block devices for live migration

The default values conform with OpenStack and Functest gates [1].
It could be set to false if shared storage-based live migration is
supported [2].

It also currently disables cold migration.

[1] http://logs.openstack.org/84/632984/24/check/tempest-multinode-full-py3/4216037/controller/logs/tempest_conf.txt.gz
[2] https://docs.openstack.org/nova/pike/admin/configuring-migrations.html

Change-Id: I0faa415eba610c20ba54353ac7ba7b0e83722c32
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit f1695eceb3d18501a603dcc89da020c676d9b617)

Leverage on DEBUG env var

It allows muting debug logs.

Change-Id: I291f3bb7e0a450724a34997c720bde01f72c8e50
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit d777f2e588a321d5c01e2e50ffa5c8fc5a27c77c)

Enable stor4nfv in Hunter

The branch is ready.

Change-Id: I0b246cf3bb83eb7ef0151509d2e99c45032b7a7e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Refactor modules to avoid duplicated code" into stable/hunter

Refactor modules to avoid duplicated code

It also increases number of lines to warm about duplicated codes.

Change-Id: I3914da8a90cbfe8fd024e9944c3adc8a617330d3
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 9dcc30874194382a25c66baf359b863c6e013caf)

Set max_microversion for placement and volume

It sets max_microversion to latest because if both values are not
specified, Tempest avoids tests which require a microversion [1].

It completes the previous change about nova [2].

[1] https://docs.openstack.org/tempest/latest/sampleconf.html
[2] https://gerrit.opnfv.org/gerrit/#/c/67318/

Change-Id: Ieab56a239077476dd9a0e1ee97ac4293c4075f5c
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit b9048a25355e1d6c29c84ca10a3d859841468f50)

Remove all sdnvpn loggers

OPNFV sdnvpn is over.

Change-Id: I78b6c45c6e5216795252be38dbc54f80f6e65061
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 2f80c3c0a89622a673ef7957d0d53d56e75c14ee)

Build arm* functest-vnf containers via travis-ci

It doesn't build juju deps if arm* as they can't be cross-compiled.
Then that deps won't be built in releng on native arm64 hosts
It's worth mentioning that containers have never been executed in
OPNFV gates.

That change allows running all other VNFs on Raspberry PI and
building containers without arm build servers.

Change-Id: I836a72f049e7f0e6ae704f5b829914692d5b2c09
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 0c3ae6e09acd16fc50a516975631dd6bb76b8c53)

Update all OpenStack refs to opendev.org

All gates are failing due wrong to redirections (see os-faults [1][2]).

[1] https://build.opnfv.org/ci/job/functest-opnfv-functest-tempest-latest-gate/96/console
[2] https://travis-ci.org/collivier/functest/builds/522071220

Change-Id: I5a8ca67f0d95df24daa9bdca2f23eb13d896f9d5
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 2ceebaa032f07c4162ed3701c6814dfe5cb683d4)

Updated from global requirements

Change-Id: I5e2057c11920bba55d8bae34dc836aa86765ccf3
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Update Hunter Release Notes

Change-Id: Ie7826cf2ef8eb537f1b4f213c92c384e0b48c311
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Stop forcing admin_scope_domain = True

tempest fails vs devstack stable/stein and it passes successfully vs
devstack stable/rocky (Functest gates) without that option.

It may be added to tempest_conf.yaml if SUT requires it.

Change-Id: I4730c25b25403fd130d71166a8778e06fd479935
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit f038f387a8a0499d39b3fa5091c333b6b0ef5af7)

Speed up lxml build

It allows cross-compiling it via travis-ci (benchmarking) [1][2]

[1] https://lxml.de/installation.html
[2] https://travis-ci.org/collivier/functest/jobs/519737041

Change-Id: I31609268d77405f036924a010cfb3dab520e9ea3
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 1d190eb4039194d049cfc97b456978853d0d77d1)

Verify py36 via travis-ci

Change-Id: I1180478c19d0f1c56e615a2af568cbbf4cc828d3
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 8f1248484478813b7881e4642cf5ca6dbcf86f74)

Cross-compile arm and arm64 images

It allows building images for Raspberry PI via travis-ci.
It builds all arm64 images except functest-benchmarking [1].

[1] https://travis-ci.org/collivier/functest/jobs/519673994

Change-Id: I695c3afe8aacda63b7eae0d2672cd836c19e8ceb
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 5f525ebaf9d503aa641996fe2ac780dc9dda1774)

Update .travis.yml

It now selects Ubuntu Xenial and libssl1.0.0.
It fixes all issues about SSL [1].

[1] https://travis-ci.org/collivier/functest/builds/518874638

Change-Id: Ib7217afc1cfbe3a7c675961b37ad9c097afca037
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 43e0e08bc2a1a294c582bf79300c4ef34242974d)

Fix doc links

It removes 1 link to ask.openstack.org which is being stopped.
It also bypasses the issues due to LFN false certificates [1].

[1] https://travis-ci.org/collivier/functest/jobs/518170144

Change-Id: Iccfbc2d91aedb4617f2e29e9d03ba01e0fc58175
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 210803c3895ac9205c28868cc53761b20c2d6a01)

Apply blacklist for OVN noha scenario as well

Change-Id: I1dd51a54f39967fcf6b3a522e2a548f81e5646a9
Signed-off-by: Michael Polenchuk <mpolenchuk@mirantis.com>
(cherry picked from commit 3509982923786f91c03d05f26f61df4505299722)

Update tab results

It also removes all refs to components and to the former binaries.

Change-Id: I4f7e3308673ba6ba4dd9c28a7a053e3d558c289d
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit e108f1ad405e788e0516a55875269adafb338c28)

Set cinder service type in rally tests

As a precondition for executing scenarios requiring volume, Rally
expects the presence of service named as "cinder". In a case when
there is only cinderv2 and cinderv3 configured in the system, Rally
fails to validate a testcase even the volume service is working ok.

Testcases in question changed to use v3.

Change-Id: I42e7f846e80d3647df274b2e03add94c9f0a34d6
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>
(cherry picked from commit ebc2b41505299846faeb2163d34d820a8ef2bdb2)

Remove 1 Patrole test with a hardcoded vxlan id

It may fail when testing OpenStack in production or when running
testcases in parallel [1] because vxlan 200 is hardcoded [2]

[1] http://artifacts.opnfv.org/functest/functest-opnfv-functest-smoke-hunter-patrole-run-75/results/patrole/tempest-report.html
[2] https://github.com/openstack/patrole/blob/master/patrole_tempest_plugin/tests/api/network/test_networks_rbac.py#L208

Change-Id: Ibfaed6f3a95d016790baafebd203e49e152a889b
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 8ee279600186f2713b4c181965d8d290d2644cfb)

Update network context in selected rally tests

Network context not needed in following scenarios:

NeutronNetworks.create_and_delete_routers
NeutronNetworks.create_and_list_routers
NeutronNetworks.create_and_list_subnets
NeutronNetworks.create_and_update_routers
NeutronNetworks.create_and_update_subnets
NeutronNetworks.create_and_show_routers

Router not needed in network context in following scenarios:

NeutronNetworks.create_and_update_ports
NeutronNetworks.create_and_delete_ports
NeutronNetworks.create_and_delete_subnets
NeutronNetworks.create_and_list_ports
NeutronNetworks.create_and_show_ports
NeutronNetworks.create_and_show_subnets

This completes the patch skipping router creation [1].

[1] https://gerrit.opnfv.org/gerrit/#/c/67429/

Change-Id: I80ea145a21168fd984cc9ef88d50af227f0d6ed4
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>
(cherry picked from commit b4b2e7f9a5a3cb3379b45ac4ddd0ef949974a698)

Skip router creation in selected rally tests

Do not create routers in those rally_sanity tests where the test does
not require it.

Change-Id: I6dd8a2b7579e11ca6ecc3b7383fa4d09a1e56ec3
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>
(cherry picked from commit d5e56ad6becd1bb2aa7dafbfccb37c6b84512955)

Update ujson (Alpine 3.9)

ujson v1.35 can't work vs Alpine 3.9 [1].
upper-constraints are overriden to include the patch needed [2].

It fixes rally testcases (gnocchi).

[1] https://github.com/esnme/ultrajson/issues/326
[2] https://github.com/esnme/ultrajson/commit/d25e024f481c5571d15f3c0c406a498ca0467cfd

Change-Id: Iac9975b0669d5975c63d76ddefb64058e5183369
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit c6eb6eca4bb1919c8c943cf534b3e9c935e73118)

Fix other broken links

https://git.opnfv.org/cgit doesn't provide a correct certificate and
then sphinx linkcheck fails [1].

[1] https://travis-ci.org/collivier/functest/jobs/510587514

Change-Id: I884535766c39839927ea863d7fac62684ebb5dac
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit daf01598d6030a29ccddc3023ee94fe9b0e3b320)

Fix the broken link in docs

git.opnfv.org doesn't provide a correct certificate and then sphinx
linkcheck fails [1].

[1] https://travis-ci.org/collivier/functest/jobs/510587514

Change-Id: I4e9b8d07fa8e2da2d1b185668b834a8904cf35a3
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit d35d774484de9e444a35322524357c142acd1859)

Remove snaps testcases from site.yml

Change-Id: I5f979b5ad704f8d9b35dd54deda33f910fe08a25
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 8be6277951925e0eeaecb078de2ec4c0b007a38a)

Fix manifest-tool builds

It now selects the last release to allow compiling it [1]

[1] https://travis-ci.org/collivier/functest-xtesting/jobs/510384544

Change-Id: If1c2c1d7bdcc5bc0a6a221dfe5f628b75f9d9608
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 34b5f05cefa2b28e2ff9835cdd7415a0023474fe)

Update Alpine tag in ansible/site.yml and build.sh

It complete the previous commit updating Alpine [1].

[1] https://git.opnfv.org/functest/commit/docker/core/Dockerfile?id=ee700ae5c7ab1fa3e761c330686f89f3ddefbfd3

Change-Id: Icec39d36c661ba3eb3e79c9abb592897f46efa22
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 43d4ce6bd5d0778fb51b014d33a04afafa6a18bb)

Update rest-client for IMS testing

It has to be updated to conform with Alpine 3.9 [1]

[1] http://artifacts.opnfv.org/functest/functest-opnfv-functest-vnf-latest-cloudify_ims-run-95/results/cloudify_ims/ims_test_output.txt

Change-Id: Ic4130d86789537867372f6fbdc026929c28370f2
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 6e4d9a3571bddf94065c9eb031b59731dad4b36d)

Update to Apine 3.9

It updates to the latest Alpine release [1]

[1] https://www.alpinelinux.org/posts/Alpine-3.9.0-released.html

Change-Id: I62ed47547dd8767ca50221840455ed0f7336b438
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit ee700ae5c7ab1fa3e761c330686f89f3ddefbfd3)

Remove hardcoded tempos in heat_ims

It adds loops to wait for services.
It sets dns forwarders to allow sending Heat signal at last
instructions.

Change-Id: I3ae29ddbaee5f8b2086078bd5245e140348f0dcf
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit ce305aa6d78ca62649d43b73b1d8f3b851584d81)

Merge "Update RefStack list to 2018.11" into stable/hunter

Set ext net and name server in Shaker templates

It sets the shaker args to override ext net and name servers [1].

[1] https://pyshaker.readthedocs.io/en/latest/tools.html

Change-Id: I1cc6d52837e3c370db5ff59f024e96d7423be63a
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 492f85284cbe3b78c66d60e187081701c8eb4869)

Update RefStack list to 2018.11

It sets max_microversion to 2.65 because if both values are not
specified, Tempest avoids tests which require a microversion [1].
Then test_keypairsv22_create_list_show_with_type is skipped and
refstack_defcore fails [2].

It also partially reverts "Allow building containers when
refstack.openstack.org is down" [3].

[1] https://docs.openstack.org/tempest/latest/sampleconf.html
[2] http://artifacts.opnfv.org/functest/functest-opnfv-functest-smoke-latest-refstack_defcore-run-147/results/refstack_defcore/tempest-report.html
[3] https://gerrit.opnfv.org/gerrit/#/c/67232/

Change-Id: I609ad1586ad5d03a00196c28ff5c6c23228037ce
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Do not allow testcase skipping in refstack

Set the result of refstack_defcore as failed if there were skipped testcases
in a run.

Change-Id: Id782c2dee511cefbafd5b4440f386fd66f934a47
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>
(cherry picked from commit cfd79ec4c39e215a25fc3d99fc5368e7d874f7bf)

Avoid killing create_number.py

create_numbers.py has been killed by other services as described in [1].
It's now called when ellis is up and running.

It adds few sleeps to ensure the right boot orders (signals must be send
before switching DNS).

[1] http://www.projectclearwater.org/using-start-stop-daemon-with-the-python-interpreter/

Change-Id: I87ad3828c10d3ccbc707ed8f4ab99987c6968f09
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 45708eda7ba8e4ddac85930dbb5defb14b9af88b)

Print monit summary before running IMS testing

Change-Id: I94310aa609d2c56609e0a5f0e46932af4aee02eb
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 7bc4e13a4c5409ed7d869ae5c0220feba70dbf65)

Add sleeps and debugs in heat_ims

It allows checking all the services and hardening the asynchronuous
configurations.

It will ease understanding the remaining race conditions in gates.

Change-Id: I1f72a828f4eb32c33f43066e5c71558067bd292f
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 26ddcc28113219b6180b36549995d94f075403fd)
(cherry picked from commit 49dd51392ced7555c59d94a21c7b2632e4cfe8e9)

Revert Snaps in upper-constraints.txt

Change-Id: Ie437b8ea6a33871516d42bf022a1f46cdd488d48
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit bf94db59bb7347dadcfc31accfaf2b71ec288285)

Boot Cassandra at the end of heat_ims stack

Cassandra sometimes doesn't start when it boots in parallel of the other services.
It now selects eth0 instead of forcing ipv6 on lo.

Change-Id: Id9f8a4e19a43e85fc8a04fbc4c8f138f0adea417
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 56245ada9aad65420f7958224e05c17cf4a1c59f)

Remove Snaps-based testcases

Snaps hasn't been synchronized for a while regarding requirements.
We do remove it due to the inactivity.

All test result tabs will be updated in a second change.

Change-Id: I834afd902829ed3883b0e88e92aa806ec43d6fcf
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit e44841210c53290207db9b958c66cb8019910cb7)

Add deps in clearwater.yaml

Ellis must be started right after dns to publish the shared config.

Change-Id: I99fb7ff88e55c5c6a963b3a6db65d8d83b212eda
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit d217430315c5ac571c0006c1178ff6ac50bd3d3a)

Allow building containers when refstack.openstack.org is down

It has been down for days and break our gates.

Change-Id: I2e18a95abaced050f85f6efb8e849e0a5d497ea1
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit a52900d8c926dc4370dea3b3ebe94d20d05e1357)

Remove inactive committers

It follows the last guidelines from TSC (1-year inactivity).
It stop listing contributors as it's worse than git log.

Change-Id: If8fb1ab7371d34798c9f72d8885f4ec092f138ac
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 575916bee58a32b1290ec8d1a3fd707dba541149)

Add dependencies in heat_ims

It avoids useless loops for cloud init messages.
It now conforms with clearwater-docker (disable ipv6 in cassandra).

Change-Id: I6f469cf48224296b2eaa079d342642c5caca65f5
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 464829a80878ede363537ec4020be30c21a5b859)

Remove SDNVPN as it doesn't participate to hunter

Change-Id: Iddeaa3890635103b66042a918ab66cabd8fdee60
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit f799428f8839a59973ba7edb3b6e66819e27e5ee)

Merge tempest.py and conf_utils.py

Change-Id: I597abdbb5bd3de023aa7b66fa27764ca2ec27f0d
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>
(cherry picked from commit 226e0f36ee86202c262444cd0712250f4691ab49)

Modify the upstream Clearwater Heat files

It forces a single network for both management and signaling traffic.
It meets the OPNFV deployment requirements and the Functest SUT ones.

The security group will be improved in a second step to first quickly
fix the testcase in gambia. Private IPs may be registered in DNS to
avoid network address translations.

Change-Id: Ic19cf336ac5c2d07c52c6dd37b06271790145cf9
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 39ab5b6cab5d6c664dc96bbb92781a9eed0aa41d)

Stop overriding ssh default timeout

It should be modified by tempest custom yaml file instead.
It's safe as the default timeout is bigger than the previous one.

It also cleans the obsolete tempest/rally data in config_functest.yaml.

[1] https://docs.openstack.org/tempest/latest/sampleconf.html

Change-Id: Ibad02d8aaf90f154c82f3b60a6d3f04fc37bd7de
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 147f5a373b4c8659826f1f626bd9b6042afc3934)

Stop forcing non default operator role

Member is the default value [1] and SwiftOperator is not created by
default in OpenStack gates (devstack)

This role should be modified by tempest custom yaml file instead.

[1] https://docs.openstack.org/tempest/latest/sampleconf.html

Change-Id: Ie77b91e36a7011e5730cbf5998e029c07ec7fe2f
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 543884f5c2100878692260fd840624a549843238)

Change password generator

It adds lower and upper letters

JIRA: DOVETAIL-747

Change-Id: I4bdfcbf31a6dae4aa555fca3d42bbdec514a2b6b
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 470bcd99fdabf53d4652d13280329243d5f81c4a)

Pin neutron to the last Rocky version

networking sfc and bgpvpn depend on it.
If unpinned, neutron 14.0.0.0b2 is selected and raise side effects [1]

neutron 14.0.0.0b2 has requirement neutron-lib>=1.24.0, but you'll have neutron-lib 1.18.0 which is incompatible.
neutron 14.0.0.0b2 has requirement pyroute2>=0.5.3; sys_platform != "win32", but you'll have pyroute2 0.5.2 which is incompatible.

[1] https://build.opnfv.org/ci/job/functest-features-docker-build-amd64-hunter/125/console

Change-Id: Id4ff5e67b62e9162bd3e7d866ef57fb1012cd994
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Select SFC Hunter in stable/hunter

SFC team just published stable/hunter [1]

[1] https://gerrit.opnfv.org/gerrit/#/c/66913/

Change-Id: Ie3abe7b07ac86d60a47ba2b0be57cff2dbbce47f
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Conform heat_ims subnets with other testcases

It will be enhanced in a second step to calculate options from configs.

Change-Id: I91738e1aaad9a7049df44f734c4190def62fff91
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 96bb5dc834e3600a3bd0666f80f3298a420b37fa)

Reduce Heat Ims resources

It eases testing with less resources.
It conforms with the new values in the Cloudify part [1].

[1] https://gerrit.opnfv.org/gerrit/#/c/67092/

Change-Id: I1f6158a42fd8ed390c07e7c773bb246f81adef3b
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 57ef1f3dfd0b0d2d7a0646c75d5b295fbbe6aec9)

Ensure boot order in heat_ims

Ellis publishes the shared config which mostly fails when resources are
allocated in parallel (conflict). Then nothing works when the shared
config is blank.

It still remains failures in IMS testing which are still under analysis.

Change-Id: Ic54a2a7478e07a9291c76be8ffc57f04d199421e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit b0d0e945ebdff62045fe74bceacbf731f5d1abfd)

Gather all skipped tempest test cases

This patch applies a change to the regex responsible for
identifying Tempest test cases. With the current regex some
skipped test cases are erroneously ignored.

The condition has been updated in order to match both format of
skipped testcases ('skip:' and 'skip [xxx]:')

Change-Id: Ie7144b01e07cae92918eede0324f3f1f2582c4aa
Signed-off-by: Panagiotis Karalis <pkaralis@intracom-telecom.com>
(cherry picked from commit 692c50bbeb01b57c184cd8629a534a19f9b9ad73)

Remove useless vyos_vrouter output dir

It doesn't store any file.

Change-Id: I94801508a11edb8f0bbff7e4319c4d50411ec715
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 9262d3c0ee23aa5b79dbf790162134acccb5c42b)

Update VyOS to 1.1.8

It's worth mentionning that the filesystem is hugely reduced.

Change-Id: Ic3e8a5d601a62f1762cbd491c228b7f053905e35
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit d4efec0554d8ba66d71d67626630ff9cc0761da2)

Ease copying/pasting the private keys from logs

Change-Id: I8f1ccdb709dbb3e7a22a404c036714dd848dd87d
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit f6b2577f4e052f493f6359265fc473fe98830b62)

Reduce Cloudify Ims resources

It eases testing with less resources.

Change-Id: I301cdff0c8dfb2cf70ef53fc446749e1a70b0919
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit fd2375f17a6294210ffb48cdcb79e7d129ebe94d)

Stop downloading Cloudify container

It selects the Docker image archive as proposed by Cloudify.

Change-Id: I88b5333625a8d2cab140291552c1c8ca5bac3a36
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit fc5bccf4d29cd4bf705e3938fc189be686083f41)

Enrich Rally results output

This patch adds success/failure information of rally test cases to
summary output.

Change-Id: Ie4f9b4972a26e187bb7afdddfd5ce51b16f3db12
Signed-off-by: Stamatis Katsaounis <mokats@intracom-telecom.com>
(cherry picked from commit 13777d607dd219ace0157e560ff11c3cd6f1aad0)

Only run bgpvpn tempest api tests

It conforms with SFC regex and fits OPNFV criteria.
Running scenarios may force the use of bagpipe [1].

The SUT (functest-virtual) is being updated to verify SFC and BGPVPN
apis.

[1] https://docs.openstack.org/networking-bgpvpn/latest/user/drivers/bagpipe/index.html

Change-Id: I1442b9cac7eaba1aeef04e36a2f790bd29f90976
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 2b4e7955815ce27284043c03730fff6ace029a0d)

Harden upper-constraints.txt operations

It takes into account the wget exit values and avoids manipulating a
falsy empty file.

It won't help fixing the network outages in LF network which have been
highlighted by false failures in api_check (the wrong snaps package
is installed [1])

[1] https://build.opnfv.org/ci/job/functest-opnfv-functest-healthcheck-latest-api_check-run/100/console

Change-Id: Ic9b75965b1ffb1f7bb342ff216bda9933ca75f0b
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit fa8c50f4fd19576a2fde5b04077810d4ca91b330)

Generate xunit reports (rally and tempest)

It adds xunit reports for rally-based and tempest-based testcases.
It completes the reports provided by snaps (thanks to Xtesting).

All rally related operations are moved to rally.
It allows removing the rally dependency to tempest which was false.

Change-Id: Ia7d2476f58f4f68b7c88442e50cad844037a36e9
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 3393f2016483555c27d612c69ec11274cc8aa72a)

Update rally to support one global html

It isn't supported by Rally initally selected in Functest Hunter [1].

[1] https://build.opnfv.org/ci/job/functest-opnfv-functest-smoke-hunter-rally_sanity-run/15/console

Change-Id: I3182e73db580fc32959339c13b3b725283535b29
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Stop building components in travis-ci

It was removed by "Move rally_full in benchmarking" [1]

[1] https://gerrit.opnfv.org/gerrit/#/c/66911/1

Change-Id: I7ade6f474364646bfe0f3ae1b2718749bd0ff26e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 257af33f88e7f2ff55aa74b171455c83978610f1)

Specify which rally tests to run

This patch adds the ability to specify which rally test to run by
setting the appropriate configuration value.

Change-Id: I6cbc9d12aada4f8eab68d2219d94ae1391a79021
Signed-off-by: Stamatis Katsaounis <mokats@intracom-telecom.com>
(cherry picked from commit d0cb38d7ad5046700564f2700df9b8c92706b32c)

Publish tempest details into database

It switches from tempest.log to rally.log to conform with rally/stestr.

Change-Id: I00c2a268a2bc312a22a8d70278fad618c1c25235
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 4afaf09c94da6e98ca449a7495f158e2d30255e5)

Fix smoke testcase list

Rally_jobs were moved into benchmarking.
It completes "Move testcases in the right tiers" [1]

[1] https://gerrit.opnfv.org/gerrit/#/c/66875/

Change-Id: I1c2da77eff6682f85ab8504750077c9ee542edb8
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit dd217735edd2e596d396a2b8815b418548f78111)

Generate one single report for Rally testcases

It eases sharing one single report including all task results.
For the time being, rally_jobs only generates neutron.html.
Then it only adds one report for rally_full and rally_sanity.

We may consider generating only one json file but it asks for
a refactoring (result parsing) which can be done in a second
change.

Change-Id: I8fa75ae80750336950f355c2aedc3dd4dc621cc5
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 2df7a0728d687de9a24d8432ef30bbd2ecd771c8)

Increase timeout to reach vnf API

It increases the timeout in cloudify-based and clearwater-based
testcases to allow running them in parallel (functest-virtual) [1].

[1] https://build.opnfv.org/ci/job/functest-latest-gate/54/

Change-Id: Ic637cb46a1380a683cb1e2b633cb97ac3be6affa
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 38cba4aa2c2cdfd17ea1aa0c29ee14ed7b2bf035)