Update to Xtesting 0.83

It supports mimetypes and then eases reading the reports from browser.

Change-Id: Ic38fca9fb05ca1ad76b589800b22bc78882c7806
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 9df8ee861d2161a105598474092e5e83da88a354)

Correctly override dir_results and res_dir

Both have to be modified else publishing artifacts fails [1].

[1] https://build.opnfv.org/ci/job/functest-opnfv-functest-healthcheck-latest-tempest_smoke-run/555/console

Change-Id: Ibd110e4b57cb443b12adea73f73c8cdf7f828652
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 793e17835b948be7c421d6b9e766878e82e56fa7)

Optimize lxml build if arm

Else it raises timeouts on travis-ci.org:
https://www.travis-ci.org/collivier/functest/builds/612068457
https://www.travis-ci.org/collivier/functest/builds/612116863
https://www.travis-ci.org/collivier/functest/jobs/612116916

Change-Id: Id34144ebcdf3f418d5a07068434eb7aa96b023d2
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 6fd2216a21aad00a0c6fba272f04ee0319fc119a)

Test identity project_tags and application_credentials

Both are supported by OpenStack and Functest gates.
It also sets the default values to highlight the coverage.

Change-Id: Iae080a8bde0c411acc7811e7a0e70e3471db8c98
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit c0069ab720070eaaa07f083e508ded5e89e39571)
(cherry picked from commit 041162760eb2b96fbe4baaed6971a90fb53421f0)

Upgrade cinder tempest plugin to 0.2.0

One test passing in 0.2.0 seems buggy in 0.1.0:

Can't revert volume 1c37f177-aef5-42f1-92d4-21dbd08777e7 to its latest
snapshot 7a9f97c1-86bb-4f99-9aeb-a4bdc45ae923. The volume size must be
equal to the snapshot size

Change-Id: I5d36c7e38bd58e1606b616550373f670b08b3bd7
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add tempest_cinder in compliance

It conforms with Cinder Microversions and Feature [1].
It cleans the testcases which require CNTT updates (Keystone, Glance,
Nova, etc.)

[1] https://github.com/cntt-n/CNTT/pull/577

Change-Id: I8e719e9f48d70a860c0f879117144bb3ce6f4875
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 91de272c725a9a4d9d5b97381e574802036da8b7)

Add keystone-tempest-plugin

It adds tempest_keystone which runs the tests proposed by
keystone-tempest-plugin [1].

[1] https://opendev.org/openstack/keystone-tempest-plugin

Change-Id: I83db584c37fe63a549ccf396b03e034778254b3a
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 22ec0c1008b81f368476d8cea84117a93d15dab2)

Add cinder-tempest-plugin

It adds tempest_cinder which runs the tests proposed by
cinder-tempest-plugin [1]. test_incremental_backup is disabled because
it currently fails vs Functest SUT (under analysis).

[1] https://opendev.org/openstack/cinder-tempest-plugin

Change-Id: I85b255eb05b9ab1c74c3829148da5230d6c7647e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit e46aa41172fa1bf63364505fbbf922323788ac98)

Update neutron-tempest-plugin-api regex (CNTT)

It conforms with the last updates in API [1] adding Neutron QoS and
Trunk as mandatory.

QosMinimumBandwidthRuleTestJSON is skipped as it's not covered by
OpenStack (and Functest) gates.

[1] https://github.com/cntt-n/CNTT/pull/463

Change-Id: I54ff5e1fdb9b1e7265c63e3f66dfcf2f10db07d5
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 0c07bc255968d21558d3aec8ac7e4dc7659a69a2)

Fix py version in path

Change-Id: Ie927a0abf9615a0a8f832b718622d022c5b0ca47
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 08c3ef387ff40fb0bd9d4a9579ecec4ab50f833c)

Add features volume testing

The next features are supported by Functest SUT:
 - backup
 - snapshot
 - clone
 - manage_snapshot
 - manage_volume
 - volume_revert

Change-Id: I0e83bb616a56b9e8651115bebf2373f85c642260
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 21dff047b6363c17a3fd56c4857df6b6e354eb67)

Set provider_vlans in tempest Neutron_plugin_options

Few tests are skipped if this value is unset.
Then it's needed to fully cover Neutron Trunk (Compliance).

Change-Id: Ife4becb7ff8b47c2d90fc6c5eb4f585685205ed6
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 2f7805141872eb52adfaa2545d547e6a72d96ca0)

Fix parent container in smoke-cntt/Dockerfile

Change-Id: I3e7cfd66f503d09f3a30b381fbeae9fa5a83cf68
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Buld cntt containers in a specific stage

They must be built after smoke.

Change-Id: I939ef6c4663ad940c9f1b95440980628c4880385
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit de56278767076c2edb00865d65b4d7495acb6d9e)

Publish functest-cntt-smoke

It tunes neutron-tempest-plugin-api to avoid skipping any test
(conformance as expected by CNTT). Until CNTT clearly defines the
optional and mandatory neutron extensions, it selects the
OpenStack and Functest gate values as default.

The next Neutron extensions are considered as optional (still verified
by functest-smoke):
- logging
- network-segment-range
- port-resource-request
- qos
- trunk
- metering
- uplink-status-propagation
- dns-domain-ports
- dns-integration
- router-interface-fip
- rbac-security-groups
- floatingip-pools

The next tests (tempest_full, tempest_slow, tempest_scenario, etc.)
will be updated in next changes.

Change-Id: I003d1e509cd6dc7bd58261f27676fb53cb79e68c
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 1456f68e90103afab958ae8a305c840e6fa29cf7)

Update to Xtesting 0.82.0

Change-Id: Ie94b35c9107c851bf0a412c1361629e0cf4154a2
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 74384557d789e000b43f1622124ba348c3a678a5)

Update Xtesting to 0.81

It contains a key fix about bucket creation.
It also changes the Rebaca link which sometimes breaks sphinx
spellcheck.

Change-Id: Iaa7c791ad9a70c9fb65288557c5c8e8cddb5f2d0
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 331877142ab37dd2c7a4b7ca773bb8e3c87d0012)

Update xtesting to 0.80.0

It allows publishing the artifacts via Xtesting.
It's required by the new Xtesting Ansible role [1].

It disables the pylint warning super-on-old-class which is falsy here
(xtesting 0.80 conforms with py3 rules).

[1] https://github.com/collivier/ansible-role-xtesting/commit/8c62525bb0d0b5f8dcc2c4436711d5d075de8811

Change-Id: I832e5e19467c7fd86a46574448faad4d6f2d4c0d
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit d0ee068c6e1c4a6e0a52156143a04feb6f9a78cb)

Pin sphinxcontrib-spelling (4.2.1)

Change-Id: I7587caf387c4fefbf382e56a3246fe1929854ed2
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 4e5ec2a6716789713917c99cb2efadbb72d2fc39)

Add spelling exceptions (travis-ci)

This words seem fine but it enforces the verification in travis-ci [1].

[1] https://travis-ci.org/collivier/functest/jobs/603020830

Change-Id: I44b8db5e63668899a27480a7f7da5d48f9f41f21
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 66631dfdbc2fcacc7a397ecaa6bcac9937177808)

Allow checking Tests count

It meets CNTT requirements (verifying conformance with a reference
implementation) and may protect vs synchronization issues (see gambia
refstack_defcore).

Change-Id: I842bc4ed91eec6bc545c489e3686d0d41dae7b44
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 7c67624b8ee7f7a9a7fb36bb25e9881a63c982d4)

Allow blacklisting tests if public endpoint only

It allows reusing the blacklisting system if only public endpoints are
reachable (ONAP Openlab testing). It contains a first list of
tempest-based tests which force the use of admin endpoints.

Change-Id: Ic1ab07dec3ae1f2a0ca50b80e08cd0ac396f2e56
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 9679178a1f99b38264a2afb56097700bef34868a)

Add neutron_plugin_options section in tempest.conf

It avoids skipping the next 2 tests [1]:
neutron_tempest_plugin.api.admin.test_agent_availability_zone.AgentAvailabilityZoneTestCase.test_agents_availability_zone
neutron_tempest_plugin.api.admin.test_networks.NetworksTestAdmin.test_create_tenant_network_vxlan

[1] http://artifacts.opnfv.org/functest/functest-opnfv-functest-smoke-latest-neutron-tempest-plugin-api-run-498/results/neutron-tempest-plugin-api/tempest-report.html

Change-Id: I83f3f44302336045e47514e0aa0b67737161f0e1
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 1e33a4884e3b7e49b2d4ae3725fe60b6fcfd5607)

Update Flake8

It avoids the next incompatibility:
ERROR: flake8 2.5.5 has requirement mccabe<0.5,>=0.2.1, but you'll have mccabe 0.6.1 which is incompatible.

Change-Id: Ic3bb14b032adfee64109549abc0a09d8cc86968f
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 4d98d29002bf3ce61e1671db0b35c9046e2fbd8b)

Check spelling in rst files

It fixes a few typos too and installs enchant in TravisCI and CircleCI
jobs.

Change-Id: Id5dbf5f926edc8b0b4e4337d11bf63e21ea7e173
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 83aa78773dd0fea7064b8fa9676c44c061dc5e66)

Leverage on Rally task tags

It avoids parsing rally task outputs which may hang (subprocess
communicate) as seen in rally_full and rally_jobs.

It simply selects test names as tags.

Change-Id: I88b54a8f155e557f8a606fdbd7d86c1f4d5dae3b
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 74df72ec294998787a8f0af5e2084db91ba0778b)

Count all hypervisors by default

If one hypervisor is down, few tempest test fails.
User is free to set SKIP_DOWN_HYPERVISORS if it's down on purpose.

Change-Id: I7b6a4d0d8f67755d8c1550fd1bc6fd707634f68b
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 7332716dc835cd72b0beefc38afda2697bd99e02)

Update Shaker image (1.3.0 + Debian Stretch)

It udates Shaker to 1.3.0 and switches to Debian Stretch as base image.
It also eases debugging as ssh basic auth is enabled (shaker/shaker).

The arm image has to be built before enabling the testcase for arm.

Change-Id: I894bae86c7e8f7cafbba2b4e00e3334afed0b6e2
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 574243656df6acae28094c62f33410ef1fc3e7b5)

Update rally versions to detect cinder endpoints

It mainly backports "Update rally-openstack to support block-storage"
[1] to fix the issues when cinder enpoint is missing (reported by
Dovetail and Orange).

[1] https://gerrit.opnfv.org/gerrit/c/functest/+/67614

Change-Id: I3369d2063e8829f1f0881a757f1f91c187127e23
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Ease debugging Shaker

It turns Shaker debug on to ease troubleshooting it.

Change-Id: I7f24a8d3776742d569d2d47a60d6985584514014
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 8c65928cc7346af2d6cd00a3aa9924ce6d158c83)

Merge "Count all active hypervisors" into stable/hunter

Count all active hypervisors

Else tempest_slow fails if one hypervisor is down (detected in ONAP
Openlab). It also improves Shaker, Rally and Vmtp which count them.

Change-Id: Iee7c20e0357d9237501c5c451580d8f6409ac86b
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 22b37f0482f84fc935ae9ece3c9722098c0573bc)

List services via OS_INTERFACE in Rally

Rally now leverages on list_services as proposed in utils [1]

[1] https://git.opnfv.org/functest/commit/?id=0837a745c81ed2a6e7df097f60d227d5997c805e

Change-Id: Ib17f9b530c2933d4a49eb5b744c2ae80b24ad560
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 9d839eb3a0109609513c23f9362573ae3aed0904)

Fix falsy links

It completes the previous commit "Allow getting service via any
endpoint" [1].

[1] https://gerrit.opnfv.org/gerrit/c/functest/+/68542

Change-Id: Ib396ed75e2385f99bce51e09d37f7f05808b5b5e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 07f4468978fdc43d7a9885f6e4efa87b5e83d2a9)

Allow getting service via any endpoint

It overrides the default implementation provided by Shade.

Change-Id: I3ad2f8ba543be4483f108c4bd7765018dddc5b19
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 44d577770f19136483b3d48aa627b035513e27b5)

Swith to coreutils timeout

juju is not correctly stopped when no internet.

Change-Id: Id06c6e829ab8a992107f655aac6ec4539e292d82
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit cda22d7db0bcca380e1caef76e171cd7753b6221)

Merge "Print OpenStack version in connection_check" into stable/hunter

Print OpenStack version in connection_check

Functest is becoming very used and sometimes vs older OpenStack
releases (ONAP Openlab). It will ease debugging and easily find
backward incompatibilities.

Even if that value could be checked for OPNFV Release Management,
testing older SUT is not considered as false from a Functest statepoint.

Change-Id: Idd782cc98ec4d36f726e233fc5d011308e9d6b71
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 3cec072a2fdd7d814e8597d363f417e01df89ef8)

Remove any cores quota in tempest_scenario and shaker

Both can reach the default limit if lots of computes available.

Co-Authored-By: Vincent Huet <vincent.huet@orange.com>
Change-Id: Ifd8a1080a08f55bf4b0efe1858e79fa4aff75895
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 48c819f97d53b558e7be02f7f0eb5b2f72cabcac)

Add punctuations in password generator

It adds a subset of string.punctuation to conform with a few
password rules (see ONAP Openlab).

Change-Id: I7751031bcb9b908d4162d70f8acaa4bdc87e3c79
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit cf052c809b027d6167c93399715bcd330cc0782c)

Harden OS_ env vars for VMTP

VMTP doesn't take into account domain ids and then forces the use of
domain names (detected when verifying ONAP Openlab).

It prints the next warnings and then fails.
2019-09-14 08:43:50,162 WARNING OS_PROJECT_DOMAIN_NAME is missing
2019-09-14 08:43:50,162 WARNING OS_USER_DOMAIN_NAME is missing

Change-Id: I283d86ac0d96071480eefb571da9f2ff92705b08
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit d0ce372aeae75c099ade1b742b2bbd826ddb0380)

Remove any instance quota in tempest_scenario

The next testcase can reach the default limit if lots of computes
available [1].
tempest.scenario.test_server_multinode.TestServerMultinode.test_schedule_to_all_nodes

[1] http://artifacts.opnfv.org/functest/functest-opnfv-functest-smoke-hunter-tempest_scenario-run-325/results/tempest_scenario/test_raw_list.txt

Change-Id: Ibf68e2a367199afee3f6198ebf683be6cd938d94
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit bbe8c3e48543eca31493cf33b02e1d9a48de2280)

Allow skipping list_services

Shade forces the use of admin endpoints when listing services [1].

A new env var is added to allow running Functest when only public
endpoints are reachable (e.g. testing from a VM as proposed for ONAP
integration).

It seems the best approach as list_services provides key data and
we do avoid blocking requests.

It seems easier and more generic than listing all calls in
testcases.yaml.

[1] https://github.com/openstack/shade/blob/master/shade/openstackcloud.py#L9956

Change-Id: Idcbe5d364f4230ffe1da34e7da0e99e863f15c5e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit f3072c8b1f32feacc9785165477efee9a328eb2e)

Blacklist boot_and_associate_floating_ip if no floating ip

Change-Id: Id907abff44490a57e8ec2cdb00396d9e4b422815
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 48a9f1d3ad295d30c8e80a1117830da4bdc57420)

Blacklist create_and_delete_stack if no floating ip

One HeatStacks.create_and_delete_stack call asks for floating_network.

Change-Id: I75d01b4ecb1f484eac3af6efc53cf4a94206b158
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 9ceacae40f638695472d5c6dadf3ae2c3521bd81)

Prevent occasional rally hangs

Set timeout on subprocess invocation instead of spawned child process.

Increase the timeout value for rally_full to 2h since the execution
typically takes ~90min [1].

[1] https://build.opnfv.org/ci/job/functest-opnfv-functest-benchmarking-latest-rally_full-run/22/

Change-Id: I0ca90bc2d85b4625336eb0396d8b2816a486b746
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>
(cherry picked from commit 9f07e41cc85f3dbe6e5eb151a0c59743521a6c00)

Merge "Switch to the classical ping (iputils)" into stable/hunter

Support regex in tempest blacklist

The expression both in the test cases as well as applicable scenarios
support regex in blacklist.

Change-Id: Id76297a1cfbf908bda67641bc7ba686db83d76e6
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>

Switch to the classical ping (iputils)

Ping provided by busybox doesn't support -M (pmtudisc_opt) which is
asked by [1] (part of tempest_slow).

[1] tempest.scenario.test_network_basic_ops.TestNetworkBasicOps.test_mtu_sized_frames

Change-Id: I75340f239ae372b56cffe9c30c6242878c06ef74
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 4ba4fac64df972d805bf7e88e9b5a987724e2aa9)

Conforms with latest changes in Xtesting ansible role.

It selects the generic way to set execution-type [1].

[1] https://github.com/collivier/ansible-role-xtesting/commit/292ab576fb8f0a13519bacc5ec46561a3ed8f838

Change-Id: I75e57f05d99381c9d0608aa4a88f0b12d9b6a9cf
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit c9c61b560d88b929de3457276a6372583c45f924)
(cherry picked from commit b44b6d717fc92904d4c70d4c26bdad4619929160)

Clean orphan security groups

It removes all security groups which are not owned by a project.
This approach seems suitable as it works even if dynamic accounts
(tempest and rally). All other OpenStack resources are still
removed by the underlying framework.

It lists all orphan security groups in use as debug to avoid
misunderstanding the testcase results (it could happen if cloud admin
removes accounts without cleaning the virtual machines).

Change-Id: I033d96e077b4277d59233a3de4ca6d41ed91f743
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 1e36927d4f17775c3f3ca3201b36e153ff9fd0da)

Fix last redirects in docs

It takes into account last warnings from Sphinx linkcheck.

Change-Id: I6927c4cac910cff9f2c25d0009d5052556483cf3
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 0690a7975a4ceacea91898cef626fae5330f1ada)

Allow rally_jobs without external network

rally_jobs can verify network providers by skipping:
  - NeutronNetworks.create_and_delete_floating_ips
  - NeutronNetworks.create_and_list_floating_ips
  - NeutronNetworks.associate_and_dissociate_floating_ips

Co-Authored-By: Juha Kosonen <juha.kosonen@nokia.com>
Change-Id: Ibda66e47f4d1101b53435ef4cd144dacbabff165
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 0dfe9d377b0170b74455129222f12ff1ccb99814)

Fix rally task file manipulation

Remove empty workload entries when applying blacklist in RallyJobs.
Rally considers task file as invalid if it contains entries whose
workload list empty.

Change-Id: I34867c0aeea9c5ecf1294959d680e6de535be9cd
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>

Run Functest unit tests and linters via CircleCI

It runs tox and publishes the artifacts.
It's worth mentioning that all docker images are already built via
Travis CI (amd64, arm and arm64) [1].

https://travis-ci.org/collivier/functest

Change-Id: I48720f4f13dd1a93469b042000dd86a01854d8f0
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 17fd4cc911eca9d289fc481ee7a615299f17415a)

Increase verify venv list in travis-ci

It cannot run perm due to the false umask in travis-ci [1].

[1] https://travis-ci.community/t/file-permissions-just-gone-up-to-664/1547/4

Change-Id: I788d846b1737cdff49959376e5bc92d8d1c4c970
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 2d11bc6f387552f95127a6a92a38df11f658597c)

Run perm when checking all changes

It should be forbidden in releng jjbs if still needed.

Change-Id: I7622f43603d41bb169d8a1341a38ed2d451459b2
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 7c88b0f951fc7b7818594f563112a379704e0879)

Select the latest tempest version

It selects the first release including our fixes.

Change-Id: I553abc2df3c6adc727a24b9a27a7737f78fa3f5e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit b231ceb959a486b934c421a4d439b11dc3ac6916)

Enable py36 unit tests

It benefits from the swith to lf-virtual1.

Change-Id: Ib38bf0adb09df62173894d048fb06c48b3a4b462
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 4138ba00dd8db7fcf043a071f4c44b52e33265bc)

Merge "Add proxy in cloudify_ims" into stable/hunter

Add proxy in cloudify_ims

Add http-proxy configuration for pip in cloudify_ims testcase.
Correct some errors.

Change-Id: I980fc78f48c5be5d6166388f8b72f40cb613162c
Signed-off-by: Thierry ALLENO <thierry.alleno@orange.com>

Updated from global requirements

Change-Id: Id43d175f0a61915fc703169fa6e115ee3bcd7556
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Conform with new ODL urls

It now clones https://git.opendaylight.org/gerrit/integration/test

Change-Id: Icff918305de1092cf6e985490188d409178273e1
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit ccaa81668ae3b084056789b187de5c794beeec4a)

Reuse same cidr in juju

It seems fine with latest juju updates and eases setting no_proxy
rules.

Change-Id: I30e66568ec7339fc038b27e5ca47b26959842bf8
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Allow scenarios without external network

It allows creating testcases leveraging on Functest scenarios without
external network. Then Rally can verify network providers by only
skipping NovaServers.boot_server_associate_and_dissociate_floating_ip

Change-Id: I07a9348214f7557195c7201466f7e37b2b980206
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit a30e0c35f248cc9225e628e3a64723b2184d6087)

set proxies in ubuntu for juju_epc use case

Modification in add_proxy.sh in order to set proxy for juju_epc in various middleware(maven, subversion,...).
And add some control for modification of cloudify container.
Remove some trailing lines and define http_proxy using http_proxy_host and http_proxy_port.

Change-Id: I9d85387f107b1b050ee96bf0ee6df9ba662b0df4
Signed-off-by: Thierry ALLENO <thierry.alleno@orange.com>
(cherry picked from commit 16bd94efa559df105c28b90c891c84088b0c651e)

Add warning messages in vyos_vrouter

Both Cloudify based testcases print the same warning messages if
NEW_USER_ROLE is admin. An additional whitespace is removed too.

Change-Id: Idf2a2ea4373efdc579f0ac3e0a69ec08a7fbf105
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit b95cdce13a8c51f285e285a3c4332cf1732abadb)

Set proxies in Cloudify container

add_proxy.sh now modifies Cloudify containers to allow proxies.
It follows "Update and enable Cloudify-based testcases" [1]

[1] https://gerrit.opnfv.org/gerrit/#/c/66909/

Co-Authored-By: Thierry ALLENO <thierry.alleno@orange.com>
Change-Id: I54cfcd73685695c5f66f24acd32f126786acf48e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit f246dd3889df5302756c9c73d70b346695aca146)

Fix link in docs (E2 Testing in Kubernetes)

It conforms with "Cleanup tombstone files in community/devel" [1] and
fixes the gates [2]

[1] https://github.com/kubernetes/community/commit/4bb72158434b2d29094b06af4c9bda284e5417fd
[2] https://build.opnfv.org/ci/job/functest-verify-iruya/111/

Change-Id: I052bdac9a43a346ce07f93d8183f53767c757930
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 655020449ba281dce52821cd36f5dd01bffebee9)

Merge "Remove quota about instances in shaker" into stable/hunter

Remove quota about instances in shaker

The default quota could be inadequate if lots of computes.

Change-Id: I510d3ebd14c2a910b7be2bacc0b99d3059a7a881
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 234be6e5895a91ca3a83f3bef12a10631bbe6522)

Update tempest commit id

It includes "Fix region leaks after testing endpoints" [1].

[1] https://github.com/openstack/tempest/commit/e8088d1218eba0b8e4ed59fa5ca30ac9b664b7fb

Change-Id: I063a9c4e2f09a27c79ea77ba0cf9307642950070
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit bf0b79d887851ebf36dca853328d388a727fd483)

Fix ShellCheck warnings

Change-Id: Idf571b39d38b9184b2e08c183d4afe44784fbfe6
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit db7c7d3031c8f9a562c6e3db0922e1cfb92ea92b)

Turn all bashate warnings as errors

Change-Id: Ic350ed8269347f5853a6d7b4e75cfccba6d85dcf
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 12b1a3258219cd301866ea79924e08cfb2a7420e)

Add rally_jobs in config patches

Change-Id: Iaf99ee1d6ea0b2c81874daf959f7430c564a1051
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit e39bc8e266d451f2e0ade7b26aae6d6895d07234)

Add one missing output decode in rally.py

It partially cherry-picks "Conform with latest Neutron rally job" [1]

[1] https://gerrit.opnfv.org/gerrit/#/c/68021/

Change-Id: I4943f737be29bcadfead427a7852964e6438a018
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 0de102e46f3e8c3d7389a67a6f375fed69db4617)

Blacklist test_list_metadef_namespaces (Patrole)

It seems dependent on test order (404 if no namespace) and sometimes
fails in gates [1][2][3].

It will be enabled as soon it's fixed upstream or if SUT is wrong here.

[1] https://build.opnfv.org/ci/job/functest-opnfv-functest-smoke-latest-patrole-run/
[2] https://build.opnfv.org/ci/job/functest-opnfv-functest-smoke-iruya-patrole-run/
[3] https://build.opnfv.org/ci/job/functest-opnfv-functest-smoke-hunter-patrole-run/

Change-Id: I68e71e9b0753089e5620d6689ddff37fe66aeab7
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 02b9592a129472ffd26206541f8efefe1f759957)

Update all patches about functest configs

It takes into account the last updates about snaps, cloudify and
refstack.

Change-Id: I959f8ed1c98cd1879b51b62252aeb38918af6a2c
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit dbb00ca3ee3e3349b42c8133dee6b1abdbcb10c3)

Pin ruamel.yaml.jinja2

It's out of openstack/requirements and last version breaks our stable
containers [1]. It will be updated in master in a second step to ease
cherry-picking.

[1] https://build.opnfv.org/ci/job/functest-verify-unit-tests-and-docs-hunter/322/console

Change-Id: I76e1965d49e6be6f185611bcfcd056d81bc599fe
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 3472870b0e42c135d004e0006ad3e3607036e553)

Updated from global requirements

Change-Id: Ibc60387cd43bd18d49631afb1050c0cec0e371e1
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Publish rally logs

Both Rally and Tempest publish Rally debug logs.
It also moves the logics from tempest to rally.

Change-Id: I5c057d830202baddd73577ade1b09ce304e3c5a5
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit bc88eff8f5850f8207431bb8d1958fe6b9cd09e8)

Merge "correct permanent redirects in documentation" into stable/hunter

correct permanent redirects in documentation

Change-Id: I5bcb402f51541483a2797629c44485e5d75913e3
Signed-off-by: VincentDanno <vincent.danno@orange.com>

Decode tempest exception output (py3)

https://build.opnfv.org/ci/job/functest-opnfv-functest-smoke-latest-refstack_compute-run/30/console

Change-Id: I77264525917af5f67cdecae85ef7a50439499db8
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Remove PyNacl contraints in Features

It conforms with "Install PyNaCl via package" [1].
functest-feature may raise timeouts when cross-compiling PyNacl [2].

[1] https://gerrit.opnfv.org/gerrit/#/c/67956/
[2] https://travis-ci.org/collivier/functest/jobs/538119733

Change-Id: I986677b869f62caee6be219ee1de622b7bc20ca4
Signed-off-by: Cédric Ollivier <ollivier.cedric@gmail.com>
(cherry picked from commit 7a628f087403089d282cda14bcba858d8b0bc6c3)

Stop downgrading pip

The pip package poposed by Alpine is fine.

Change-Id: I415757b8f4028c76e9d8cec4895306d843d42ac2
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 5819ff6a14e7e89b6c7004336bfcabed9f16baa4)

Install PyNaCl via package

Building functest-core container sometimes reaches travis-ci timeout
[0]. It currently selects the right version in master and
stable/hunter.

[0] https://travis-ci.org/collivier/functest/jobs/531417730

Change-Id: Ie6c8e729f76c98c6f8c8e9ca01b2c998081f7ce8
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 6aad708727e41eaa8f61a104323386568a163dd3)

Run bandit when verifying changes

It reports only MEDIUM issues or higher like nova [1].
It selects bandit 1.1.0 as defined in nova and neutron lower
constraints [2].

[1] https://github.com/openstack/nova/blob/master/tox.ini#L221
[2] https://github.com/openstack/nova/blob/master/lower-constraints.txt#L8

Change-Id: I6fc505f684701792d3e03659eb0feea8321452c0
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 0440ffcac18991395799e5aafc9243e028917ab6)

Set utf-8 in decode and encode calls

It eases backporting in iruya and hunter as a few logs can't be
decoded as ascii [1].

[1] https://build.opnfv.org/ci/job/functest-opnfv-functest-vnf-iruya-juju_epc-run/56/console

Change-Id: I52a6f9a25130cbf62e8ce3b9972064ab73177665
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 5853dd1ef3c522a975f9685250b1b3e85588f738)

Decode Bytes in logging calls

It fixes a few incorrect types in log calls [1].

[1] https://build.opnfv.org/ci/view/functest/job/functest-latest-daily/163/

Change-Id: I01790f6454694f434d31366f9c1cf9d98ff5a9cf
Signed-off-by: Cédric Ollivier <ollivier.cedric@gmail.com>
(cherry picked from commit 7d58f89103a8c44fd166c3e06b492ade63e5c5b3)

Merge "Enable Vmtp if py3" into stable/hunter

Enable Vmtp if py3

It leverages on last Vmtp review which adds py3 support [1].

[1] https://review.opendev.org/659970

Change-Id: I8319b9e7eb88b9015961188d47657a8c67e0f8da
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit f994b9180b621ae6bb6397acd23de8f1a625c4cd)

Update to Python3

Functest containers leverage on Python3 instead of python2.
https://mail.python.org/pipermail/python-dev/2018-March/152348.html

It also updates robotframework librairies to latest release and Vmtp
to master ([1] is needed)

It patches cloudify rest client to support python3.

Vmtp is currently disabled because it currently supports python2 only.

[1] https://github.com/openstack/vmtp/commit/a5d062881d91bf4f547d92c6e289bea30feb5d6e#diff-b4ef698db8ca845e5845c4618278f29a

Change-Id: I39964a212ec2d4dbf53c9ea7c63f02e0b6a05b48
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 2a0702ea914a574ffa7c6d6f83a5c606e24ebd0a)

Update Pylint score (10/10) in Release notes

https://build.opnfv.org/ci/job/functest-verify-unit-tests-and-docs-master/2239/console

Change-Id: I5f124250aba3aa9a5ca0bc01221c06843bba1b35
Signed-off-by: Cédric Ollivier <ollivier.cedric@gmail.com>
(cherry picked from commit ab5dfff578e7c9686882c844ff2c0fed1f663e6f)

Avoid running local dnsmasq when testing IMS

It may be unsafe and it's useless for testing IMS if BONO_IP is set.

Change-Id: I8b0f010956defbfa1fd22b5aa5cbea70bd2968a4
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit a82827bd4f93c318f0bc2554928ab2213d1ee766)

Update tempest to avoid resource leaks in EndPointGroupsTest

It includes "Fix resource leaks in EndPointGroupsTest" [1] which
removes the 2 remaining tempest services.

It's worth mentioning they raised side effects when trying to connect
to Horizon.

Change-Id: Ic85fa38a4690c5532d10d21d2eec64d99ab1e8cd
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 084ce7dd3976d65409f54d8ff5010e709ec76cd6)

Update defcore.txt to the latest cached one

Change-Id: Iea42b7ef8a76ff1c7bd56e88290c716776dd9291
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 90389efe0257f730418181291b82dda9c390b953)

Allow building containers when refstack.openstack.org is down

It has been down for days and break our gates again.

Change-Id: I66e286f3624c776c7cec5164df53eb117550e78a
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 6b578b9068164eab33b2cc2d6002f59b9af88f8d)

Revert "Disable Patrole network.test_agents_rbac"

This reverts commit 4fd59de2b5751437ca6faf71415129cf6f64cf8f.
It should have been applied in master and iruya only.

Change-Id: I8f467e5cbe2f230a0a3f119a3f4ad80da8a5a6bf
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Update neutron-tempest to 0.3.0

It includes the fix "Cleanup Tempest tests legacy resources" [1]
which cleans all remaining routers and security groups detected
in Functest gates.

[1] https://github.com/openstack/neutron-tempest-plugin/commit/2de722ef0af284b4f68e952df53ad4f0d9d452be#diff-44d072bece4c5873f0e78df8ad7cacf2

Change-Id: I4da824447ab67e4b0aba044c39467f8f105b5630
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>