Config flavor metadata via functest - docs update

Related to the merged patch :
"SNAPS via functest with flavor metadata configurable"

Functest documents are updated accordingly.

Change-Id: I874f041935f64b7240a5ec5de6e9c89b0f4a09fd
Signed-off-by: Panagiotis Karalis <pkaralis@intracom-telecom.com>

SNAPS via functest with flavor metadata configurable

The required data for the SNAPS flavors are sent through
the config_functest yaml file in order for the SNAPS scenarios to be
configured accordingly.
If the config_functest yaml file includes empty flavor_extra_specs
or there is not included this parameter, the SNAPS scenarios will be
executed using the hardcoded value.

Change-Id: I4ef46d1fe93497d658414170a72c4520d8f37808
Signed-off-by: Panagiotis Karalis <pkaralis@intracom-telecom.com>

Revert "Stop rolling snaps (bypass bugfixes)"

This reverts commit 8c285c3fb56ce144ff7eb095b6fa401e29a03fc4.

Change-Id: I2acc1cdc7fe2d12c6eb3d100f76c2dc3e502522f
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Update cloudify-rest-client to 4.3.2

Change-Id: I8ac0becb57897233c2a12781dc022d9fdfd32f85
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Select the right quaff repo

Change-Id: I0aa090bf1f8c6220918ebc1b041bab4a43d444b5
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Force unf_ext 0.0.7.4

Else it cannot compile vs arm [1][2]

[1] https://build.opnfv.org/ci/job/functest-vnf-docker-build-arm64-master/231/console
[2] https://github.com/sile/unf/pull/2/commits/74ed3e3b1ec31474cf9b8d8a90aee535607fdfe8

Change-Id: I8b0890c3b7a2a148975635c0f4eafbcc5568fc00
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Stop using a forked obsolete repo

It leverages on the official clearwater live test instead.
It now parses the output directly.

Change-Id: Ia7746c13362323daf72b3536d294401f0b7ae42f
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Switch to Python3 divide in cloudify_ims

The code simply asks for python3 divide else only live_test = 100% is
considered as successful [1].

[1] https://build.opnfv.org/ci/view/functest/job/functest-apex-baremetal-daily-fraser/169/console

Change-Id: I84690d20791cd3d6a68823eec40f0e4b0f876b72
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Switch from OS_ENDPOINT_TYPE to OS_INTERFACE

It also set endpoint_type to public in tempest.conf if unset.

JIRA: FUNCTEST-975

Change-Id: I91bd1d7171b4bcf58dbe818696d5b864d5036619
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Return true if at least one passed test

JIRA: FUNCTEST-974

Change-Id: I9915dbb91516baf5307a577c41ede5dca51a2f07
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Update clearwater to 129

It switches to Sprint Ulmo [1] which fixes deployment issues in
Orange ONAP Openlab.

[1] http://www.projectclearwater.org/sprint-ulmo-release-note/

Change-Id: I3c32faf4e26e64bb12438238cf1ba66b9771da0d
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Update read and write data path in cinder test"

Update read and write data path in cinder test

Update the path for read/write data
Fix a false possitive result on read_data
Fix read device name
Unmount volume after writing data

JIRA: FUNCTEST-908

Change-Id: I555b5a3daaeff3aa58891e65c0b70094372c04c9
Signed-off-by: Delia Popescu <delia.popescu@enea.com>

Fix tempest result parsing

Detailed results of verifier are in tempest-error.log.

Change-Id: Id5dbdfd3389d1b79dba2bebc5f5ffa7811ef06c8
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>

Bypass Cloudify's upper-constraints issues

It installs cmd2 via yum instead as last cmd2 release only supports
python3.

Change-Id: I495d71f11ed48ba47e1aa27965675d4bef7c141e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Fix _do_execute() return code in vping_ssh

Change-Id: I781e51bb56f6cdac8b347e7fd85e70c07eb69e23
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Simplify logging

In order to collect logs from features running through
functest framework (mainly for troubleshooting purposes),
the logging mechanism has been updated accordingly.

It should be noted that feature logs are printed in functest.log.
All logs are now printed in functest.log whatever the namespace.

JIRA: SFC-125

Co-Authored-By: Cédric Ollivier <cedric.ollivier@orange.com>
Change-Id: I6cb32e5553749023d490d553ae4653750c52e844
Signed-off-by: Panagiotis Karalis <pkaralis@intracom-telecom.com>
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Print vping output instead of Paramiko object

Change-Id: Iddc1abdf443e482e8748434a4ba7d85709d8cd0e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Stop rolling snaps (bypass bugfixes)"

Stop rolling snaps (bypass bugfixes)

Snaps now requires admin role for creating routers [1].

[1] https://git.opnfv.org/snaps/commit/?id=5a81c2abb920cfe5ea975c37b390838d586a98b1

Change-Id: Ia9a5225e0e31fa3e1c50abb3814e12c98d53e76c
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Add cinder_test testcase"

Add cinder_test testcase

Create 2 instances with Floating IPs
Attach data volume to instance 1
Write data on the volume
Detach volume from instance 1
Attach volume to instance 2
Read data from volume

JIRA: FUNCTEST-908

Change-Id: I10efdfb3b7f9d7e6ab5c6a538052437585d52fb0
Signed-off-by: Delia Popescu <delia.popescu@enea.com>

Set image metadata in tempest

It applied the same operations as [1].
Only one config is used between rally, tempest and vping.

[1] https://gerrit.opnfv.org/gerrit/#/c/57613/

Change-Id: I4d5fd2117d404b7eaa79326e21a35272232d0b92
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Bypass Cloudify tenancy issues

It creates a second user to bypass possible bugs and correctly
exits on failure if it cannot connect to manager via ssh.

It leverages on the _member_ user as much as possible.
It also switches all flavor names to avoid conflicts.

It also increases debug logs.

Change-Id: I59cb071248b5ae50952b9f16eb29f7be3f3644ae
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Leverage on _member_ user

It leverages on the _member_ user as much as possible.
It also switches all flavor names to avoid conflicts.

It also increases debug logs.

Change-Id: Ica595b0aba81e845ddb1c858fd5d0deb69872319
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Refactor task results manipulation in rally"

Refactor task results manipulation in rally

Use data provided by report generation since the output of task
results is not available as valid JSON if task didn't finish
gracefully.

JIRA: FUNCTEST-966

Change-Id: Ieb906bc209cc26055babd5f4e6b2bb556724f9a8
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>

Merge "Fix UserConfig objects"

Fix UserConfig objects

UserConfig is expecting domain_name as arg instead of domain.
Else all vnfs cannot work against non Default domains.

Change-Id: I4bb53df9d9c03524b19ec32f8d346d94ba78d188
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Updated documentation for juju_epc tests"

Updated documentation for juju_epc tests

Change-Id: If9399b7b385cb2660e76fcd42776c0dfcb4f7677
Signed-off-by: soumaya <soumaya.nayek@rebaca.com>

Fine-tuning the juju-epc codebase for better error-handling

The changes are mostly basic/cosmetic in nature.
 - Add some additional info in loggers.
 - Remove timeout from few commands(such as juju deploy)
 - Add exception logging for few commands(such as juju bootstrap).
 - Change rsync to cp for feature file transfer within ABot.

Change-Id: Ibeaae17f1c25d04b7830ed42719b70e6c99228cf
Signed-off-by: soumaya <soumaya.nayek@rebaca.com>

Merge "Update ODL testcase to OpenStack Shade"

Update cirros image version for ARM architecture

Change-Id: Ia7a65a4f83798cb80ca7470d475c2c2d8c9fb6ea
Signed-off-by: Delia Popescu <delia.popescu@enea.com>

Update ODL testcase to OpenStack Shade

Change-Id: I7832b5ed274e181449f9db9fb03a2d27038520ae
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Leverage on local descriptor

It simply seems dummy.

Change-Id: Ifb83dd0310f523f211911a35e7b481f9da6f9704
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Install Cloudify descritors in functest-vnf

It completes [1] to fix gates [2] and stops getting thirdparty vnf
master (dependencies).

It also prints data to ease debugging.

[1] https://github.com/Orange-OpenSource/opnfv-cloudify-clearwater/commit/abd39d772c77317a25745feaaf312165e7588346
[2] https://build.opnfv.org/ci/view/functest/job/functest-apex-baremetal-daily-fraser/110/console

Change-Id: Ib317a491e54820f4edb01fcecfca9d2a08b40c0f
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add image extra properties back in vping_base

Image extra properties are missing for ARM
Set image_url for ARM
JIRA: ARMBAND-383

Change-Id: I0e2730c3f22214ad61d72424ea76173f1783d0ca
Signed-off-by: Delia Popescu <delia.popescu@enea.com>

Merge "Switch to project domain name"

Merge "Improve ssh timeout in vping_ssh"

Switch to project domain name

At least Fuel, Apex and Joid don't export OS_PROJECT_DOMAIN_ID.
https://build.opnfv.org/ci/view/functest/job/functest-joid-baremetal-daily-master/353/console

Change-Id: I8441d2de1841d5a9ce78c6929fd78da01c45548c
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Make volumes appear as SCSI devices in aarch64"

Improve ssh timeout in vping_ssh

It seems that 10s is not enough for Fuel.

Change-Id: I46d3d2c9091946befb0e056a8c8cc56c59087471
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Simplify vping_ssh

It directly calls ping from the ssh socket.
It fixes a possible missing security rule.

It stops blocking if vpings are in failure.

Change-Id: I64092a155bb134fa8b7d31d0d13f695e019540d1
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Functest fail to parse refstack results"

Switch to Shade in rally

Use Shade for managing OpenStack resources in rally.

Change-Id: Ic8b7aaef6886f6ca4930b2ea463317b75ed8d3c9
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>

Implement get_external_network via shade

It fixes the current issues as EXTERNAL_NETWORK is mainly unset by
all Installers [1].

[1] https://build.opnfv.org/ci/view/functest/job/functest-fuel-armband-baremetal-arm-daily-fraser/31/console

Change-Id: I8ee62623701c15b9ff962d0a0e07a77934ff03ac
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Functest fail to parse refstack results

1. The regular expression can't work well for refstack results
2. Refer to http://testresults.opnfv.org/test/api/v1/results?project=functest&case_name=refstack_defcore&last=1
3. There are 88 success test cases but the list of success is empty
4. Refstack test case name is not always begin with {0}, it maybe any number
5. The test case whose name has the keyword 'fail' will also be list in 'failures'

Change-Id: I5187aaaabdca762256be9162cc85ba42263169bc
Signed-off-by: xudan <xudan16@huawei.com>

Make volumes appear as SCSI devices in aarch64

Adding volumes in openstack by default uses virtio_blk and the
devices appear as /dev/vdX. In aarch64 however a qemu pci slot
is already in use so the tests cannot assign more than one volume
to a VM. Forcing the drives to use virtio-scsi solves the issue
and allows more volumes to be attached as /dev/sdX. The variable
defining the drive is VOLUME_DEVICE_NAME and is passed as
environmental variable when the container is created.

JIRA: ARMBAND-376

Change-Id: Ia688cff338ff319e22a3b26796fa197297c23ce0
Signed-off-by: Charalampos Kominos <Charalampos.Kominos@enea.com>

Rewrite TempestResourcesManager

It now leverages on OpenStack Shade to allow gating OpenStack master
as asked by TSC. Switching to OpenStack master (OpenStack SDK Rocky)
requires to change only one line.

It stops dedicating the network to the user possibly created because
the support is incomplete (the users have to be registed in
tempest.conf and the multiprocessing has to be enforced).

It also writes the second image and the second flavor in tempest.conf.

Change-Id: I9fe2c90a6073ebc240e9aa8fdf2ef93d5dd5f15f
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Rewrite vping_ssh and vping_userdata

They now leverage on shade to allow gating OpenStack master as asked
by TSC. Switching to OpenStack master (openstacksdk) requires to
change only one line.

It deletes the related unit tests as they have to be fully rewritten.
They will be added in another change.

Change-Id: I0c60681d6e1c0944960770429ef972947dd85321
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Set image_url as filename

It will be reused as soon as vping switches to openstacksdk.

Change-Id: Ib84f4b35b22ead1741579ec9140d3626f9102469
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Add debug logs in cloudify_ims"

Merge "Switch from deploy utils to the right objects"

Merge "Add Rally GnocchiResource scenarios"

Add Rally GnocchiResource scenarios

New scenarios:

GnocchiResource.create_resource (rally_full)
GnocchiResource.create_delete_resource (rally_sanity, rally_full)

Change-Id: Ica03bdd60224d97ef0ec0d45c2cd25c295723ffc
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>

Check shell scripts via bashate

It also removes functest/cli/functest-complete.sh.

Change-Id: I5d9313be6a155b4adf1b82ce2b111ec06823cd8f
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Switch from deploy utils to the right objects

It also prints the full exceptions and removes useless casts.

Change-Id: I19ff1ae90670833f998c0d17592da82207235229
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add debug logs in cloudify_ims

Change-Id: I47c6d598ce52f292bf2abdd2e9ecbadff6250712
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Update graphs in userguide"

Merge "Fix tier/testcases list"

Bypass NoneType errors when creating router in rally

It converts private subnet name to str as it's mandary till [1].
It could be reverted as soon as [2] is merged in snaps.

[1] https://gerrit.opnfv.org/gerrit/#/c/56091/
[2] https://gerrit.opnfv.org/gerrit/#/c/56171/

Change-Id: Ia728415207f8ecb5b5ac55982f82337c45671c4c
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Bypass NoneType errors when creating router

It converts private subnet name to str as it's mandary till [1].
It could be reverted as soon as [2] is merged in snaps.

[1] https://gerrit.opnfv.org/gerrit/#/c/56091/
[2] https://gerrit.opnfv.org/gerrit/#/c/56171/

Change-Id: I849944fa9d4d2be21fe1a37b76c4cfd231b6d56f
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add timeouts in juju_epc

juju_epc still hangs if OpenStack isn't well deployed [1].
As releng doesn't publish logs if the job is aborted, timeout has to
be added mostly everywhere.

[1] https://build.opnfv.org/ci/view/functest/job/functest-apex-baremetal-daily-fraser/31/console

Change-Id: I0296cd811bda0234aab98f184b3ab247a5b32017
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Update graphs in userguide

1. Functest structural concept
2. Clearwater architecture

Change-Id: I88e39d6d08f1eb28a389d2b8a7a1669295f6aa49
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Fix tier/testcases list

Change-Id: I15da2df4905efbca4415739fd7c6391b51168c82
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Merge "Update version in setup.cfg (Gambia)"

Merge "Last Release updates before tag (master)"

Update version in setup.cfg (Gambia)

Change-Id: I81ad97a441a050ed9469e178dac8e9dc57c5e72d
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Update configguide

JIRA: FUNCTEST-959

Change-Id: Id75689154a63b7258d753f26bb5ff01c0b06012e
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Last Release updates before tag (master)

Change-Id: Icbe6943d574ab5878833fb0cfbc8cd05c65756d6
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Update test results in userguide"

Merge "Update log config for Restapi"

Merge "Fix image paths in cloudify_ims_perf.yaml"

Merge "Add Kubernetes test details to functest userguide"

Merge "Add Kubernetes test results to functest userguide"

Fix image paths in cloudify_ims_perf.yaml

Change-Id: If58b5f2021df8a0de672a30459b5b0b12f3fcef2
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Update log config for Restapi

Change-Id: I3117489d489fe7e948c81f62ccfd04a13351780a
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Update test results in userguide

JIRA: FUNCTEST-958

Change-Id: I45fcdac6c645e52db9d664b7bd96319bbac49a63
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Add Kubernetes test details to functest userguide

Change-Id: I032bfe5f079c185d6217800b4a4d16e94c29b05c
Signed-off-by: Konrad Djimeli <konraddjimeli@gmail.com>

Merge "Introduce Rally scenarios for Gnocchi"

Use timeout to wrap juju-wait

It allows getting logs as releng doesn't push them if global timeout.

Change-Id: I4bbb3818feff37d29b4ccd586f3e940380feef2e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add Kubernetes test results to functest userguide

Change-Id: I8b9d7a449ea3b123993c6619b368a4afb0dd2e3e
Signed-off-by: Konrad Djimeli <konraddjimeli@gmail.com>

Introduce Rally scenarios for Gnocchi

Added scenarios for testing:

- capabilities
- status
- archive policy
- archive policy rule
- resource
- resource type
- metric

Change-Id: I79f4f0b2bd4d206588ea3edbce8037d1cb993646
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>

Add "Functest Gates presentation"

It should be presented during next "Weekly Technical Community
Discussion".

Change-Id: Id275aeb8e93bd4bd0b2d91be67a63d1763723451
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Clone rally-openstack in functest-smoke

It allows getting latest changes verifying Gnocchi.
Former neutron tempest tests are also removed.

Change-Id: I5910ca012b72b1c5bfb9b0f52591cc9e03051f47
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Check app workload in juju_epc

It avoids interpreting rsync errors in case of deployment failures.
Mysql is still unchecked.

Change-Id: I01b4470b86637d0fc322c422f05240a928305158
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Get debug data before cleaning juju_epc

It could help us to detect the issue when testing Apex (nosdn).
It should be only printed on exceptions instead but this proposal is
safer and straightforward.

Change-Id: I2cccc737e3b3572af72c2653bf32bc02f9ab9077
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Set scp debug flag in juju_epc

Change-Id: Ic57d05416ac7c8bc459363ea479237101c22f27e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Update Xtesting to 0.41

It includes an enhancement about logger (needed by sdnvpn).

Change-Id: I05173d2f5b86e12f6badc83e9ee71ecd5898ecee
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Enable sdnvpn (Gambia Release)

sdnvpn has been synced to OpenStack Queens [1].

[1] https://gerrit.opnfv.org/gerrit/#/c/55531/

Change-Id: I468752394da12023083d83f92c91b09ecf964a26
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Add Kubernetes tests to userguide"

Add Kubernetes tests to userguide

Change-Id: Iaa278269650449b2be19de6382e4e35896001984
Signed-off-by: Konrad Djimeli <konraddjimeli@gmail.com>

Fix emails and copyrights in all conf.py

Change-Id: Idbd735443ec106f14e088c1469701507c28d7545
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Upates Installer results (master jobs)

Change-Id: I3bf93c2c76b1c0f624d605be2c9534ac23558ee7
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Update configguide (latest results)

Change-Id: I5eb2f3b0096e57c9f72c07a8adea3bbe4aae3ec7
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Remove odl_netvirt testcase

Its dendencies have not been met since Danube [1].

[1] https://build.opnfv.org/ci/job/apex-os-odl_l3-nofeature-noha-baremetal-danube/

Change-Id: I1a5bb4acd9e7e14dbf519132847521b5138f4cd6
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Filter only on scenarios if possible

If a scenario is defined, setting installers as dependencies makes
the maintenance more difficult.

Change-Id: I3d0dc51ec3b9ccf3270ad1ec8253d6ee7e4a99a0
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Set same dependencies for all vping test cases

It allows a fair comparison between odl and nosdn scenarios.
Gluon could also be safely removed as scenario filter.

https://build.opnfv.org/ci/job/functest-compass-baremetal-daily-master/88/console

Change-Id: I0a9268d2038c79320e372d1d35d276560555aa7d
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Print the stack traceback when cleaning juju_epc

Change-Id: If32557a4384cafd67b7c294f8c0592ee2769b1a5
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>