Update cli commands to call console scripts

Change-Id: I401879d7ec713b5307817da8b001838c35d9d731
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Apply restrictive file permissions

It conforms with [1] by creating a new venv which checks the unix
permissions. As jjobs call Functest console scripts [2], all perms
can be 644.

Dockerfiles are updated as well.

[1] https://security.openstack.org/guidelines/dg_apply-restrictive-file-permissions.html
[2] https://gerrit.opnfv.org/gerrit/#/c/36805/

Depends-On: I9209e6efa1b493e24135402a46df72aaa14115d1
Change-Id: I31bc7f12b775928845e23b6b40288b0a50b87219
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Stop modifying unix perm in cloudify_ims

It should be noted that several mockey patches should have been added
in the related unit tests.

Change-Id: I04bf003bc6beed1580c5d052c588f6f4ac23f768
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Fix unix permissions in docs/com

It applies restrictive file permissions [1].

[1] https://security.openstack.org/guidelines/dg_apply-restrictive-file-permissions.html

Change-Id: I2b86eaeb44afca999e485308b250004181e103b2
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Remove useless files in docs/com

Change-Id: Id4aa3080d2be75bc8fa188136b191034724c357e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Define download_images.sh and check_os.sh as scripts

It also updates all python scripts which call check_os.sh.
The former healthcheck.sh is removed.

No shell script must be executable in git.

Change-Id: If4e8deb50ebd635a9091e3bb79ef61c07b9660dc
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Define console_scripts

Only prepare_env.py and run_tests.py remain executable to avoid
breaking the gate.

As soon as the jenkins jobs are updated to run them from $PATH, tox
will be updated to protect against chmod a+x py files. Dockerfile
will be simplified as well.

Change-Id: Iac1a7ceb6b344e800177226ea39919826f6d3735
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Fix unix permissions

Tox will be updated to forbid chmod +ax py files.

Change-Id: I85d4b4a64ec7f3151ab2f24ad09bd7c1144ebe18
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Update securityscanning section in testcases.yaml

It follows the next updates of the securityscanning package:
  - Define config.ini as data_file [1]
  - Define security_scan console script [2]

[1] https://gerrit.opnfv.org/gerrit/36635
[2] https://gerrit.opnfv.org/gerrit/36771

Depends-On: I54ffa61f4bcd366c185596056b49e492c88cc78b
Change-Id: I342c00392bb68aad704a89060841eac665e91bdb
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Added unit tests for vping."

Define ODL console_script

main() is excluded from coverage as it usually parses argv.
It also renames ODLTests main() to run_suites() not to exclude this
method.

Change-Id: I3109a65166b21d93e3e376912a32d364931a7ba5
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "SNAPS tests now support offline testing."

Remove networking-bgpvpn from Functest requirements

SDNVPN team will take care of installing the module themselves
See https://gerrit.opnfv.org/gerrit/#/c/36505/

Change-Id: Ida38c8324e155906bcd18b12a418e7a62e55e3f0
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Remove BGPVPN utils in Functest

These util functions should be under control of the SDNVPN
project. After [1] and [2] it is safe to remove them in Functest

[1] https://gerrit.opnfv.org/gerrit/#/c/36655/
[2] https://gerrit.opnfv.org/gerrit/#/c/36505/

Change-Id: I2f6596cd60678bb0c50adb9b4bc0d59545c3fb0a
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Merge "Fix refstack_defcore"

Get install_rally.sh from git.openstack.org

Change-Id: I99a87e2399c1be79dabc9109e10665fc9ef8bee2
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Switch to official tosca-parser and heat-translator

They replace the python packages located in parser which don't
meet OpenStack's upper constraints [1].

It completes [2] which simply keeps the wrong logic of
parser/tests/parser_install.sh.

[1] https://build.opnfv.org/ci/job/functest-docker-build-push-master/1170/console
[2] https://gerrit.opnfv.org/gerrit/#/c/36653/

Change-Id: If108b8d1fad08237b8a57d82bf5601f4d6ecf64e
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Leverage on parser python packages in Dockerfile

It also stops calling parser_install.sh.
This file is replaced by the 2 new requirements in
docker/thirdparty-requirements.txt:
  - tosca-parser
  - heat-translator

Change-Id: Ic9dcdd81df9800fc8e559a07f9c100a20bea2290
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Update paths in functest/ci/testcases.yaml

It follows the changes switching to python packages.
It shall be noted  that several cmds could be enhanced.

Change-Id: I8cf3595d1e8044b650deb4ec733bf973c0bf1b3f
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Fix refstack_defcore

As refstack-client is reinstalled only by the shell setup_env, the path of
.venv and .tempest have been changed.

Change-Id: Id50d0c6384295c2448705961942104abbd799b9b
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Merge "Remove Rally requests scenario"

Added unit tests for vping.

Also removed some instance variables and unnecessary methods.

JIRA: FUNCTEST-813

Change-Id: I13895674a9fd3de16c6a19410661440c5380c2f8
Signed-off-by: spisarski <s.pisarski@cablelabs.com>

SNAPS tests now support offline testing.

Images by type (cirros, centos, ubuntu) can now have the download URL be
overridden, told to leverage a local file, or have custom configuration
when using the snaps.openstack.tests.openstack_tests.py image settings
helper functions.

JIRA: FUNCTEST-809

Change-Id: I790094a7a26eb5a55f53d6e875c658dc5e7ac2f9
Signed-off-by: spisarski <s.pisarski@cablelabs.com>

Remove Rally requests scenario

HttpRequests scenario is not directly related to OpenStack and not
supported by Rally in https environment.

Change-Id: I2e91d129d82dfaba62eca25e3e4890ff54f52ac6
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>

Updated fds testcase criteria

Initially, we only executed fds testcase on odl_l2 fdio scenarios.
Now we're extending this to all odl fdio scenarios.

Change-Id: Ieb2454f02847361fdf3274b11f20a996a916ad90
Signed-off-by: juraj.linkes <jlinkes@cisco.com>

Merge "Increase timeout of Open Baton installation"

Merge "Add sfc in thirdparty-requirements.txt"

Merge "Add securityscanning in thirdparty-requirements.txt"

Merge "Remove obsolete repos in functest/ci/config_functest.yaml"

Add sfc in thirdparty-requirements.txt

Now it can be installed via python package [1] and then be listed in
thirdparty-requirements.txt.

[1] https://gerrit.opnfv.org/gerrit/#/c/36445/

Change-Id: Iae7482865917e51a96a180b0a987ab0ff26a0190
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Increase timeout of Open Baton installation

Change-Id: Ifdc24a3fc9e2c315b41f9e68bccb88df36252b0c
JIRA: ORCHESTRA-14
Signed-off-by: Michael Pauls <michael.pauls@fokus.fraunhofer.de>

Remove Tempest repo and use the one created by Refstack

Refstack clones the repo in /home/opnfv/.tempest. Rally can use
that repo which is checked out to the REFSTACK_TAG=15.0.0
This way, we avoid having twice the same files.

Change-Id: I9b05d29b1c9bdf3d10539b771d0d20abb2b7cc37
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Merge "enable doctor-notification test case"

Merge "Added unit tests for api_check, health_check, and smoke tests."

Merge "Don't display functest report for single test cases"

enable doctor-notification test case

Change-Id: If2b6b46f3f192f58636c55f3ddc9e80b9e22be3c
Signed-off-by: Ryota MIBU <r-mibu@cq.jp.nec.com>

Fix floating ips issue in openstack_clean

floatingips is a list of dictionaries where the attributes
are a bit different than in the previous implementation.

Change-Id: I8e8429b1819bba35a4a829f274c60b77ab2eea7e
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Merge "Make rally support https insecure deployment"

Fixed problem to vping userdata introducted by SNAPS-OO patch.

Changed get_vm_inst() to return a domain object forgot to change the call
in vping_userdata.py.

JIRA: SNAPS-92

Change-Id: I7585dcde483c39fa850e5184686f42bbf2e8f3c5
Signed-off-by: spisarski <s.pisarski@cablelabs.com>

Add securityscanning in thirdparty-requirements.txt

Now it can be installed via python package [1] and then be listed in
thirdparty-requirements.txt.

[1] https://gerrit.opnfv.org/gerrit/#/c/36437/

Change-Id: Ib9489de1f46993fa9fe35485fa95baf003d44974
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Remove obsolete repos in functest/ci/config_functest.yaml

It completes "Use directly OpenStack project packages" [1].
kingbird becomes a dependency.

[1] https://gerrit.opnfv.org/gerrit/#/c/36125/

Change-Id: I2cb9e3a2146a2b2bbae89dde9917c5ace70048a6
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Use glance to list images"

Merge "Change floating ips management from nova to neutron"

Merge "Enable vping offline"

Merge "Take OpenStack's constraints into account"

Merge "Define logger as Feature instance attribute"

Merge "Install opera via python package"

Merge "Install OPNFV sdnvpn via python package"

Merge "Stop personalizing the common Dockerfile"

Change floating ips management from nova to neutron

Nova does not longer support floating ip creation/deletion.
This patch moves that logic to neutron client.

Change-Id: I2c4146149fe5be534d9c50d78d831b5af1957ad7
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Don't display functest report for single test cases

When executing a single test case, it is not neccessary
to show duplicated information about the result of the test
case. The functest report only makes sense when running
multiple tests.
e.g. functest testcase run vping_ssh

The report is still showed when doing:
     functest testcase run all

Change-Id: I92d97d6111ecd9484a14c72cf4bb0c2bbe3ae6bf
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Take OpenStack's constraints into account

upper-constraints.txt contains a pinned list of the entire set of
transitive requirements for OpenStack [1].

We will add OPNFV's constraints as well for OPNFV projects and
their requirements when they are ready.

[1] https://specs.openstack.org/openstack/openstack-specs/specs/requirements-management.html

Change-Id: I2e23584f957e4de191341800d24c8b2776ef9143
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Make rally support https insecure deployment

When running in https environment, rally should support insecure
deployment if no cacert file is provided.

JIRA: FUNCTEST-828

Change-Id: I29b0fc8c2e1b74a1ce08293706cd9f11f975b6d5
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Merge "Remove calls to deployment handler in prepare env"

Use glance to list images

1. Images list is not supported by novaclient 8.0.0
2. It moves images list out of nova and into glance

Change-Id: I2a2d40a2ca3a0cf1ebfb55697b3c58af8748a805
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Merge "Enable https insecure for functest"

Enable vping offline

Images used are changed to leverage local file.

Change-Id: I42a89c8c33054a23e226d22358fe268770986a76
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Merge "Revert rally version to 0.8.1"

Remove calls to deployment handler in prepare env

The reason is that some installers have changed the mechanism and the adapters
are not valid any more and the method to access the deployment information fails
Fuel -> MCP
Compass -> Containers

This shall be deactivated to avoid errors in CI until the new installer
adapters are implememnted.

Change-Id: I995b914bf55d5da76f27e715d170dd22e84d677c
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Merge "Clone tempest repository in the Docker image"

Revert rally version to 0.8.1

1. Now rally version 0.9.1 is installed via "bash install_rally.sh
   --yes", cause the default RALLY_GIT_BRANCH is master. Then
   some rally related tests will fail as rally tests have not been
   updated in functest
2. rally version 0.8.1 can be installed via --branch 0.8.1

Change-Id: I04003134f070a1a35db2c02f2209e77365be592f
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Clone tempest repository in the Docker image

Rally needs to have a copy of the Tempest repository
in order to install the verifier. Otherwise, rally will
clone it automatically anyway.

This also uplifts the tempest version to 15.0.0 which targets
Ocata deployments according to [1]

[1]: https://releases.openstack.org/ocata/

Change-Id: I30e922a261a4ab1875d48c4754df09426b5f67e4
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Fix command in prepare env to execute check_os.sh

[1] introduced a bug when adding "sh" to the call.
There is no need to use sh or bash in the command string.

[1]: https://gerrit.opnfv.org/gerrit/#/c/36163/

Change-Id: I9ce443721b69945a4a749da0caa6c008cc8ca284
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Define logger as Feature instance attribute

It allows any Feature subclass to print warning messages in console
and debug messages in a dedicated file.

Co-Authored-By: Cédric Ollivier <cedric.ollivier@orange.com>
Change-Id: Ic5b1b1184c16cf50f0baadc3904075d0acdf3c6d
Signed-off-by: Jose Lausuch <jose.lausuch@ericsson.com>
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Install opera via python package

It should be noted that the other OPNFV projects cannot currently be
installed via python packages for many reasons (e.g. binaries not
included, no setup.py...).

Change-Id: Iaf1c960471b2dd8916eb1a49cb46f50b7dfb9b88
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Install OPNFV sdnvpn via python package

Change-Id: Ibcaef4eb8658bfe7d1900a8cd6a7b48740524526
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Stop personalizing the common Dockerfile

Any personal config can be applied to another Dockerfile which
inherits from this one.

Change-Id: Ifb77c0d5821c2b40f2f3e1d6adee6f83d0cd0b29
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Enable https insecure for functest

1. When running in https environment, functest should provide an
   option to disable server certificate verification.
2. For check_os.sh, the param "--insecure" is passed to openstack
   cli, e.g.. openstack --insecure server list.

JIRA: FUNCTEST-828

Change-Id: Ie2c5b14152c92e87318fcfaf8b234f59275eb6b8
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Merge "Use directly OpenStack project packages"

Merge "Change barometer module to load"

Merge "Remove all references to /home/opnfv/repos/functest"

Use directly OpenStack project packages

It stops cloning via git for the next OpenStack projects:
  - networking-bgpvpn
  - rally
  - tempest
  - kingbird
  - refstack-client

It should be noted that refstack_client's setup_env is not designed
to run in Alpine.

Change-Id: I00d17912cad39a0c872d317317e98a78ca9ded2c
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Change barometer module to load

As [1] is merged, the way to call the barometer test case is
different as it is hosted in Barometer repo instead of Functest.
The former files are also simply removed too.

baro-tests is no longer a requirement. It is installed as any
third party project.

[1] https://gerrit.opnfv.org/gerrit/#/c/35927/

Co-Authored-By: Cédric Ollivier <cedric.ollivier@orange.com>
Change-Id: Iea56b48fa781600eb3a6ac74662ea8a29f556f99
Signed-off-by: Jose Lausuch <jose.lausuch@ericsson.com>
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Added unit tests for api_check, health_check, and smoke tests.

In addition to the creation of the unit tests, this patch simplifies
the mocks for connection check as there was an unused annotation.
This patch also refactors the building of the test suite from the
constructor to the run() method.

JIRA: FUNCTEST-813

Change-Id: I7ff5d0389db36141a33ee3a8f76e04b922f8a95f
Signed-off-by: spisarski <s.pisarski@cablelabs.com>

Remove all references to /home/opnfv/repos/functest

It also removes relative (and incomplete) references which could be
defined in modules instead of this global configuration.

Change-Id: Ie20dc3547e49b6224aa8100cd380d37b87ece5a9
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Promote Linda Wang as a committer"

Stop getting git data from functest dir

Functest is no longer a git clone.

Change-Id: Ieaceacaa820e9a7a3c64e8c1fbd2a8a9321f234d
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Clean requirements.txt

It removes all requirements which are not detected by pipreqs [1]
except:
  - robotframework-httplibrary
  - robotframework-requests==0.4.7
  - robotframework-sshlibrary==2.1.3

They seem indirectly required for the next ODL suites: old_netvirt
and fds.

It also defines pbr as requirement and orders dnspython3 conditions.

[1] https://github.com/bndr/pipreqs

Change-Id: Idcd01296e5a5862ff8528dc083468b5c4905c9f9
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Remove module references __file__

It allows functest to be run directly from a zip file [1].

[1] https://setuptools.readthedocs.io/en/latest/setuptools.html#setting-the-zip-safe-flag

Change-Id: I596a71e8cf2bed6dd79655bd5beeb047876a188c
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Update Suite details pushed to DB"

Merge "Update (test-)requirements.txt"

Update Suite details pushed to DB

It now reports stats and dumps stream into details.
By the way, it fixes a bug when serializing the former details.

Change-Id: Idd388708071ca3185e5a07bc7e977f2d9837dc95
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Refactor core VNF class"

Update (test-)requirements.txt

It updates requirements.txt and test-requirements.txt according to
OpenStack stable/ocata. It removes useless copyrights.

Change-Id: I603b3030df231f210af47232f20aef85a08e20ba
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Promote Linda Wang as a committer

Change-Id: I13528178e97c0b83843888444c5925600cc8c720
Signed-off-by: Jose Lausuch <jose.lausuch@ericsson.com>

Merge "Leverage on pbr (Python Build Reasonableness)"

Merge "Configure the param auth_version in tempest.conf"

Bugfix: fix the return value

openstack_snapshot and openstack_clean should return 0 when they are run
successfully.

JIRA: FUNCTEST-835

Change-Id: I3fcc24ab985de382e0e59b129cb467d66a9a0de2
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Leverage on pbr (Python Build Reasonableness)

pbr can inject requirements into the install_requires, tests_require
and/or dependency_links arguments to setup. They were previously
falsy unset.

It also supports conditional dependencies which can be added to the
requirements (e.g. subprocess32; python_version=='2.7').
Then requirements.py3.txt is removed.

It also removes functest/cli/setup.py which seems false and obsolete.

Dockerfile is updated as well. One temporarily link is created because
of several hardcoded paths in Functest.

Change-Id: I14b3b25e07fbac490dd1d5ce943ec02c5b11f242
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Configure the param auth_version in tempest.conf

1. If the auth_url is "https://192.168.31.222:443/identity-admin/v3", the
   auth_version in tempest.conf is supposed to be "v3", not "id".
2. For rally 0.8.1. it is a bug when obtaining the auth_version, please see
   [1], which has been fixed in rally master.

[1]: https://review.openstack.org/#/c/468599/

Change-Id: Ia7474938a741a0954f17f7c7650544dbc0a28853
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Merge "Remove call to fetch_os_creds.sh"

Merge "Make tempest user_password more complicated"

Merge "Remove a former action listed in framework.md"

Merge "Add the copyright header to decorators.py"

Merge "Use PrettyTable to show functest env"

Merge "Update setuptools version to 30.0.0"

Remove call to fetch_os_creds.sh

After [1], the openstack credentials
are provided to Functest as a volume
directly from CI. The same has to be
done manually.
Functest doesn't need the script
fetch_os_creds.sh any longer.

[1] https://gerrit.opnfv.org/gerrit/#/c/35199/

Change-Id: I0883ad7b248526cfe9df3fde984345bd41869e82
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Update setuptools version to 30.0.0

Change-Id: I318446a873a7362a1b7e53b00e9e4daf658c3abb
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Refactor core VNF class

- Simplify processing
- Implement run method to inherit testcase methods
- Add unit tests
- Fix all pylint issues

It also obliges vnf and its uts to be rated 10/10 by pylint.

JIRA: FUNCTEST-830

Co-Authored-By: Cédric Ollivier <cedric.ollivier@orange.com>
Change-Id: I8dd24eea55089277c9e5b2b51fb14dc377f2fcaf
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Update setuptools version to 35.0.2"