Merge "Remove former run_unit_tests.sh"

Merge "Test decorators.py in testenv:py35"

Merge "Turn Sphinx warnings into errors"

Merge "Check python3 support when running tox"

Merge "Generate api doc when running tox"

Merge "Update apidoc to conform with vnf module"

Merge "Analyse code when running tox"

Merge "Check style when running tox"

Merge "Delete line breaks before binary operator"

Merge "Sort keys when dumping json"

Merge "Ignore .tox"

Merge "Tox utility to run unit tests"

Merge "Update requests as defined in releng"

Merge "Add baro_tests as requirements"

Merge "Install releng via requirements.txt"

Merge "Set default value for CONFIG_FUNCTEST_YAML"

Merge "Fully cover pytest_suite_runner.py"

Merge "Precise self.result in pytest_suite_runner.py"

Merge "Print stack when catching exceptions in run_tests.py"

Merge "Replace CONST.* by getattribute/setattr for refstack"

Test decorators.py in testenv:py35

Change-Id: I91d5b04f105cf41bef799eccdaabf89cb0440747
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Turn Sphinx warnings into errors

Change-Id: Iefc223a9fa6dbc4e9476aca84b3df4304058862b
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Remove former run_unit_tests.sh

Depends-On: I934f4ac739d99d0cb29bea8c6aac6d6780b30901

Change-Id: I67c8a25a2e712babf99e32fb4c049b0acfd2e44d
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Check python3 support when running tox

It only tests testcase, feature and odl which supports python3.
It creates a temporary requirements.py3.txt which will be safely removed
when we stop using subprocess32 [1] and robotframework-sshlibrary.

[1] https://jira.opnfv.org/browse/FUNCTEST-827

Change-Id: I92021dcb4aca03f64e2441e3bcff34675a3ae879
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Generate api doc when running tox

Change-Id: I78b18981d9f916e6174d44c6280706e404c7c9f2
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Update apidoc to conform with vnf module

It completes [1].

[1] https://gerrit.opnfv.org/gerrit/#/c/34467/

Change-Id: Ia4a850b740764774b926d5cdb92c8813bc93f9e4
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Analyse code when running tox

It filters all messages to ease reading the report.

Change-Id: Iab55bc71cb6026edde29fb9f084a07b2dedf564f
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Check style when running tox

Change-Id: Idedf823a1572c40692e445694461b4196b75275d
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Delete line breaks before binary operator

They are considered as warnings by flake8.

Change-Id: I84ffedc41c24133aa0d45e312bb095526aa1095b
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Sort keys when dumping json

Otherwise dumping them could break some unit tests as they are
unordered collections [1].

[1] https://build.opnfv.org/ci/job/functest-verify-master/4122/

Change-Id: I108e946926ae9690cf2421e565f2bb81500f9160
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Ignore .tox

Change-Id: I50e39057edbbfadd57ea912f1f1ba32389639809
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Tox utility to run unit tests

Now run_unit_tests.sh only calls tox to allow merging.
It can be safely deleted as soon as the related jjob is updated.

It also removes test_logging.ini.

Co-Authored-By: Cédric Ollivier <cedric.ollivier@orange.com>
Change-Id: I934f4ac739d99d0cb29bea8c6aac6d6780b30901
Signed-off-by: ashishk1994 <ashishk.iiit@gmail.com>
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Update requests as defined in releng

Change-Id: I808cb796d18cf7f193a37e7b7d9073a037bb2ae7
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add baro_tests as requirements

It also stops cloning it when building the docker container and updates
the related unit tests.

It bypasses the bug when importing collectd [1].

[1] https://jira.opnfv.org/browse/BAROMETER-79

Change-Id: Ie9f8ea2b3c95d6b1f5405d76b018cdcb62343a58
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Install releng via requirements.txt

It should work in all branches if the right requirements.txt is
selected.

Change-Id: I9c46cd52496528835a92e371320debf92117b4fa
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Set default value for CONFIG_FUNCTEST_YAML

It calculates via the full path of env.py.

Change-Id: Ief958833f5116cdb116d0153d85a0ae03063ec5c
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Activating SDNVPN test cases for master.

Change-Id: I4ba995d412bfeadc708d5a3c643576097867d1ac
Signed-off-by: Tim Irnich <tim.irnich@ericsson.com>

Fully cover pytest_suite_runner.py

Change-Id: I766afb1d5c6ef53a5b551539662ee363ae8eadee
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Precise self.result in pytest_suite_runner.py

It also adds the related unit tests.

Change-Id: I8325bd9a55c69b229e3c48a9e64aa963e685e03d
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Replace CONST.* by getattribute/setattr for rally and tempest"

Merge "Define Runner class"

Replace CONST.* by getattribute/setattr for refstack

Directories affected:
 - functest/opnfv_tests/openstack/refstack_client
and respective unit test

JIRA: FUNCTEST-796

Change-Id: I7f7047d44d71e82bcc1f66ec0b760ff30a13dbd5
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Replace CONST.* by getattribute/setattr for rally and tempest

Directories affected:
 - functest/opnfv_tests/openstack/rally
 - functest/opnfv_tests/openstack/tempest
and respective unit test

JIRA: FUNCTEST-796

Change-Id: I963f5947663f0b660337f3304defb697f5d338f3
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Merge "Modify how to disable logging in unit test."

Merge "Documentation for unit test project"

Merge "Use StringIO in odl.py"

Merge "Move few local ODL SFC confs to global functest confs"

Merge "Replace CONST.* by getattribute/setattr for cli"

Print stack when catching exceptions in run_tests.py

Change-Id: Id94475dd519ce04b87da470f6e6bb5a1c1aa2d75
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Add a new directory to hold pre-downloaded images"

Merge "Use logger instead of printing in console"

Modify how to disable logging in unit test.

Logs are only disabled when the unit tests are run from cmdline.
It allows running them via pytest_suite_runner.py and printing
their results to functest.log.

You should notice that the unit test must disable the logger of the
tested TestCase (e.g. testcase.TestCase.logger.disabled = 1). Otherwise
false logs will be printed in console.

Change-Id: Ic171e4575c8bab2e52db1897ae026b61a03b6247
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Remove check_success_rate"

Use StringIO in odl.py

It avoids creating and removing the temporary file to dump robot output.

Change-Id: Ia5ea66e76ffb8b8327f2da938f177e8ef4c61dd4
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Fix 2 issues related to logger in pytest_suite_runer.py"

Merge "Allow running unittest.TestCase via run_tests.py"

Use logger instead of printing in console

It modifies pytest_suite_runner.py to dump unit test results in
functest.log via logging.

Change-Id: Ic4e7567c5e52e00ad0e485ccb070029b135041b2
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Clean test-requirements.txt"

Remove check_success_rate

After the introduction of is_successful method
in TestCase class, this is not needed anymore.

Change-Id: I70f6f9e10495601cd5443467347b97efe27b81a3
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Merge "Fix the opera ims instance initialization error"

Replace CONST.* by getattribute/setattr for cli

Directories affected:
 - functest/cli/commands
and respective unit test

JIRA: FUNCTEST-796

Change-Id: I2ad721819d4b8f97098c589c3b5ed3dcc945409d
Signed-off-by: Linda Wang <wangwulin@huawei.com>

Add a new directory to hold pre-downloaded images

Put all images in the new direcotry. If users want to use the
local image, map the local directory to the ${HOME}/functest/images

Change-Id: I0d309b93f52b3da23d6130056f1a19907313ef68
Signed-off-by: helenyao <yaohelan@huawei.com>

Fix 2 issues related to logger in pytest_suite_runer.py

logging.ini requires the full name otherwise all log messages are lost.
Calling basicConfig() is useless as it has been correctly configured by
run_tests.py before.

Change-Id: I03663c01f795b1b844239a9e24379faa529829aa
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Allow running unittest.TestCase via run_tests.py

pytest_suite_runner can run any unittest.TestCase thanks to name passed
as run arg. Here is the related functest/ci/testcases.yaml:

  run:
      module: 'functest.core.pytest_suite_runner'
      class: 'PyTestSuiteRunner'
      args:
          name: 'functest.tests.unit.odl.test_odl'

Change-Id: I7c2c611c4afbad1e52bfdca4a3288ccc21491389
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Clean test-requirements.txt

Now only the mandatory requirements related to unit testing are listed
in test-requirements.txt.

Change-Id: I2f17a9e18e90d779ddc80b1ace9ac770a76c3385
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Update self.result value to INT

So far, the test cases are storing a string "PASS" "FAIL"
in the self.result variable.
The way the new framework works is with INT Values.

Change-Id: I45e8693327740faadd8254b21569adfb2cefa6c8
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Merge "Conform constants.py with the minimal standards"

Conform constants.py with the minimal standards

It adds the shebang to constants.py and its dependencies and stops
importing from a relative path. It stops printing obsolete values too.

It adds python3 support to them by the way.

Change-Id: Ie7bddcf253eb245844d9e11c17acc69943c1ba63
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Fix an unorderable types error (if python 3)"

Merge "Add Python3 support to the ODL testcase"

Merge "Converted vPing to leverage the object-oriented SNAPS library."

Fix an unorderable types error (if python 3)

Change-Id: I07c5a548f10a1779faead4d9c596a1976aff8866
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add Python3 support to the ODL testcase

It also adds this support to its dependencies.

Change-Id: I0534f0c7b0e15a9ee89f522f314cf5200874454c
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Update/Add requirements to run ODL robot CSIT

It conforms test_odl.py with the new RobotFramework API too.
It also updates test-requirements.txt as required by the current
implementation of run_unit_tests.sh.

Co-Authored-By: Cédric Ollivier <cedric.ollivier@orange.com>
Change-Id: Ibca0150a40d3b8a3f736be1e9dcbf9ce56af0299
Signed-off-by: Jamo Luhrsen <jluhrsen@redhat.com>
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Converted vPing to leverage the object-oriented SNAPS library.

JIRA: FUNCTEST-577

1. Replaced procedural openstack_utils with the object-oriented SNAPS
   library
2. Tests now clean themselves up.
3. Improved code documentation.
4. Removed dependency on file-based Cirros image and now leveraging the
   download URL.
5. Removed hardcoded location to the testcases.yaml file to leverage
   the value in config_functest.yaml
6. Included optional flavor metadata based on the scenario being tested
7. Included support for multi-part images.
8. Added enhanced support for configurable images. see SNAPS-76

Fixed line length verification problem with the previous submission
Fixed retrieval of external network name to be dynamic.
Changed external network name retrieval to leverage the newly merged
snap_util.get_ext_net_name() function
Added the creation and deletion of flavors.
SNAPS now has the ability to add/remove security groups from running instances.
Changed VMInstance constructor by moving userdata to configuration object.

Change-Id: I0ef5e268eb153d696bb4d9a7533f780e5c603d26
Signed-off-by: spisarski <s.pisarski@cablelabs.com>

Define Runner class

It simply converts run_tests.py's functions to Runner's methods.
This proposal could be enhanced in a second step to fully leverage on
object programming.

It defines as instance variables the former static variables to allow
multiple runs (it's mandatory for unit testing).

All false positives in unit tests are fixed but run_tests.py is still
not fully covered.

Change-Id: I8f91c132aa8b2248041f31e46238dd5598344d34
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Fix one minor typo"

Merge "Fully cover the decorator"

Merge "Assign the wrapped function’s attributes"

Merge "Additional Unit Tests for core modules"

Merge "Get a logger before printing"

Add enabled flag in testcases.yaml

This will allow enable/disable test cases directly
using true/false.

Change-Id: Iaa7d051ebb8dd9e5a6f835a823f58f1e17a87b8d
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Switch from generate_report to PrettyTable

run_tests.py now relies on PrettyTable as most of the openstack clients.
generate_report.py and its related unit tests are simply removed.

It sets padding_width=5 in testcase.py too to conform with
run_tests.py.

Now report is printed in every case.

Change-Id: Id9ce93f984503f25d6a2150482f397853fa3dd64
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Update framework pres

It takes into account the next framework modifications:
  - Switch TestCase attribute criteria to result [1]
  - Manage criteria in TestCase [2]
  - Print the real testcase duration [3]
  - Rename TestCase check_result() to is_successful() [4]

[1] https://gerrit.opnfv.org/gerrit/#/c/33695/
[2] https://gerrit.opnfv.org/gerrit/#/c/33697/
[3] https://gerrit.opnfv.org/gerrit/#/c/34369/
[4] https://gerrit.opnfv.org/gerrit/#/c/34373/

Change-Id: I3a6790e4233ef4c55b0535618dacf702f779f28b
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Fix how to get tier_name

The tier name was incorrect when passing a test case as run_test.py arg.

Change-Id: I6f439fc7b90facb3f0553798bd1fe06ac9f09475
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Modify TestCase.__str__() to use PrettyTable"

Fix one minor typo

Change-Id: Id17070985adfbe7817f3be25b47f583cb9ef90b6
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Additional Unit Tests for core modules

This patch adds unit tests for vnf and pytest_suite_runner.
It also fixes several pylint warnings/errors.

Additional tests are required to check args values.

Co-Authored-By: Cédric Ollivier <cedric.ollivier@orange.com>
Change-Id: I75a829233481655c794402830e1da037ab7cdb8d
Signed-off-by: ashishk1994 <ashishk.iiit@gmail.com>

Get a logger before printing

It also fixes pylint errors.

Change-Id: I0d973360574a517724d0be3986c788c3ce7f54d4
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Fully cover the decorator

Change-Id: I1f1c938f0715e6afb7edbb8242f9a6c9cbfa65b5
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Assign the wrapped function’s attributes

It mainly assigns to the wrapper push_results_to_db's __name__,
__module__ and __doc__ and the documentation string.

Change-Id: Idc882ac4e743699a4887e46c5066e0983c90afd9
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Upgrade robotframework-sshlibrary to 2.1.3

Robotframework sshlibrary monkeypatches paramiko runtime and version
2.1.1 causes
2017-03-27 15:24:23,196 - SSH utils - ERROR - _custom_start_client() got
an unexpected keyword argument 'timeout'

errors in SFC test because of the issue
https://github.com/robotframework/SSHLibrary/issues/158

This issue is resolved in version 2.1.3

Change-Id: I07f570c1a90f358b9f17aa6c959642d67e07a7e4
Signed-off-by: George Paraskevopoulos <geopar@intracom-telecom.com>

Merge "Add Energy recording support"

Modify TestCase.__str__() to use PrettyTable

It adds PrettyTable as requirement even if it's already defined in
OpenStack client dependencies.

If the TestCase object is considered as invalid, it simply returns the
default str.

Change-Id: Iee788aef2a13694d9482560977cbbf21c7f2c967
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Conform ODL with last framework updates"

Merge changes from topic 'add_testcase_str'

* changes:
  Remove the former results in DB url
  Implement TestCase __str__()

Merge "Bugfix: initialize the logger for snaps"

Remove the former results in DB url

It conforms generate_report.py with the previous change [1].

[1] https://gerrit.opnfv.org/gerrit/#/c/33511/

Change-Id: I677ebd416f462a591439fc7b637c02d7964e6173
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Add Energy recording support

It adds helpers to send notifications to Energy recording API and
related unit tests.
It requires a dedicated section in functest config file
to set connectivity parameters to Energy recording API.

It is using shared API Recording at http://161.105.253.100:8888

Change-Id: Idcb74d1bf7341ccce7cc1c3926f22338ce24f714
Signed-off-by: Benoit HERARD <benoit.herard@orange.com>

Conform ODL with last framework updates

Now ODL TestCase calculates the ratio between critical tests passed
and failed and saves it in result. Non-critical test cases can fail as
result doesn't take them into account [1].

It also updates default attribute values in TestCase and allows result
to be float.

[1] http://robotframework.org/robotframework/latest/RobotFrameworkUserGuide.html#setting-criticality

Change-Id: Id4a89271b5b1a90cd3c1e2b08591ff26ffaffee0
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>