Push FAIL to DB for onos-sfc

Change-Id: Ifae2cba32d9a0df44ae46e642129931692f65a7c
Signed-off-by: wuwenbin2 <wuwenbin2@huawei.com>

Optimize onos-sfc

1.Delete print and format in onos-sfc
2.Split class into serveral methods in Sfc.py
3.Update Fail process
4.Use vars of HTTP status code

Change-Id: Ifb2fc5c570e2c2aa2cfb173eadb32c688a84969e
Signed-off-by: wuwenbin2 <wuwenbin2@huawei.com>

Merge "Exclude test cases that use floating IP from odl_l3 scenarios"

Exclude test cases that use floating IP from odl_l3 scenarios

All the tempest_smoke_serial test cases that use floating IP
addresses for accessing instances are excluded because of
ODL bug https://bugs.opendaylight.org/show_bug.cgi?id=5586

JIRA: FUNCTEST-445

Change-Id: I19468be108a25e989c0cfef031bbe5f2b9db0964
Signed-off-by: vitikkan <viktor.tikkanen@nokia.com>

Merge "Print all the Copper test output to a log file"

Print all the Copper test output to a log file

To keep the jenkins console clean and readable,
dump all the output that the Copper test case
generates to a log file and push it to artifact
repository at the end.

Change-Id: If4812c7e92b4d050757ca07333f7c353a0220056
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Merge "Print all the Parser test output to a log file"

Print all the Parser test output to a log file

To keep the jenkins console clean and readable,
dump all the output that the Parser test case
generates to a log file and push it to artifact
repository at the end.

Change-Id: I04c8507fda535c7bcb0919fc3bc5877336664942
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Merge "Add print-to-a-file option when executing a command in functest_utils"

Merge "Change default memory for Promise flavor"

Merge "Fixes cleaning up HA Neutron objects"

Merge "Force python-keystoneclient to version 2.3.1 for tacker to work"

Fixes cleaning up HA Neutron objects

This fixes a race condition where the cleanup method is trying to remove
HA networks, while Neutron is also trying to remove the network - after
the HA router is removed.  This only applies to installations where
Neutron L3 HA is enabled (nosdn cases only).

JIRA: FUNCTEST-454

Change-Id: If06b6f6297e99dcce4b0f2aff8ec80b47488ee90
Signed-off-by: Tim Rozet <trozet@redhat.com>

Change debug mode for commands that generate too much output in sec_scan

The security scan test case generates sometimes too much output
messages and makes Jenkins unreadable.
For example:
https://build.opnfv.org/ci/job/functest-apex-apex-daily-colorado-daily-colorado/65/console

80% of the output belongs to this test case.
This patch will reduce it since debug information is not
showed in Jenkins but it is pushed as part of
functest.log to artifacts.

Change-Id: I56b3adf87d302d118ee5c15eb86bc10237a7cc4e
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Change default memory for Promise flavor

In some scenarios (bgpvpn) the timeout defined in promise
to boot/delete vms is too tight. Having less memory
might fix the problem as it will take less time and it
doesn't impact the promise test case.

Change-Id: Ib3165ea5d6518d88384f76c8edd10dddb0b529a3
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Add router association utility function

Add function to create an association between a router and a bgpvpn

Change-Id: I23449a0363f9d8f3c77ea3be1e104586d3c111d1
Signed-off-by: George Paraskevopoulos <geopar@intracom-telecom.com>

Add print-to-a-file option when executing a command in functest_utils

Change-Id: I8b91979380d0f4794d5ceaf8edb2a9d80cd7170f
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Fix some bugs

Change-Id: Iaf0859775933ba09cbbe170af3ce4ed1e6d3e9a1
Signed-off-by: boucherv <valentin.boucher@orange.com>

Force python-keystoneclient to version 2.3.1 for tacker to work

Tacker client is installed from Tim Rozet repository, it doesn't
support version 3 of the keystone client.

Change-Id: Ie2005b1590dfccf93442995e96e0c02b4629edea
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

stop hardcoded FUNCTEST_REPO path everywhere

functest repo is used by almost every testcase, each place we get it like:
REPOS_DIR = os.getenv('repos_dir')
FUNCTEST_REPO = ("%s/functest" % REPOS_DIR)
provide a common interface in functest_util.py

JIRA: FUNCTEST-453

Change-Id: Ie0635dacc761ed2d05b7e606530368844f32ebaf
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Merge "unify functest_yaml obtain process"

Merge "Add a specific logger for orchestrator class"

Remove copper from lxd scenario

JIRA: FUNCTEST-452

Change-Id: I35c6417e6650ce190e499384f9cf9cca1fa35eb1
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>

Refactor SFC testcase

- Change the way the test checks if the vxlan_tool has started.
  Now the vxlan_tool is detected even if another python process is up.
- Log the exceptions in the vxlan_tool check block. The exceptions that
  occur are not destructive for the testcase but it's better to be
  visible.
- Add a 60 seconds sleep before the testcase starts to give plenty of
  time to ODL to add the correct flows.
- Move the testcase success/fail check blocks inside the try blocks.
  The checks are performed on the stdout variable which is in scope
  only inside the try blocks.

Change-Id: I49dec176fb83117e9896ac1d19e8a5bd95e3d7cf
Signed-off-by: George Paraskevopoulos <geopar@intracom-telecom.com>

Add a specific logger for orchestrator class

JIRA: FUNCTEST-428

Change-Id: I1aab08f8f92df3b5527e6f8121cdf45aec2f5c17
Signed-off-by: boucherv <valentin.boucher@orange.com>

unify functest_yaml obtain process

functest_yaml is needed in almost all of the testcases, the obtain process is the same:
with open(os.environ["CONFIG_FUNCTEST_YAML"]) as f:
functest_yaml = yaml.safe_load(f)
f.close()
abstract a method to unify the process, and provide the interface

JIRA: FUNCTEST-447

Change-Id: I96a9a9962d7b466f10bbd3b5ab2495957524e22a
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Remove all logers as utils method args.

As it modifies method params, it could break the testcases.

JIRA: FUNCTEST-428

Change-Id: I4263d9bd812f1803e513464e3c321cc4a7281958
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Use a global logger instead of method args

It's the first step to safely remove all logers as method args.
Outputs printed by bash scripts called by execute_command are no longer
written in functest.log. Else logs printed by python scripts will
be duplicated in it.

JIRA: FUNCTEST-428

Change-Id: I60702f3b62121f731cd6845c335e227f97df37c9
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "unify testcases.yaml obtain process"

Merge "delete useless FUNCTEST_REPO variable"

parser fails on virtual environement

Parser tests needs lots of resources, such as vcpu/memory/disk,
virtuals pod may not meet the requirements, so exclude Parser
running on virtual pods by exclude 'noha' scenario

JIRA: FUNCTEST-444

Change-Id: I6f2832fa0f727f762987c41d7a3485dede041151
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Fix problem with SFC test

- If its not possible to get the IPs, then exit
- Patch Set 2: addressed code review comments

Change-Id: I16e22513b32e2b0da311ebcc280f3611570634a3
Signed-off-by: Brady Johnson <brady.allen.johnson@ericsson.com>

Committer promotion: Cedric Ollivier

Cedric joind Functest for Colorado
He fully refactored the ODL section including work upstream within ODL community
In addition of ODL skills, Cedric is a great benevolent reviewer.
Even if he is famous in the project for his gerrit -1, his reviews are always
usefull and clearly consolidate the code baseline for functest.
He is very relevant on all the technical aspects and we always need a Debianist
among commiters

Change-Id: I4bd0f778edfaa0d8969bdda3387d5a5ebc8b0f93
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>

Merge "Committer promotion: Serena Feng"

unify testcases.yaml obtain process

hardcoded "''FUNCTEST_REPO + "/ci/testcases.yaml"''' appears wherever
testcases.yaml is needed, abstract a method to provide unified interface

JIRA: FUNCTEST-449

Change-Id: Ida8e3d90926d3e2245883a29f577ecb121bd5d6c
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

delete useless FUNCTEST_REPO variable

FUNCTEST_REPO appears in lots of feature testcases, but never be used, delete it clean the code

JIRA: FUNCTEST-448

Change-Id: I4a9a10eac29e09b481563ed2c33f4122dd9ee3de
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Release note: add restriction for joid/domino

JIRA: FUNCTEST-436

Change-Id: I44fb50a2ef58095aff54f03b837bf456850f3057
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>

disable test case does not make sense for LXD.

This patch will disable the test cases which does not make sense
to run on LXD deployments.

Change-Id: I683b3714aa5af3c750ca57fab9fceff907b7d646
Signed-off-by: Narinder Gupta <narinder.gupta@canonical.com>

Merge "update fuel ref in tacker setup script"

Exclude healthcheck from lxd scenarios

JIRA: FUNCTEST-442

Change-Id: I1f6888dbddebf28af4b565ca87d9791a21cd4d7e
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>

update fuel ref in tacker setup script

Since the poc script is fixed it's fuel commit hash in the setup
script have to be updated to select the fixed poc script.

Change-Id: I1fd22e4dc216fd2889adea0c9889df1d4a1bf476
Signed-off-by: Ferenc Cserepkei <ferenc.cserepkei@ericsson.com>

Allow realtime Jenkins' console output

Change-Id: I6005000762eb6e7bb7e40ccaea35004a07b47aa1
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Force stdin, stdout and stderr to be totally unbuffered

It protects against mixed logs as lots of python scripts directly call
print which doesn't flush stdout as opposed to log.info(). This
requirement is induced by subprocess.Popen() initiated by run_tests.py.

The following programs could switch to logging instead of print [1]

[1] $ find . -name "*.py" |xargs grep -v ^[[:space:]]*# \
        |grep \ print\  |cut -d: -f 1 |sort -u
./testcases/Controllers/ODL/OpenDaylightTesting.py
./testcases/Controllers/ONOS/Sfc/Sfc_fun.py
./testcases/Controllers/ONOS/Sfc/Sfc.py
./testcases/Controllers/ONOS/Teston/adapters/client.py
./testcases/Controllers/ONOS/Teston/adapters/connection.py
./testcases/Controllers/ONOS/Teston/adapters/environment.py
./testcases/Controllers/ONOS/Teston/adapters/foundation.py
./testcases/OpenStack/vPing/vping_util.py
./testcases/security_scan/connect.py
./utils/functest_utils.py
./utils/functest_vacation.py
./utils/openstack_clean.py

JIRA: FUNCTEST-441

Change-Id: I7e9a888507f10352be7e85abd7f27dba4b1a7b53
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Stop hard-coding db url"

Merge "Flush stdout as it can be redirected to log"

Exclude floating-ip related tempest tests to blacklist for bgpvpn scenario

Change-Id: I7115018e64a2413209313b9a432d3d1b59e841d1
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Stop hard-coding db url

Change-Id: I587ac6d210135e7124ba006a977a675a4d38b518
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Flush stdout as it can be redirected to log

It avoids mixed logs in Jenkins' console by flushing every message
printed by the forked programs as logger.info() does.
It must be complete by refactoring logger management in util functions
[1] and by preventing output buffering in forked programs.

[1] https://jira.opnfv.org/browse/FUNCTEST-428

JIRA: FUNCTEST-441

Change-Id: Id8da814d79ea6b1e6b91b49e23a85c3802e11515
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Set env vars as mandatory to push to DB"

Merge "Update Release note"

Update Release note

JIRA: FUNCTEST-436

Change-Id: I3cbf6b276494c77afb10802af6735647ea6e62d5
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>

Merge "Review dev guide"

Review dev guide

JIRA: FUNCTEST-433

Change-Id: Ic141a5b74d9b3afc165e1f1f65f3dc1b05d77f4e
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>

Set env vars as mandatory to push to DB

Now env vars are mandatory in push_results_to_db. It avoids testing
programs to check them even if they are useless from their points of
view.
The related getters aren't removed to help debugging via
logger_test_results which could be run without report.

Change-Id: Iadb94319529f5ec4230fb62042511948183b93ed
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "configuration guide review"

configuration guide review

JIRA: FUNCTEST-435

Change-Id: I5b18f1223a5892d084c761f174ac5f713ceed476
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>

refactor create shared network process to eliminate reduplicate

Some places shared network is created through create_network_full first,
then update it to shared, abstract a uniformed method to eliminate reduplicate

JIRA: FUNCTEST-437

Change-Id: I13c20ab061323188c5eb3b8c861674df38083c62
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Merge "refactor create or get image process to eliminate reduplicate"

Merge "Stop calling exec_test.sh in the middle of python scripts"

Merge "[Fuel] Skip test_server_basic_ops tempest test"

refactor create or get image process to eliminate reduplicate

Some places when create image is referred, they check if image exist,
if exist use it directly, else create a new one.
Abstract a method to integrate the process

JIRA: FUNCTEST-432

Change-Id: I83d1112aa5cb0d3cdfab92fd49cd5f2c1cceff82
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Stop calling exec_test.sh in the middle of python scripts

Now run_tests.py calls directly OpenDaylightTesting.functest_run().
It mainly reads env vars as exec_test.sh does.

Change-Id: Ibb44a7ca67e9218d34d13b8dd539e772902fe5b8
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Use by default the default ODL web port

Change-Id: I7580f02dd5b2db6cf06690ef0163768ea59079fe
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Fixing commit f1054f8f

fix missed the apt-get action

Change-Id: Iac94576a2f712133eee92e4b5460f85d59e90e94
Signed-off-by: Ferenc Cserepkei <ferenc.cserepkei@ericsson.com>

Merge "Included correct links (Colorado) to Doctor/Promise user guides"

Included correct links (Colorado) to Doctor/Promise user guides

Change-Id: I9f6a3d806407f088bd97826c978417d23b18613a
Signed-off-by: Bertrand Souville <souville@docomolab-euro.com>

[SFC] Fixing CI

The fix https://gerrit.opnfv.org/gerrit/#/c/19351 will need
more time for dicussion. In the meanwhile we can use this
one so that CI does not break anymore.

Change-Id: Icbd54200bd62e5019c2a556699ceb41afdb229ca
Signed-off-by: Nikolas Hermanns <nikolas.hermanns@ericsson.com>

Committer promotion: Serena Feng

Serena has joined the project for Colorado
She managed 22% of the open JIRAs (Ast rank in Functest)
She fully managed the refactoring of the testapi used by most of the projects
She also was key for the integration of several feature projects
She replaced the PTL during Summer

Change-Id: Id2a1ca253f80a425d7db4cb64591a44b4bcc5898
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>

Merge "Avoid duplicating logs in run_tests.py"

Merge "when create/get/update failed return None rather than False"

Merge "delete useless image_exists in vping"

Avoid duplicating logs in run_tests.py

When run_tests.py sets logger as execute_command arg, logs are
duplicated in functest.log and not shown in console (as every DEBUG
message). As logger is mainly managed by the python scripts in charge
of testing, it can be safely removed here.
stderr is also redirected to stdout in execute_command to print
possible relevant data.

JIRA: FUNCTEST-431

Change-Id: Ie77544b4679e12e0a0ac7f5e5989d86862fe106b
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

when create/get/update failed return None rather than False

In openstack_util.py, when create/get/update network or other resources failed,
False is returned, which is incompatible with success return value such as id, network_nic.

JIRA: FUNCTEST-427

Change-Id: Id2f55d8524e5aff150ba6bfb799085377a63baa4
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Enable security scan for apex scenarios

Change-Id: I6c2925237d7ae437f49d60d37ef906ed8029eb03
Signed-off-by: vitikkan <viktor.tikkanen@nokia.com>

[Fuel] Skip test_server_basic_ops tempest test

Skip TestServerBasicOps which fails when deleting server
and floating ip almost at the same time.

JIRA: FUEL-173
JIRA: FUEL-176
Change-Id: I24f3397096757028bed9d32d6353aa689e8eaa9a
Signed-off-by: Michael Polenchuk <mpolenchuk@mirantis.com>

Merge "refactor push_result_to_db print thing"

refactor push_result_to_db print thing

when Exceptions happen, the print code is too difficult
to understand and maintain, modify to make it clear

jira: FUNCTEST-425

Change-Id: Ie12af989e711df3791167955642f2edf1164b146
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Create tempest resources before generating tempest.conf

During generating tempest.conf file rally tries to download
cirros image from the internet if no suitable images exist in
the configuration. This change ensures that cirros image is
created before generating tempest.conf file.

JIRA: FUNCTEST-195

Change-Id: I9e2df8af40bd02db9b78b8b6b730b4f4168a8b2d
Signed-off-by: vitikkan <viktor.tikkanen@nokia.com>

Merge "doctor test support fuel installer"

Merge "Add logger to push_results_to_db args"

Merge "Point tempest to stable 12.1.0"

Add logger to push_results_to_db args

It conforms to the current implementation of functest_utils

Change-Id: I50fa05fbf81a7c76cf4a6e3ef906fffe8aec15bf
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

delete useless image_exists in vping

In rally, image_exists is used to decide whether the image
resource should be cleaned or not. But unlike rally,
image_exists in vping is only assigned but not never be actually used.

JIRA: FUNCTEST-426

Change-Id: Id2089dd2a9734ba957cc1c80d4dc31bc27907b0a
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

doctor test support fuel installer

Change-Id: I9229d4de823568bfefd4f2c1ab5c5c1a1ded6d2c
Signed-off-by: dongwenjuan <dong.wenjuan@zte.com.cn>

Fix typos in OpenDaylightTesting

Change-Id: Ia70c1db358b727a910a38b679de0e3c6febdb0cd
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Mend create_image() function

Change-Id: I91681736817f881ca53e5124328bd4399aa54740
Signed-off-by: Michael Polenchuk <mpolenchuk@mirantis.com>

Merge changes from topics 'dont_open_twice', 'add_logs', 'manage_return_codes'

* changes:
  Avoid opening tmp files twice
  Add logs (info)
  Improve errors and status codes management

Merge "bugfix: push_result_to_db exception show"

Avoid opening tmp files twice

It avoids opening stdout.txt twice and removes it at the end.

Change-Id: I7e006b52f49dd32543676259e0a1be2473670487
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Bug fix - Better way to grab file from gerrit"

Add logs (info)

It adds logs (info) when status is ok and fixes an exception printing
too. It removes one useless log (debug).

Change-Id: Ia59c3985ae749b80d0e0c07f331220bd33cd8007
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

bugfix: push_result_to_db exception show

When pod is not exist in DB, exception will be shown as
'Error pushing results into Database '<type 'exceptions.TypeError'>'',
very unclear, make it very difficult to fix the problem.
Modify it to show as the testapi returned
'HTTPError: HTTP 404: Not Found (Could not find pod [zte-no])'

JIRA: FUNCTEST-424

Change-Id: I55fc4639d745b84f6d32a148bd13793d236e2a09
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Improve errors and status codes management

Run returns the number of errors which is irrelevant to catch as
they are published to DB. Useless generated files are desactivated too.

Change-Id: I2baf6d5242c5f4095302a47ff90272fb95103457
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Point tempest to stable 12.1.0

Checkout tempest to the latest stable tag
instead of master development branch.

Change-Id: I20c7e83bf6441e84b9441f4cb193681753f81300
Signed-off-by: Michael Polenchuk <mpolenchuk@mirantis.com>

Catch exception if output.xml failed

It protects against a direct call to push_to_db without a previous run
even if it can not happen in the current implementation.

Change-Id: Ifa00aed60912fa8b96b80d581067548ac6727fb5
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Merge "Add reporting to DB in OpenDaylightTesting"

Merge "Protect again changes of unix permissions"

Merge "refactor vping"

refactor vping

There are lots of common processes in vPing_userdata.py
and vPing_ssh.py, abstract and refactor them.

JIRA: FUNCTEST-414

Change-Id: I4cd2c635318c063319d2a3c31f9a1e512eeea6c8
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Protect again changes of unix permissions

It adds chmods in Dockerfile to ensure python and bash scripts can be
executed.

Change-Id: I9d75e87fcb1eb2e6fa37039fa5a070ef21cf0efb
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>