Added support for custom images and flavors in tempest

Change-Id: I9335ed1517097e83175a265b603a6707adf476b6
Signed-off-by: juraj.linkes <jlinkes@cisco.com>
(cherry picked from commit 0fa8de695dd6b50b7b01131376aefef9c13c21c1)

Corrected Promise links (According to final opnfvdocs directives)

Change-Id: I1d565a92bf9dd2de8ae679c4ca9c0bb5a9148830
Signed-off-by: Bertrand Souville <souville@docomolab-euro.com>
(cherry picked from commit 0e497c7deecb469cade667bfa768816ce9b2ab7d)

Update release Note

JIRA: FUNCTEST-436

Change-Id: Idbb02dd26e9578fc53e77f4b30447ff037f38ef4
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>
(cherry picked from commit daa145e1f38b3b2e3fa5f0d3780d722e0263fbef)

fixed updating of hugepage flavors

Change-Id: I5719aef5d5334584337858cf5fee3ef024c0eaac
Signed-off-by: juraj.linkes <jlinkes@cisco.com>
(cherry picked from commit 758ef5ddb78f8b5a948189f398daa7d4457b9f1d)

Exclude Doctor from Functest for fuel scenarios

Doctor, as part of the feature project, is FAIL on fuel
scenarios

JIRA: FUNCTEST-192

Change-Id: Ic5b9b4afe80fbb2d5887bdf46410a0fc72e7be37
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>
(cherry picked from commit 3097840a4cf0d4c4a32ce24b38af4cc2c601526b)

Exclude copper, doctor and security_scan from apex/fdio scenarios

JIRA: FUNCTEST-475

Change-Id: I720b9d88db94d66f067601608ab2d1435fc93d47
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>
(cherry picked from commit 81c7246253d97ec07a10a01b528b3ef99b2281f4)

Merge "Added missing parameter into logger warning message" into stable/colorado

Merge "Push FAIL to DB for onos-sfc" into stable/colorado

Add delay after SF floating IP assignment

JIRA: https://jira.opnfv.org/browse/SFC-48

The assignment of floating IPs to service functions needs some time
to complete, otherwise we get ssh failures

Change-Id: Ia3e789be95d20801ee2c741a473d407e936f4fb6
Signed-off-by: George Paraskevopoulos <geopar@intracom-telecom.com>
(cherry picked from commit a684becbcffc993322209b525a64f10ee10d7ab5)

Include latest tag for Multisite Kingbird

Fix for one of Kingbird testcase failure is in latest tag.
Modifying docker to pick the latest kingbird tag from github.

Change-Id: I4250322b808a104511e68b9a085717e6141a9eca
Signed-off-by: ashish singh <ashishsingh2k8@gmail.com>
(cherry picked from commit 8fdb64e2edce12589ab59594fbb914df3c32b81b)

Push FAIL to DB for onos-sfc

Change-Id: Ifae2cba32d9a0df44ae46e642129931692f65a7c
Signed-off-by: wuwenbin2 <wuwenbin2@huawei.com>
(cherry picked from commit f551726bb9ec6ea77f76c66869daf9a1a4596bb5)

Added missing parameter into logger warning message

Missing parameter prevented using of customer defined
installer type when executing "functest env prepare" command.

JIRA: FUNCTEST-467

Change-Id: I69b69fa43584ec7ae4e4d8925f99624711131ef9
Signed-off-by: vitikkan <viktor.tikkanen@nokia.com>
(cherry picked from commit a2c1165dfa22e5645eff20d8758ead07b638ccf5)

Doc for Xreview by other test projects

Change-Id: I75da3530685b74f628fc689b2ef8908919df147e
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>
(cherry picked from commit e7e579f3f03d2bdce513e6bd17da3aecfbca8612)

Refactored support for flavor and image hugepages based on Morgan's suggestins

Change-Id: I414338616aecda161a51a780abb24c9e3a8f5c54
Signed-off-by: juraj.linkes <jlinkes@cisco.com>
(cherry picked from commit a31877af04542bb0cd3c4da6d53f4d4ab580a295)

Added support for creating images and flavors with hugepages for fdio scenarios

Change-Id: Idb1cb3a6b71e6de9343a07b14731ae506a44567e
Signed-off-by: juraj.linkes <jlinkes@cisco.com>
(cherry picked from commit 20a2b8d2451c5f026deda8197ecc6e6aa0b83d38)

SFC testcase IP tables policy

Add iptables rule to open requests.
Tacker client fails to connect without this firewall rule.

Change-Id: I7ca0258110571d8aacdf8214830e4fce5a172c59
Signed-off-by: George Paraskevopoulos <geopar@intracom-telecom.com>
(cherry picked from commit a5bdcbf651016ed552967ed124c5fb2a19ad3d98)

[ODL-SFC] Add push resulst to DB

Change-Id: I314cbda828f6ebda70f7fb4e7d39e781696bc073
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>
(cherry picked from commit b2c633fc572d842ea093ecab51356290eca1e692)

Add CI link for ARM

Change-Id: Ieb70482ce2a7a63864dfad08d2e6530265f8d55f
Signed-off-by: cristinapauna <cristina.pauna@enea.com>
(cherry picked from commit 124da44817bb32242892adcced622eebde01e793)

[SDNVPN] Disable Rally Sanity test case for bgpvpn scenarios

Due to a known issue with API performance when bgpvpn extension
is activated which causes some delays and the tests take longer
time than normal, we get a lot of Jenkins Job timeouts and the
scenario cannot be validated.
Since it is a performance issue, we black list rally sanity, which
takes 1 hour to complete and will re-enable it in Colorado.2.0
where ODL Boron release will be available and SDNVPN team
thinks this will be fixed.

Change-Id: Idc68e30ea15d52d0fd4b63bc57ddf643f3f7c8b4
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>
(cherry picked from commit 642661f2de6afa12268e2d2cb854652f3db10ab8)

Exclude Tempest basicops case also in noha scenarios

FUNCTEST-470

Change-Id: I7bfd52b5e18e22d78437821906244a8e32ce38a3
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>
(cherry picked from commit 8cfb05465b9069960e45ffdf50e5cf987f0e8693)

Optimize onos-sfc

1.Delete print and format in onos-sfc
2.Split class into serveral methods in Sfc.py
3.Update Fail process
4.Use vars of HTTP status code

Change-Id: Ifb2fc5c570e2c2aa2cfb173eadb32c688a84969e
Signed-off-by: wuwenbin2 <wuwenbin2@huawei.com>
(cherry picked from commit ccb598c098c813cab4e3e4a3e0f3b2bf0d994489)

make use of functest_utils.get_parameter_from_yaml

JIRA: FUNCTEST-463

Change-Id: I1d54a65c5bfa2542f2fd3a2e408967641e6e4ac9
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>
(cherry picked from commit 55d301a2622ff5b63d431b9272caa68224d53843)

[Promise] Use the repository from github

The patch https://gerrit.opnfv.org/gerrit/#/c/20433/
modified the source of the repository from github
to gerrit.
Since gerrit repo causes the failures, we change
back to the original one where the latest changes
are performed.

Change-Id: Ibbe944a457ce0ec3f184a33696c302448e25e506
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>
(cherry picked from commit 4bd8e5f735562c38ad90c411f74f642c6e3ec73f)

Merge "Tempest release verion updated 12.1.0 -> 12.2.0" into stable/colorado

Exclude some Rally/Nova tests from lxd noha scenario

JIRA: FUNCTEST-464

Change-Id: I0b5014eabccd60c9efaacc4ee529e7b44fd070b2
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>
(cherry picked from commit 1d0e2d8bfb0a0cd070551d57c7669c02e86196ea)

remove imported FUNCTEST_REPO object

According to openstack style guidelines in http://docs.openstack.org/developer/hacking/
**** Do not import objects, only modules (*) ****
so direct FUNCTEST_REPO import should be avoided
from functest.utils.functest_utils import FUNCTEST_REPO as FUNCTEST_REPO

JIRA: FUNCTEST-459

Change-Id: Iac0d07a54957cd7419391de183660ac1ce0efd49
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Tempest release verion updated 12.1.0 -> 12.2.0

A bug (https://bugs.launchpad.net/tempest/+bug/1597164) in the
older version caused three tearDownClass failures in smoke suite.

JIRA: FUNCTEST-466

Change-Id: Iaa5cb7082b05aa938f2088dc635a47d1319f340c
Signed-off-by: vitikkan <viktor.tikkanen@nokia.com>
(cherry picked from commit d41aae6a119387bc00e22be8c4e6cf91753baa22)

Clone the proper branches in the dockerfile

JIRA: FUNCTEST-458

Related: https://gerrit.opnfv.org/gerrit/#/c/20431/

Change-Id: I234b1ed9c61411d7f328340612c28dffe12bb605
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>
(cherry picked from commit 81c83cae960b19366a6acd8d127b562abcfb601f)

Add blacklist handling for rally test cases

Test cases can be excluded from execution based on installer/scenario
via blacklist file.

JIRA: FUNCTEST-451

Change-Id: I17bbd5f1364a890b88bc196cbc5f49c492df1cb1
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>

Exclude Rally/Nova tests for lxd scenario

JIRA: FUNCTEST-464

Change-Id: I521f1ccd88579ba411d3691e4c222a2e8b41e1f8
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>

Fix image format set for rally test cases

Always use image format defined in config_functest.yaml when creating
glance images.

JIRA: FUNCTEST-460

Change-Id: Ica6b35605301bc14290daa23a1480114cf6294c0
Signed-off-by: Juha Kosonen <juha.kosonen@nokia.com>
(cherry picked from commit b49d6129e2f6a15be9de7b7f04fbec0bd15ee8e6)

Merge "Reduce logging in the SFC test case" into stable/colorado

Merge "[Promise] Fix bug opening the json result file" into stable/colorado

Add print-to-a-file option when executing a command in functest_utils

Change-Id: I8b91979380d0f4794d5ceaf8edb2a9d80cd7170f
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>
(cherry picked from commit 75479a40514ef2cea93d2ef032e5bfe00f987714)

Merge "Add stable/colorado as defaultbranch" into stable/colorado

Remove source-sans-pro directory, fonts not used and license conflict

Change-Id: I0ecdc71fe6cd58923c6fa9ad1bc01a0cc13bf72b
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>
(cherry picked from commit e848f2851a7d1d23915793e4e99e74bc4f3c4b02)

[Promise] Fix bug opening the json result file

Change-Id: I8882ffc8139095a79b6542c508a6293ae231f232
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>
(cherry picked from commit 56fa7f26dae9c41235ea1251e1b7d2ea1b389b7c)

[Promise test case] Use proper way to get parameters from yaml

Since there is a function in functest_utils to get
a value from the config_functest.yaml directly, there
is no need to load again that file. Better to use common
functions that are designed for that.

Also, Replace location of the results json file to
the results directory. It will be also pushed to artifacts
repository.

Change-Id: Ic6422ed78ccd0f8b40b519342a7dcf38c502924e
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>
(cherry picked from commit 861ad3fe18c6ee672c8c82d5d8ad39c6131fdf85)

Add stable/colorado as defaultbranch

Change-Id: I91278556f56c5c2024a7befd59049912558f5b5a
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

Reduce logging in the SFC test case

JIRA: FUNCTEST-446

Reduce the logs that appear in the Jenkins CI console to make the output
of the SFC test case more readable

- Redirect tacker installation logs to results folder
  /home/opnfv/functest/results/odl-sfc.log
- Split odl-sfc preparation into a new script
- Pipe STDERR in the sfc.py script so that "Added to known hosts"
  messages do not show in the output

Change-Id: Ibf871ade6827d4817f33623b935c5f1d904086bb
Signed-off-by: George Paraskevopoulos <geopar@intracom-telecom.com>

Merge "Remove all logers as utils method args." into stable/colorado

Merge "Print all the Parser test output to a log file" into stable/colorado

Merge "Force python-keystoneclient to version 2.3.1 for tacker to work" into stable/colorado

Remove all logers as utils method args.

As it modifies method params, it could break the testcases.

JIRA: FUNCTEST-428

Conflicts:
    testcases/features/copper.py
    testcases/features/doctor.py
    testcases/features/domino.py

Change-Id: I4263d9bd812f1803e513464e3c321cc4a7281958
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 8bfe49ee5a6d7b93b3ce7fb6aae0072acb1171d9)

Merge "Change default memory for Promise flavor" into stable/colorado

Add support of arm for doctor

This is half of the fix to make the doctor suite run on arm.
The other half is at https://gerrit.opnfv.org/gerrit/#/c/20369/
In this fix I set an enviroment variable, to be used by
the doctor suite when ran with functest. The variable is set only
when present in config_functest.yaml, which we use as a custom file
when running functest on arm.

Change-Id: If34d3e7734a194bf9fe8b525a362e029767caa4f
Signed-off-by: cristinapauna <cristina.pauna@enea.com>
(cherry picked from commit 53b8060cd60c163315d706a6035e30eb66fe8d15)

Redirect dominio's output to a log file

Change-Id: Ic4daa57ddbf6587660f982acd915cd4363d3ccbc
Signed-off-by: Carlos Goncalves <carlos.goncalves@neclab.eu>
(cherry picked from commit e0e414259aded62e66b2795ae789ae81d632902b)

Print all the Copper test output to a log file

To keep the jenkins console clean and readable,
dump all the output that the Copper test case
generates to a log file and push it to artifact
repository at the end.

Change-Id: If4812c7e92b4d050757ca07333f7c353a0220056
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>
Signed-off-by: Carlos Goncalves <carlos.goncalves@neclab.eu>
(cherry picked from commit 7442f6fb3ec962481d45a8ee0d12ad96242d9c0e)

[Doctor test case] Redirect output to a log file

The output shown in the Jenkins console will now be
redirected to a file which will be available and linked
to the artifacts repository.

Change-Id: I2e9b5c2ab681a787aa0fc249844cc13feb581764
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>
Signed-off-by: Carlos Goncalves <carlos.goncalves@neclab.eu>
(cherry picked from commit de6ca443b6ea60111f57bfe1cc6153463847c209)

Switch print to logging.info

It follows the recommendations described in the next review [1].

[1] https://gerrit.opnfv.org/gerrit/#/c/19795/

Change-Id: Ie7ce28451122c554f135caad068844c0303deaeb
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 0ae5f5fc64868e8c68eb330fa5aa219abdbdfee0)

Revert excluding floating IP cases from odl_l3

Only restrictions table in release notes is updated.

Change-Id: I8f27a876058eabe1c490fc5980de5626aed665a3
Signed-off-by: vitikkan <viktor.tikkanen@nokia.com>
(cherry picked from commit beb0b0c8fddbdfd45fef0a7e9548b52e48f94c45)

Exclude test cases that use floating IP from odl_l3 scenarios

All the tempest_smoke_serial test cases that use floating IP
addresses for accessing instances are excluded because of
ODL bug https://bugs.opendaylight.org/show_bug.cgi?id=5586

JIRA: FUNCTEST-445

Change-Id: I19468be108a25e989c0cfef031bbe5f2b9db0964
Signed-off-by: vitikkan <viktor.tikkanen@nokia.com>
(cherry picked from commit 0e29b1b97d1b996706aca692872fca5488a3acf7)

Print all the Parser test output to a log file

To keep the jenkins console clean and readable,
dump all the output that the Parser test case
generates to a log file and push it to artifact
repository at the end.

Change-Id: I04c8507fda535c7bcb0919fc3bc5877336664942
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>
(cherry picked from commit fde68435a66f999a0121b20c64e671ac06086cb3)

stop hardcoded FUNCTEST_REPO path everywhere

functest repo is used by almost every testcase, each place we get it like:
REPOS_DIR = os.getenv('repos_dir')
FUNCTEST_REPO = ("%s/functest" % REPOS_DIR)
provide a common interface in functest_util.py

JIRA: FUNCTEST-453

Change-Id: Ie0635dacc761ed2d05b7e606530368844f32ebaf
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>
(cherry picked from commit 470f573a3ac2eb1783efec6da01a3bee33360c65)

Merge "Refactor SFC testcase" into stable/colorado

Change default memory for Promise flavor

In some scenarios (bgpvpn) the timeout defined in promise
to boot/delete vms is too tight. Having less memory
might fix the problem as it will take less time and it
doesn't impact the promise test case.

Change-Id: Ib3165ea5d6518d88384f76c8edd10dddb0b529a3
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>
(cherry picked from commit abc3abc3981ba33d32b446fba8b2d40ceb59ec17)

unify functest_yaml obtain process

functest_yaml is needed in almost all of the testcases, the obtain process is the same:
with open(os.environ["CONFIG_FUNCTEST_YAML"]) as f:
functest_yaml = yaml.safe_load(f)
f.close()
abstract a method to unify the process, and provide the interface

JIRA: FUNCTEST-447

Change-Id: I96a9a9962d7b466f10bbd3b5ab2495957524e22a
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>
(cherry picked from commit f4d0a05011e961a363c6d99522684ecdeb959716)

Fixes cleaning up HA Neutron objects

This fixes a race condition where the cleanup method is trying to remove
HA networks, while Neutron is also trying to remove the network - after
the HA router is removed.  This only applies to installations where
Neutron L3 HA is enabled (nosdn cases only).

JIRA: FUNCTEST-454

Change-Id: If06b6f6297e99dcce4b0f2aff8ec80b47488ee90
Signed-off-by: Tim Rozet <trozet@redhat.com>
(cherry picked from commit c7effe57d86f77e1d824b9c927d9e8ab70a59695)

Force python-keystoneclient to version 2.3.1 for tacker to work

Tacker client is installed from Tim Rozet repository, it doesn't
support version 3 of the keystone client.

Change-Id: Ie2005b1590dfccf93442995e96e0c02b4629edea
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>
(cherry picked from commit 8167b3f6643c5fb35abcbdd3d6ba56f87541c32b)

Add router association utility function

Add function to create an association between a router and a bgpvpn

Change-Id: I23449a0363f9d8f3c77ea3be1e104586d3c111d1
Signed-off-by: George Paraskevopoulos <geopar@intracom-telecom.com>
(cherry picked from commit 1d01ece307a130bdd0c85ea811b3b72cc6d53156)

Fix some bugs

Change-Id: Iaf0859775933ba09cbbe170af3ce4ed1e6d3e9a1
Signed-off-by: boucherv <valentin.boucher@orange.com>
(cherry picked from commit 26f493bf3bb06a0ceb959294397ff653b92da202)

Add a specific logger for orchestrator class

JIRA: FUNCTEST-428

Change-Id: I1aab08f8f92df3b5527e6f8121cdf45aec2f5c17
Signed-off-by: boucherv <valentin.boucher@orange.com>
(cherry picked from commit dbbf8da5725f18eede541c82f6adac90a955f43d)

Remove copper from lxd scenario

JIRA: FUNCTEST-452

Change-Id: I35c6417e6650ce190e499384f9cf9cca1fa35eb1
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>
(cherry picked from commit bb699b3cfc146566ba54aa96111cf5a05839322a)

Refactor SFC testcase

- Change the way the test checks if the vxlan_tool has started.
  Now the vxlan_tool is detected even if another python process is up.
- Log the exceptions in the vxlan_tool check block. The exceptions that
  occur are not destructive for the testcase but it's better to be
  visible.
- Add a 60 seconds sleep before the testcase starts to give plenty of
  time to ODL to add the correct flows.
- Move the testcase success/fail check blocks inside the try blocks.
  The checks are performed on the stdout variable which is in scope
  only inside the try blocks.

Change-Id: I49dec176fb83117e9896ac1d19e8a5bd95e3d7cf
Signed-off-by: George Paraskevopoulos <geopar@intracom-telecom.com>
(cherry picked from commit 563a540585768d900d70ce79f2a871a9d1fab03e)

Use a global logger instead of method args

It's the first step to safely remove all logers as method args.
Outputs printed by bash scripts called by execute_command are no longer
written in functest.log. Else logs printed by python scripts will
be duplicated in it.

JIRA: FUNCTEST-428

Change-Id: I60702f3b62121f731cd6845c335e227f97df37c9
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit fe5d0f8628b8e0defdfc6e3b0e4556b46311a2f9)

unify testcases.yaml obtain process

hardcoded "''FUNCTEST_REPO + "/ci/testcases.yaml"''' appears wherever
testcases.yaml is needed, abstract a method to provide unified interface

JIRA: FUNCTEST-449

Change-Id: Ida8e3d90926d3e2245883a29f577ecb121bd5d6c
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>
(cherry picked from commit f5afb93a4a2ed9547757655c1405ef27fabed11b)

delete useless FUNCTEST_REPO variable

FUNCTEST_REPO appears in lots of feature testcases, but never be used, delete it clean the code

JIRA: FUNCTEST-448

Change-Id: I4a9a10eac29e09b481563ed2c33f4122dd9ee3de
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>
(cherry picked from commit 834f81f0ad708b930f66aec1fd8b36e2cfb8b32b)

Release note: add restriction for joid/domino

JIRA: FUNCTEST-436

Change-Id: I44fb50a2ef58095aff54f03b837bf456850f3057
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>
(cherry picked from commit e1cf8564b1f06a64863ee463b817935ec58f834c)

Update Release note

JIRA: FUNCTEST-436

Change-Id: I3cbf6b276494c77afb10802af6735647ea6e62d5
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>
(cherry picked from commit 2d3b3b01e9c53930ff4bfa9d1142a3a25bba42a0)

parser fails on virtual environement

Parser tests needs lots of resources, such as vcpu/memory/disk,
virtuals pod may not meet the requirements, so exclude Parser
running on virtual pods by exclude 'noha' scenario

JIRA: FUNCTEST-444

Change-Id: I6f2832fa0f727f762987c41d7a3485dede041151
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>
(cherry picked from commit 35cf15a87126b6947b59899cd726f4b92599fe79)

Fix problem with SFC test

- If its not possible to get the IPs, then exit
- Patch Set 2: addressed code review comments

Change-Id: I16e22513b32e2b0da311ebcc280f3611570634a3
Signed-off-by: Brady Johnson <brady.allen.johnson@ericsson.com>
(cherry picked from commit 429ea989e665ebc3dac381c2629662f327dd9a46)

Committer promotion: Cedric Ollivier

Cedric joind Functest for Colorado
He fully refactored the ODL section including work upstream within ODL community
In addition of ODL skills, Cedric is a great benevolent reviewer.
Even if he is famous in the project for his gerrit -1, his reviews are always
usefull and clearly consolidate the code baseline for functest.
He is very relevant on all the technical aspects and we always need a Debianist
among commiters

Change-Id: I4bd0f778edfaa0d8969bdda3387d5a5ebc8b0f93
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>
(cherry picked from commit bb88bedfd4410ca6057fe9a2512537b25ba7c326)

Committer promotion: Serena Feng

Serena has joined the project for Colorado
She managed 22% of the open JIRAs (Ast rank in Functest)
She fully managed the refactoring of the testapi used by most of the projects
She also was key for the integration of several feature projects
She replaced the PTL during Summer

Change-Id: Id2a1ca253f80a425d7db4cb64591a44b4bcc5898
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>
(cherry picked from commit 648a32fcf32390a301c75dd21aa7bae2ff5580d0)

disable test case does not make sense for LXD.

This patch will disable the test cases which does not make sense
to run on LXD deployments.

Change-Id: I683b3714aa5af3c750ca57fab9fceff907b7d646
Signed-off-by: Narinder Gupta <narinder.gupta@canonical.com>
(cherry picked from commit 029a659b4198611dc93b6b41f42c3939a98de5bd)

update fuel ref in tacker setup script

Since the poc script is fixed it's fuel commit hash in the setup
script have to be updated to select the fixed poc script.

Change-Id: I1fd22e4dc216fd2889adea0c9889df1d4a1bf476
Signed-off-by: Ferenc Cserepkei <ferenc.cserepkei@ericsson.com>
(cherry picked from commit 0d1faa954ec5a5e2911a2ec6df2f0a5f8782a623)

Exclude healthcheck from lxd scenarios

JIRA: FUNCTEST-442

Change-Id: I1f6888dbddebf28af4b565ca87d9791a21cd4d7e
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>
(cherry picked from commit 9b77f96822457e20bd5c5249c41bf498a3351b2b)

Allow realtime Jenkins' console output

Change-Id: I6005000762eb6e7bb7e40ccaea35004a07b47aa1
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 8afd88fdf4574136d44cfaa8b01a4fa89e6a7a81)

Force stdin, stdout and stderr to be totally unbuffered

It protects against mixed logs as lots of python scripts directly call
print which doesn't flush stdout as opposed to log.info(). This
requirement is induced by subprocess.Popen() initiated by run_tests.py.

The following programs could switch to logging instead of print [1]

[1] $ find . -name "*.py" |xargs grep -v ^[[:space:]]*# \
        |grep \ print\  |cut -d: -f 1 |sort -u
./testcases/Controllers/ODL/OpenDaylightTesting.py
./testcases/Controllers/ONOS/Sfc/Sfc_fun.py
./testcases/Controllers/ONOS/Sfc/Sfc.py
./testcases/Controllers/ONOS/Teston/adapters/client.py
./testcases/Controllers/ONOS/Teston/adapters/connection.py
./testcases/Controllers/ONOS/Teston/adapters/environment.py
./testcases/Controllers/ONOS/Teston/adapters/foundation.py
./testcases/OpenStack/vPing/vping_util.py
./testcases/security_scan/connect.py
./utils/functest_utils.py
./utils/functest_vacation.py
./utils/openstack_clean.py

JIRA: FUNCTEST-441

Change-Id: I7e9a888507f10352be7e85abd7f27dba4b1a7b53
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit d32ff56af10bcc15163d573a64970013242c689c)

Stop hard-coding db url

Change-Id: I587ac6d210135e7124ba006a977a675a4d38b518
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit fee070fcc4a31735abb88b303742bb05f12b53e7)

Flush stdout as it can be redirected to log

It avoids mixed logs in Jenkins' console by flushing every message
printed by the forked programs as logger.info() does.
It must be complete by refactoring logger management in util functions
[1] and by preventing output buffering in forked programs.

[1] https://jira.opnfv.org/browse/FUNCTEST-428

JIRA: FUNCTEST-441

Change-Id: Id8da814d79ea6b1e6b91b49e23a85c3802e11515
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit c7edada4ccf84851b76b9ef738c270a7a6819a06)

Exclude floating-ip related tempest tests to blacklist for bgpvpn scenario

Change-Id: I7115018e64a2413209313b9a432d3d1b59e841d1
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>
(cherry picked from commit fbe4b77d39e0520e2f34a81dae7010b0f01d2aa2)

Set env vars as mandatory to push to DB

Now env vars are mandatory in push_results_to_db. It avoids testing
programs to check them even if they are useless from their points of
view.
The related getters aren't removed to help debugging via
logger_test_results which could be run without report.

Change-Id: Iadb94319529f5ec4230fb62042511948183b93ed
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 66334bc798c25d5769f92f2a6292daaf6220da79)

Review dev guide

JIRA: FUNCTEST-433

Change-Id: Ic141a5b74d9b3afc165e1f1f65f3dc1b05d77f4e
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>
(cherry picked from commit 94c22c662fa057a181f76ef28bddc0c5ac949e7e)

configuration guide review

JIRA: FUNCTEST-435

Change-Id: I5b18f1223a5892d084c761f174ac5f713ceed476
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>
(cherry picked from commit e9876bd337af54883fe46e49343abc22cfd0404f)

refactor create shared network process to eliminate reduplicate

Some places shared network is created through create_network_full first,
then update it to shared, abstract a uniformed method to eliminate reduplicate

JIRA: FUNCTEST-437

Change-Id: I13c20ab061323188c5eb3b8c861674df38083c62
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>
(cherry picked from commit 007868e4810aaf9a2664b030281fe7c818fc3494)

refactor create or get image process to eliminate reduplicate

Some places when create image is referred, they check if image exist,
if exist use it directly, else create a new one.
Abstract a method to integrate the process

JIRA: FUNCTEST-432

Change-Id: I83d1112aa5cb0d3cdfab92fd49cd5f2c1cceff82
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>
(cherry picked from commit 5f5af6b1d8d0af19db143e67f04f67a643af863c)

Stop calling exec_test.sh in the middle of python scripts

Now run_tests.py calls directly OpenDaylightTesting.functest_run().
It mainly reads env vars as exec_test.sh does.

Change-Id: Ibb44a7ca67e9218d34d13b8dd539e772902fe5b8
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit d6484df9b602f0888450ef1e29ccc0a5f6c94675)

[Fuel] Skip test_server_basic_ops tempest test

Skip TestServerBasicOps which fails when deleting server
and floating ip almost at the same time.

JIRA: FUEL-173
JIRA: FUEL-176
Change-Id: I24f3397096757028bed9d32d6353aa689e8eaa9a
Signed-off-by: Michael Polenchuk <mpolenchuk@mirantis.com>
(cherry picked from commit 44819aec4a70a75abc9fbcff23edd9d904170bf7)

Use by default the default ODL web port

Change-Id: I7580f02dd5b2db6cf06690ef0163768ea59079fe
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 683db3a5d67aeead1090008bce7701ffb208a15c)

Fixing commit f1054f8f

fix missed the apt-get action

Change-Id: Iac94576a2f712133eee92e4b5460f85d59e90e94
Signed-off-by: Ferenc Cserepkei <ferenc.cserepkei@ericsson.com>
(cherry picked from commit 2002f166154ca5a9380f9d2da2843477669af8f5)

Included correct links (Colorado) to Doctor/Promise user guides

Change-Id: I9f6a3d806407f088bd97826c978417d23b18613a
Signed-off-by: Bertrand Souville <souville@docomolab-euro.com>
(cherry picked from commit 218e49c9729f3ecfe3661a6efce0a46a6ba4e278)

[SFC] Fixing CI

The fix https://gerrit.opnfv.org/gerrit/#/c/19351 will need
more time for dicussion. In the meanwhile we can use this
one so that CI does not break anymore.

Change-Id: Icbd54200bd62e5019c2a556699ceb41afdb229ca
Signed-off-by: Nikolas Hermanns <nikolas.hermanns@ericsson.com>
(cherry picked from commit f1054f8f7c787e50df0c0e27ecb10752393071e2)

Avoid duplicating logs in run_tests.py

When run_tests.py sets logger as execute_command arg, logs are
duplicated in functest.log and not shown in console (as every DEBUG
message). As logger is mainly managed by the python scripts in charge
of testing, it can be safely removed here.
stderr is also redirected to stdout in execute_command to print
possible relevant data.

JIRA: FUNCTEST-431

Change-Id: Ie77544b4679e12e0a0ac7f5e5989d86862fe106b
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 53fd052b7fce64294c50ca170d42367d711ccc3f)

when create/get/update failed return None rather than False

In openstack_util.py, when create/get/update network or other resources failed,
False is returned, which is incompatible with success return value such as id, network_nic.

JIRA: FUNCTEST-427

Change-Id: Id2f55d8524e5aff150ba6bfb799085377a63baa4
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>
(cherry picked from commit 3e95a1cd0721924e89e2cfd2960d4736bc6c5588)

delete useless image_exists in vping

In rally, image_exists is used to decide whether the image
resource should be cleaned or not. But unlike rally,
image_exists in vping is only assigned but not never be actually used.

JIRA: FUNCTEST-426

Change-Id: Id2089dd2a9734ba957cc1c80d4dc31bc27907b0a
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>
(cherry picked from commit 73053cd38fed875e3e5d64cabfb7fbfeb2839a80)

Enable security scan for apex scenarios

Change-Id: I6c2925237d7ae437f49d60d37ef906ed8029eb03
Signed-off-by: vitikkan <viktor.tikkanen@nokia.com>
(cherry picked from commit da6398642446f98240d9d1bf924e959e64a73d63)

refactor push_result_to_db print thing

when Exceptions happen, the print code is too difficult
to understand and maintain, modify to make it clear

jira: FUNCTEST-425

Change-Id: Ie12af989e711df3791167955642f2edf1164b146
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>
(cherry picked from commit 2588e2af6c2b609ab08957268f8163954cd8eae1)

Create tempest resources before generating tempest.conf

During generating tempest.conf file rally tries to download
cirros image from the internet if no suitable images exist in
the configuration. This change ensures that cirros image is
created before generating tempest.conf file.

JIRA: FUNCTEST-195

Change-Id: I9e2df8af40bd02db9b78b8b6b730b4f4168a8b2d
Signed-off-by: vitikkan <viktor.tikkanen@nokia.com>
(cherry picked from commit 93f4a6576d58522dfbb458f184399767ef8764aa)

doctor test support fuel installer

Change-Id: I9229d4de823568bfefd4f2c1ab5c5c1a1ded6d2c
Signed-off-by: dongwenjuan <dong.wenjuan@zte.com.cn>
(cherry picked from commit e0a17212d21ae7d76c55791ab8bcde1c66df3158)

Add logger to push_results_to_db args

It conforms to the current implementation of functest_utils

Change-Id: I50fa05fbf81a7c76cf4a6e3ef906fffe8aec15bf
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>
(cherry picked from commit 8541642abd6504d5df021654a7481fc90315da8c)