Initiate packetization of Testing reporting

Testing reporting provides
- static reporting pages [1] (jinja2)
- landing pages including test case catalogue [2] (angular)

It consumes the Test API to build web pages providing status for
the testing projects (so far functest, yardstick, storperf and
qtip).

Dockerization has been initiated [3]. The goal is to replace the
static page hosted on testresults.opnfv.org by a docker regenerated
and redeployed when reporting code is changed

But the docker and more generally the testing reporting directory
must be refactored to
- manage dependencies properly
- leverage tox (py27, docs, pylint, pep8)

This patch
- setups tox (py27, pep8, pylint, docs)
- integrate the requirement management
- fix pep8 errors
- introduce 1 dummy unit test

This patch does not
- fix pylint errors
- create any doc

[1]: http://testresults.opnfv.org/reporting2/display/index.html
[2]: http://testresults.opnfv.org/reporting2/reporting/index.html
[3]: https://gerrit.opnfv.org/gerrit/#/c/36735/

Change-Id: I4613de7ca7036d6c6bbb8f58ade492b1d673599b
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>

Merge "Reporting docker deployment improvement"

Merge "Functest verify jobs only for master branch"

Merge "bugfix: hardcoded testapi urls"

Reporting docker deployment improvement

In the patch, I make build pages(landing page ...),
when docker build, when run a container, we can set
the api url(default:testresults.opnfv.org/reporting2) by -e;

For example:
1. In testresults.opnfv.org:
docker run -itd -p 8888:8000 -p 80:80 opnfv/reporting:tag
visit: http://testresults.opnfv.org/reporting2/reporting/index.html

2. Personal use:
docker run -itd -p 8888:8000 -p 80:80 -e SERVER_URL=192.168.131.2:8888 opnfv/reporting:tag
visit: http://192.168.131.2:8888/reporting/index.html

Change-Id: Ib838c12e785151acf9852f25eab254aedc520a1d
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>

Change the installer ip of daisy-baremetal

From 10.20.11.2 to 10.20.7.3

Change-Id: I796e2bcf3065df804eefec28c2ed9ecdcb198d7a
Signed-off-by: Alex Yang <yangyang1@zte.com.cn>

Functest verify jobs only for master branch

The verify job is running tox which is not in stable/danube
branch. Therefore, the bugfixes in that branch fail.
This enables verify jobs only to master branch.

Change-Id: Iff2a7b5e2d6aaff489767e77ebfa9a16bb9326de
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

bugfix: hardcoded testapi urls

testapi webportal's urls are fixed in configure files
this patch aims to modify them according to base_url
provided when bringing up container

Change-Id: I29c461fc3b837e54d4ff5330dcaa520637590ff7
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Merge "remove scenarios"

Merge "Enable ODL scenarios jobs"

Merge "prototypes: xci: xci-deploy.sh: Append trailing slash for rsync vars"

Merge "Use former calls to running Functest in Danube"

Merge "add zte-virtul3 and zte-virtul4 to Doctor CI pods"

Use former calls to running Functest in Danube

Change-Id: I472a41e3c2ad41e97a6f4ea3b82d72df73c8416b
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

remove scenarios

compass4nfv don't support openo, moon,onos in master branch
so we remove these scenario

Change-Id: Ibfad2b352b1236dac48453101860cdd538528aa3
Signed-off-by: wutianwei <wutianwei1@huawei.com>

dovetail change tag to cvp.0.2.0

after https://gerrit.opnfv.org/gerrit/#/c/36775/ merged
let it run in CI

Change-Id: I46a4a55aab673c346291428eccdc24c77cfd8bc4
Signed-off-by: MatthewLi <matthew.lijun@huawei.com>

Enable ODL scenarios jobs

This PS does the follwoing things:
1. Enable ODL scenarios jobs on CI Pod
2. Change default scenario from ha to noha

Change-Id: I548174bfa551aa06b6d9bfe64cf119eea37efda3
Signed-off-by: Zhijiang Hu <hu.zhijiang@zte.com.cn>

Merge "Add jenkins jobs for automatic reporting dashboard deployment"

add zte-virtul3 and zte-virtul4 to Doctor CI pods

Change-Id: I1a27979cad590886fb5cdb039d69611a473cbe3c
Signed-off-by: Ryota MIBU <r-mibu@cq.jp.nec.com>

Allow zte-virtual1 publish logs to artifact repo

Change-Id: I0a8935351444909b13ed306baf4f36311c8186c9
Signed-off-by: jose.lausuch <jose.lausuch@ericsson.com>

Merge "add python verify job for doctor"

Merge changes from topics 'prototypes/xci/config/pinned-versions-bump-dates', 'prototypes/xci/config/pinned-versions-bump-bifrost-version'

* changes:
  prototypes: xci: scripts: Update SHA dates
  prototypes: xci: update-osa-version-files: Add support for updating bifrost SHAs

Merge "xci: Fix README for setting dev path instructions"

Merge "prototypes: xci: Update SHAs for OSA and its roles"

prototypes: xci: xci-deploy.sh: Append trailing slash for rsync vars

The 'synchronize' Ansible module uses rsync and for that we need
to indicate that we want to copy the contents of the development path
and not the development path itself. As such we need to ensure that a
trailing slash is always appended to the user variables but we need to
also ensure that we will not end up with double slashes.

Change-Id: I0103b754585931fa1dcd3966c52d7e4a8f2f63f6
Signed-off-by: Markos Chandras <mchandras@suse.de>

Merge "barometer: Fix upload URL"

xci: Fix README for setting dev path instructions

Change-Id: I56c727c242b6826f87a64246b6b4736a637c1abe
Signed-off-by: Fatih Degirmenci <fatih.degirmenci@ericsson.com>

barometer: Fix upload URL

Change-Id: Id8c5572adb2691882519b0136346a393dd4115f9
Signed-off-by: Fatih Degirmenci <fatih.degirmenci@ericsson.com>

Weekly Anteater Project Additions

https://wiki.opnfv.org/display/INF/Project+Roll+Out+for+Anteater

Week begining July the 2nd

Depends-on: I3610868930f0d6033e528548dceb09b3279b6b8d

Change-Id: I541ab95f054e8159f41f16520083f71ea2dc5d1f
Signed-off-by: lukehinds <lhinds@redhat.com>

Merge "Directly call Functest console scripts"

prototypes: xci: scripts: Update SHA dates

Update the dates in the pinned-versions file whenever we update
the SHAs.

Change-Id: I23ebd90a3fc688a7501fcb2d32217357f8c31657
Signed-off-by: Markos Chandras <mchandras@suse.de>

prototypes: xci: update-osa-version-files: Add support for updating bifrost SHAs

Add a second optional argument to update the bifrost SHA instead of
doing this bit manually.

Change-Id: I0fab8745ae08ad4f54a2a1f5b0b7a64fde4b8295
Signed-off-by: Markos Chandras <mchandras@suse.de>

prototypes: xci: Update SHAs for OSA and its roles

This also updates the second (pre_release) argument of
'update_ansible_role_requirements' from 'false' to 'true' so that
non-openstack roles can be updated as well.

Change-Id: Id424499f44c9b51c02d56e5d93580faeea50ad12
Signed-off-by: Markos Chandras <mchandras@suse.de>

fix dovetail branch issue

error logs

https://build.opnfv.org/ci/view/dovetail/job/dovetail-fuel-baremetal-proposed_tests-danube/43/console

Change-Id: I0634041a0679fa7f3e6a4e6c627b3205a3b0372d
Signed-off-by: MatthewLi <matthew.lijun@huawei.com>

Add jenkins jobs for automatic reporting dashboard deployment

Jenkins Jobs have been added for automating the deployment of the
reporting dashboard. Also multijob has been added for automating the
update of docker in the docker hub and generating docs which is empty
for now. Modified unit tests of reporting to make it run from any
directory.

Modified the testapi jenkins jobs yaml file to generic so that many
other modules which may have the same usecases can be integrated easily
just like the reporting one that is done now.

Change-Id: Id13a55416e17199dae1dd6ce64f7c167d117ba37
Signed-off-by: Sakala Venkata Krishna Rohit <rohitsakala@gmail.com>

Merge "barometer: remove old script from merge job steps"

Directly call Functest console scripts

It conforms jjobs with "Define console_scripts" [1].

[1] https://gerrit.opnfv.org/gerrit/#/c/36781/

Change-Id: I9209e6efa1b493e24135402a46df72aaa14115d1
Signed-off-by: Cédric Ollivier <cedric.ollivier@orange.com>

add python verify job for doctor

Change-Id: I5432c5c87f0eed279cba0b80947761a81a72cd61
Signed-off-by: dongwenjuan <dong.wenjuan@zte.com.cn>

this script is called by jenkins user

we need to sudo the mkdir

Change-Id: I4db726e92566917ecd384884cf1a3c60354c2065
Signed-off-by: agardner <agardner@linuxfoundation.org>

Merge "bug fix: typo in bottlenecks naming (reporting page)"

barometer: remove old script from merge job steps

Change-Id: Ic28513d75f15d4b25a67ccdbc1a2732fe0029411
Signed-off-by: Maryam Tahhan <maryam.tahhan@intel.com>

Merge "barometer: include the barometer-project-parameter"

Remove invalid Timed trigger from Bifrost Jobs

A disabled trigger is set to the empty string, not prefixed with a
comment character.

Change-Id: I0b29857f0907f33bb0fb8156bb6db84113f1479d
Signed-off-by: Trevor Bramwell <tbramwell@linuxfoundation.org>

Merge "refactor list operation"

Merge "bugfix: Exception when the results is empty"

Merge "prototypes: xci: scripts: Add update-osa-version-files.sh script"

barometer: include the barometer-project-parameter

Change-Id: I503674dbec81c7255664818c3305311086db9ca3
Signed-off-by: Maryam Tahhan <maryam.tahhan@intel.com>

Merge "dovetail run against different scenarios of compass"

refactor list operation

all operations mix together make it very difficult to read

Change-Id: I7e4a12fd13a7aa0dc0c8fc09b69c7e43a2ab18ac
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

bugfix: Exception when the results is empty

list operation crash when limit is not provided, error message:
OperationFailure: the limit must be positive

JIRA: RELENG-265

Change-Id: Id8db93b594010d054a71d301d9c42eed113c12e1
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Merge "Pass fully qualified anteater path to Docker run"

Pass fully qualified anteater path to Docker run

With moving anteater into a virtualenv inside the container, it is no
longer installed to a location accessible by the default PATH. Using the
absolute path to the anteater binary should allow this to run.

Change-Id: I978e96d6de1b6c7bb63ff877b5bc77e1b6ee44df
Signed-off-by: Trevor Bramwell <tbramwell@linuxfoundation.org>

Merge "bugfix: pagination crash due to memory limitation"

bug fix: typo in bottlenecks naming (reporting page)

Change-Id: Ifb2047e688117c7c9af33031467f2025d530f187
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>

bugfix: pagination crash due to memory limitation

MongoDB sorts the results in memory, and the default mem limitation is
32M, if the sort operation consumes more than that it will return an
error:
OperationFailure: Executor error during find command: OperationFailed
Sort operation used more than the maximum 33554432 bytes of RAM. Add an
index, or specify a smaller limit.

To solve this problem, here we leverage aggregate() and
allowDiskUse=True, it is said will not be limited by memory

Change-Id: Id698ad1d02912e8b350a33a926fcccc390814fcc
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

dovetail run against different scenarios of compass

JIRA: DOVETAIL-454

1, scenarios to run
https://wiki.opnfv.org/display/dovetail/Running+history+for+the+dovetail+tool
scenarios installer
os-nosdn-nofeature-ha    Apex
os-nosdn-kvm-ha     Apex
 os-odl_l3-fdio-ha   Apex
os-odl_l2-nofeature-ha  Compass
os-nosdn-nofeature-ha  Compass
os-onos-nofeature-ha  Compass
os-odl_l3-nofeature-ha  Compass
os-nosdn-ovs-ha  Fuel
os-odl_l2-bgpvpn-ha  Fuel
os-odl_l3-nofeature-ha  Fuel
os-nosdn-nofeature-ha Fuel
os-nosdn-kvm_ovs_dpdk-ha Fuel

2, time map(in order to reduce resource in CI)
MON, WED, FRI, SUN ----> latest
TUE, THU, SAT ---> cvp.0.1.0

Change-Id: If9c3fc514e4260530fc4f73299eedd9c1b022692
Signed-off-by: MatthewLi <matthew.lijun@huawei.com>

Merge "bug fix: consider pagination when retrieveing results for reporting"

bug fix: consider pagination when retrieveing results for reporting

Due to pagination feature introduced in test API, reporting pages
only considered the first page of results retrieved by the API
the number of pages is now detected to aggregate the results

JIRA: RELENG-259

Change-Id: I0ac90b125baf8c16341c8db22f5602fedd4cdf1b
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>

Enable onos-sfc baremetal daily job

JIRA:-

Because Baremetal resource is limit, it will take more than 3 hours
in each circle. so diable ocl and enable onos-sfc.

Change-Id: I6a9cfd20324bc5dfa79e6cfc4b5ee3b4e84a3085
Signed-off-by: chigang <chigang@huawei.com>

Merge "Add licenses to Dovetail scripts"

Add licenses to Dovetail scripts

JIRA: DOVETAIL-453

Change-Id: I40110eae6eac86953f482f83e0b082149c3d0377
Signed-off-by: xudan <xudan16@huawei.com>

Merge "Bugfix: Dovetail CI failed with Permission denied"

Bugfix: Dovetail CI failed with Permission denied

JIRA: DOVETAIL-451

1. Dovetail CI jobs failed because of Permission denied.
2. The directory ${WORKSPACE}/cvp/pre_config is created with sudo privilege,
   so fetch_os_creds without sudo got Permission denied.
3. Remove the sudo when create directory ${WORKSPACE}/cvp/pre_config.

Change-Id: I802dc1cf8479b61929a9311800e65d357f4a7d34
Signed-off-by: xudan <xudan16@huawei.com>

[yardstick] Pass "BRANCH" variable to yardstick docekr container

Recently update of utils/fetch_os_creds.sh in commit 8359219bae93a028f6205cdc9460654f9e45c217
use a "BRANCH" varibale in fuel environmet
Currently Yardstick didn't pass such variable to yardstick docker, which causes the following error:
/home/opnfv/repos/releng/utils/fetch_os_creds.sh: line 75: BRANCH: unbound variable

This patch fix this error by Pass "BRANCH" variable to yardstick docekr container

Change-Id: Ifcf3df7107b2f4b493b37c7ef5473f170a8edb94
Signed-off-by: JingLu5 <lvjing5@huawei.com>

Bugfix: Dovetail CI failed on fuel because of BRANCH: unbound variable

JIRA: DOVETAIL-451

1. Dovetail CI jobs failed on fuel becase lack of BRANCH.
   fetch_os_creds.sh: line 75: BRANCH: unbound variable
2. That's mainly because of Dovetail uses sudo to run fetch_os_creds.sh.
3. BRANCH is jenkins' env param and root's env lacks of this param.

Change-Id: I3163d6e9f099e979bace00ce993b422ad60f6b8f
Signed-off-by: xudan <xudan16@huawei.com>

Merge "barometer: setmeta on properties files"

Merge "Add octopus|pharos|functest to ci gate security"

Merge "Changing urls of testapi api and resources"

Adjusting for GMT

Change-Id: Id0719a6fb3bbe509fe6a76b305736a82f58bdc68
Signed-off-by: mbeierl <mark.beierl@dell.com>

Merge "Directly Run Anteater Docker Container"

Merge "support pagination in TestAPI"

barometer: setmeta on properties files

Change-Id: I9c8b86488c0dab04068b978864dff017bd5a95e9
Signed-off-by: Fatih Degirmenci <fatih.degirmenci@ericsson.com>

Merge "barometer: update daily job with artifacts build"

Merge "Disabling Gluon RPM puild job"

Directly Run Anteater Docker Container

The current approach is to run /bin/bash in a fully privilaged docker
container as the root user and exec the anteater command from this.

There are a couple of reasons this approach doesn't make sense:

1) anteater is not a long running service
2) anteater doesn't need any privilaged access to the host
3) anteater is already a compiled binary and can be ran directly

Because the anteater container doesn't need access to all the host
devices nor is it running docker containers inside of docker, the
`--privileged=true` flag can be removed.

Note: '--rm' is added as well to ensure volumes do not persist past the
container lifecycle and lead to build server running out of disk space.

JIRA: RELENG-250

Change-Id: I1ec90b3737abf591b6b3373fe2fc8f52cdcfb11a
Signed-off-by: Trevor Bramwell <tbramwell@linuxfoundation.org>

Merge "bug fix: bad format for start/time in Tempest reporting"

Add octopus|pharos|functest to ci gate security

JIRA: RELENG-252

Change-Id: I884853cc3faf4cd24832bf5f35078a0913f2a0b3
Signed-off-by: agardner <agardner@linuxfoundation.org>

bug fix: bad format for start/time in Tempest reporting

Change-Id: Ic9792023b9041dbe8081ff9840caa2cf2901b189
Signed-off-by: Morgan Richomme <morgan.richomme@orange.com>

Disabling Gluon RPM puild job

Disabling the Gluon rpm build job because the Gluon scenario won't
be included in the Euphrates release. The Danube build and deploy
job use the already built artifacts.

Change-Id: I08ffb2975482c4954906f1068a37cc5eab119123
Signed-off-by: Georg Kunz <georg.kunz@ericsson.com>

Merge "make website accessible via testresults.opnfv.org/test"

Merge "Support to build docker image with commit id"

--user nobody did not work on ericsson-build3

also change job to only run weekly

Change-Id: I5f0d5f1d7020c02b2f3ec76aa7f5da2196184529
Signed-off-by: agardner <agardner@linuxfoundation.org>

Merge "[yardstick] add Ross to email recipients"

Merge "Generalize Gerrit non-voting Review Macro Name"

[yardstick] add Ross to email recipients

as yardstick PTL I'd like to get Jenkins results emails

Change-Id: If053ab72902c145a13e0dc965ff69211f33c4a88
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

barometer: update daily job with artifacts build

Update the barometer dailty job to build and upload appropriate build
collateral to artifacts.opnfv.org.

Change-Id: I387fc22439e43ba805a992bc46f14090db57dbf4
Signed-off-by: Maryam Tahhan <maryam.tahhan@intel.com>

support pagination in TestAPI

In this patch, pagination is supported, so you can go through results
leveraging: http://testresults.opnfv.org/test/api/v1/results?page=2

Change-Id: Ibe31c787643f27dbb06c4899e713b3c8e716e784
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Merge "[fuel] Add missing ssh key to environment vars"

Support to build docker image with commit id

JIRA: DOVETAIL-447

this support dovetail to make tag/container snapshot at some
commit id

this will also used for functest/yardstick if needed, since their danube.2.0/3.0
may not satisfy dovetail requirements, while their snapshots at some commit id
satisfy.

Change-Id: I76cf6df586d1c9f0f563c6bfc039e3e271dc3de8
Signed-off-by: MatthewLi <matthew.lijun@huawei.com>

Merge "change the timeout to 4 hours"

make website accessible via testresults.opnfv.org/test

Currently, testapi website can not be fully accessed through
testresults.opnfv.org/test, due to http://testresults.opnfv.org/test is
not a root url. In this patch leverage relative path to make it accessible

Change-Id: I56983d2221791d8a060039ec829278d31ecb5048
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Generalize Gerrit non-voting Review Macro Name

This patch updates the 'report-docs-build-result-to-gerrit' macro name
to reflect that it can work well for more than just the opnfvdocs project.

To take advantage of this macro a build merely needs to write
out the file 'gerrit_comment.txt' with the information they want posted
back to gerrit, and include the macro in the list of builders.

Change-Id: Ifbdc5734fe7e7231be0cfd16d6b8d69cb1383bfd
Signed-off-by: Trevor Bramwell <tbramwell@linuxfoundation.org>

Merge "Add weekly job for security scan"

Add weekly job for security scan

Added license headers
remove errexit from report to gerrit
run as --user nobody

Change-Id: I4b65dbae1f255015877766a0afa44e9b9898651c
Signed-off-by: Aric Gardner <agardner@linuxfoundation.org>
Signed-off-by: Trevor Bramwell <tbramwell@linuxfoundation.org>

Merge "Add doctor arm verify job (skip-vote)"

change the timeout to 4 hours

it need to download the tar.gz and We install the packages inline.
Due to the network, sometimes it will cost more time.
150 minutes still is not enough.

Change-Id: I28ff7840dc3d705c4d0a32cde718230d92b6ea19
Signed-off-by: wutianwei <wutianwei1@huawei.com>

[fuel] Add missing ssh key to environment vars

Change-Id: I1f110b7b981cb5c325c853cbde8462d271684a19
Signed-off-by: Michael Polenchuk <mpolenchuk@mirantis.com>

Merge "Define an extra vars path and copy into playbooks"

Merge "Talk about development mode for XCI"

Talk about development mode for XCI

Explain the usage of OPNFV_RELENG_DEV_PATH

Change-Id: I19e3946c9ea78a6bb0521818b58af297a396d80d