Changing the link to the updated participation form

The participation form on docusign has changed due to incorporating
additional fields for the API validation exemption. This patch updates
the links in the documentation accordingly.

Note: this patch should only me merged after the new form is online.

Change-Id: I697fa13d9afe2797faba2bf0478bbf27820bca20
Signed-off-by: Georg Kunz <georg.kunz@ericsson.com>

Adding documentation for API validation exemption

Updating the user guide and OVP addendum to include references to the
detailed document describing the API response validation exemption.

JIRA: DOVETAIL-651

Change-Id: I4026f84f021704f0986b45680471e8fb711fc314
Signed-off-by: Georg Kunz <georg.kunz@ericsson.com>
(cherry picked from commit 8048568b27c8b6fb5a5a269c66f722bceb4b338d)

Exemption process for disabling strict API validation

This document describes an exemption process for disabling strict API
response validation.

Cherry picking to stable/danube for including it in the official documentation.

JIRA: DOVETAIL-617

Change-Id: I690efdcae7dd15a6c0781a837a62677904836fca
Signed-off-by: Georg Kunz <georg.kunz@ericsson.com>
(cherry picked from commit caf95e09ef0206354b46d51f83690e20bc69e848)

API validaton exemption for Danube-based release

This patch adds the ability to Dovetail to disable strict API
response validation in Tempest-based test cases run by Functest. This is
a backport of the changes from master, targeting OVP 1.0.1

Corresponding updates of the web portal will follow.

JIRA: DOVETAIL-633

Change-Id: Iace99ea1b6224ea907a2c3af8676e9285e6ad3ee
Signed-off-by: Georg Kunz <georg.kunz@ericsson.com>

Change dovetail tool version to be ovp.1.0.0

Change-Id: Ieb32dbda8fd16942312900cb99a27f734e57d91b
Signed-off-by: xudan <xudan16@huawei.com>

Update OVP workflow document

- Fix typos and word changes

- Remove editor's note
- Adopt rewording suggestions

- Add back toc that was inadvertently deleted

- Modify to reflect process used during beta and current OVP web portal
usage
- Remove reference to application form and use online participation form
instead. Add new fields required in participation form

Change-Id: Ia51b7674315467e01081015b3aa780ec03652ebd
Signed-off-by: Eddie Arrage <eddie.arrage@huawei.com>

Remove a sub test case under dovetail.tempest.tc004

- Fixed vping, ha, sdnvpn test case names to match test specs
- Removed aliases from VIM operations and matched test case
name changes in patch https://gerrit.opnfv.org/gerrit/#/c/47691/4
- CVP to OVP name change

- A test case was removed from tempest tc004 because of the Tempest
version from 15 to 14. A reference to it was still in this doc.

Change-Id: If2e07e15b48ae6bca5ac0e262aead784cd67cd0f
Signed-off-by: Eddie Arrage <eddie.arrage@huawei.com>
(cherry picked from commit db4e7c1d09a3d1d0b48dd3136817c30f0b2af5ff)

Modify title and references in guidelines addendum doc

- Add 2018.01 to title to match reviewer guide, release notes, etc. as
this document may change per release
- Modify link for Governance Guidelines to reflect ratified doc on
opnfv.org domain

Change-Id: Ifdaa287b2919c44d408aa0ddd0b164b8ca4f406d
Signed-off-by: Eddie Arrage <eddie.arrage@huawei.com>
(cherry picked from commit abf0aff0c239e1011d43bc0c12a2acd7335bb924)

Don't allow user change SUT version to None after submitting

We don't allow SUT version to be None when submitting test.
So we also not allow user to change it to Nonw after submitting.

In this patch, I also make the result table self-adaption.

Change-Id: I5c391592dcbdbd9eb8697e44d7bb5dda41431bd6
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>
(cherry picked from commit 5dc6cab4205eb298f0494c3c0e9b887658793bcf)

Update OVP home page text

JIRA: DOVETAIL-582

We received new text from OPNFV marketing for the home page of the OVP web portal. Text title and body are pasted below.

OPNFV is offering an OPNFV Verified Program (OVP) that verifies products and services with the "OPNFV Verified" mark.

The OPNFV Verified program demonstrates the readiness and availability of commercial products based on OPNFV. Verified products and services submitted by vendors and service providers become compliant by implementing explicitly defined interfaces, behaviors and key features while retaining distinct and value-added innovations across features and capabilities.
Navigate through the links in the left-hand menu to learn more and get started. You'll find step-step-instructions as well as a participation form. Use this portal to upload your test results when ready. Please send any questions to verified@opnfv.org.

Change-Id: I5f6dd67fc187d7557a0b4cce6dd7391479e66b2b
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>
(cherry picked from commit d93377f9f84436d96d29f2b8dd1d8c7cd91adeb5)

Align container tags and test suite configuration yaml for initial release

Change default container tag to be:
1. Functest ovp.1.0.0
2. testapi ovp.1.0.0

Add test suite ovp.1.0.0 and set it to be the default test suite.

Comment out bottlenecks CLI for initial release.

JIRA: DOVETAIL-580

Change-Id: I956e49e43fc7ba0176c14079b7228089db5dc108
Signed-off-by: xudan <xudan16@huawei.com>
(cherry picked from commit c47b8dde0e39e273372b091a3d8da1cc15b7ae9f)

Bugfix: Cannot change SUT version in the new uploaded test

If we upload a new test, we can't modify the SUT version.
The reason is we must predefine the model.

Change-Id: I8822b078c25a015dd4cc4becfdaae141aed66359
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>
(cherry picked from commit fe07ad5754450cc50f84d51f474f47dc53597582)

Fix rendering issues with release notes

- Fix test case listing and another bullet

Change-Id: I46b0cff945176f464322f06737dc5c10f977598e
Signed-off-by: Eddie Arrage <eddie.arrage@huawei.com>
(cherry picked from commit 5091bc68db6f92cf3aa9ddf5e6a63e2bddd3a16f)

Add release notes for OVP 2018.01 / Dovetail 1.0.0

- Second pass
- Incorporated most comments
- Added missing links for participation form, governance guidelines,
terms & conditions
- Added links for test collection framework and testscope

- Initial draft of release notes

Change-Id: Ib805513011d917e4ecd0096e51f2d63c898d7142
Signed-off-by: Eddie Arrage <eddie.arrage@huawei.com>
(cherry picked from commit 41629c161b04e762f04ea8d5af03fc4175b7ab21)

Bugfix: pass/not pass filter not work in results-report page

For now if we click the pass/not pass filter, the user can also
see the not pass/pass data in the page.

Change-Id: I8bf696e615bedbb93714d457b3eb502a4ed1d923
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>
(cherry picked from commit e895992dc11f092ee80603e9fd4a3708807e6b61)

[ovp-web] Add SUT version number to OVP portal

JIRA: DOVETAIL-572

We currently have a label column in the OVP test result view. This
allows users to attach a custom label field to their results. It is at
the users discretion to fill out this field.
We need a separate SUT version column to track the product version
number being submitted for official review. The field can be left blank
when users upload and share results in a private manner. However, the
OVP portal must check that this new 'SUT version' field is populated
before results are officially submitted for review. An error message
prompting the user to fill out this field if it is blank must be
implemented when users submit results for review.

Change-Id: I1ca915423a56e8173a3a13f1b84b066cf91d9291
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>
(cherry picked from commit af1debe11cf4793bae049ff3ffd63dc906bbc1c9)

Transfer Danube reviewer guidelines from wiki

The reviewer guidelines will be created per release, where the
CVP/Dovetail releases are aligned to OPNFV releases. The guidelines
outlined in this initial document are for the Danube release.

Updated reviewer guidelines

- Updated to account for issue where mandatory total always shows 215
in current version of web portal; removed one diagram and amended another
- First section title change and wording for test area results

- Removed white space
- Added SUT info section and diagrams
- Modified reference to cvp.opnfv.org with verified.opnfv.org
- Modified reference to cvp@opnfv.org with verified@opnfv.org
- Modified diagram filenames to reflect program name change
- Changed CVP references to OVP and Danube to 2018.01
- Remove TODO for granting marks and escalation - this info is in other docs

Change-Id: I01fc568ce6713d3c60daf339a2630e56e8dbcfcb
Signed-off-by: Eddie Arrage <eddie.arrage@huawei.com>
(cherry picked from commit cac419a417f25a1c9e0de653e09d2f0ad32e4c42)

Changing CVP to OVP in the documentation

Due to the name change from 'CVP' to 'OVP', the documentation has to be
updated.

Change-Id: Id934e8fc07f60802f7aa6b3d295d268c4c9b71f8
Signed-off-by: Georg Kunz <georg.kunz@ericsson.com>
(cherry picked from commit 8f16dae9dae6d13bc6f5934bae5d26d420efd892)

Update test user guide to improve usability

- Modify hosts.yaml syntax to match patch by Serena
- Modify result file references for new timestamp patch by Georg
- Revise online/offline diagrams for OVP name change
- Add XCF GIMP source files for diagrams with layers for new elements

- New changes for cvp.0.9.0 to ovp.1.0.0
- Remove reference to bottlenecks container for now
- Modify section/heading structure
- Incorporate comments: results.json vs. result files
- Incorporate comments: online/offline install headings
- Incorporate comments: remove IP from launch_db.sh
- Incorporate comments: remove sudo for wget
- Incorporate comments: pod.yaml for SUT HW info
- Incorporate comments: test case to config file requirement
- Incorporate comments: suggested changes to env_config.sh

- Modify the sequence of the guide to reflect installation steps
- Outline all required configuration files earlier in the guide
- Highlight configuration file key entries and pitfalls
- Improve requirements for pod.yaml file for HA
- Improve online/offline install instructions
- Call out Dovetail docker run command and explain options
- Clarify when testapi and local db ports need to be changed
- Explain the dovetail run --testsuite and --testarea arguments
more clearly
- Improve --report option and default result result behavior
- Make CVP portal a separate section
- Explain CVP portal workflow to reflect current state of interface
- Update references to cvp.0.8.0 with cvp.0.9.0

Change-Id: I41857c1b07c211a95f19c99054ca414351c75c20
Signed-off-by: Eddie Arrage <eddie.arrage@huawei.com>
(cherry picked from commit ee725220d42120028b7561c5b6c268d2bd350e88)

[bugfix] easy_install: not found

Remove easy_install because it will be installed later.

Change-Id: I29f425e0a5784b581a5b65ea5c8f8db66fc9dc8e
Signed-off-by: xudan <xudan16@huawei.com>
(cherry picked from commit 6bda989aab98198118d59b6a16da05d7aef74265)

[Bugfix] Local summary with wrong results when Tempest failed at the SetupClass

When Tempest test cases failed at the SetupClass, the record is the class name
of the test cases rather than the name of the test cases.
The local summary will say they are passed wrongly.

JIRA: DOVETAIL-575

Change-Id: Iec879378770017eddd37e9a99346d980355bb6e2
Signed-off-by: xudan <xudan16@huawei.com>
(cherry picked from commit cb03da10feb8af4cd48add8ab96b134f6d6ebd1c)

Bugfix: SSLError when login with linux fundation account

It is a quick fix.

Change-Id: I72aabd5dd682074546259582cc91ba055d1decbe
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>
(cherry picked from commit 463d282125ee4cfd45e75ae5f18dea58bbed1504)

Fix aarch64 patch for Dovetail container

Change-Id: I3746136e9002a14eea81c38ea54cbbad7fa68da1
Signed-off-by: xudan <xudan16@huawei.com>
(cherry picked from commit eefdd18e83e6aa15f8abf9671822f3a623c17171)

Change a to an

Change-Id: Id2b9c2a6718047dace2a84ffa68efa387cb22500
Signed-off-by: xudan <xudan16@huawei.com>
(cherry picked from commit 153647f7858dc80cf16b0164d748d6bb33f3894c)

Add License for the python scripts in folder offline

Change-Id: I9c585f132c10ef726cd859e4abe3c9a874cbe0bc
Signed-off-by: xudan <xudan16@huawei.com>

[ovp-web] Modify new web portal header to reflect program name change

JIRA: DOVETAIL-569

CVP is officially being renamed to 'OPNFV Verified Program'. We will
adopt the acronym OVP instead of CVP. The new web portal header needs to
modified to OPNFV Verified Program.

Change-Id: I0ee1780b4e544dce4cf0b029733d1318a7c4e8fb
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>
(cherry picked from commit b28552a3fce6b4cb900823a0645cac7731451042)

[ovp-web] Use new program logo/text for OVP portal home page

JIRA: DOVETAIL-570

OPNFV marketing has provided new logos for OVP that will be incorporated
on the portal home page and attached to this issue. The 'Infrastructure'
logo must by used. The other two logos (Application, Lab) currently on
the development site must be removed for now.

Position the new logo in the upper-left side and position the blurb
language to the right of it. The new blurb language to swap in (all
uniform, non-bold font) is provided below:

    The OPNFV Verified program (OVP) demonstrates the readiness and
    availability of commercial products based on OPNFV. Verified products
    and services submitted by vendors and service providers become compliant
    by implementing explicitly defined interfaces, behaviors and key
    features while retaining distinct and value-added innovations across
    features and capabilities. The OPNFV Verified program grants products
    and services with the "OPNFV Verified" mark. Get started with your OVP
    application today.

Change-Id: Iaf4172fe61ea46133c474207f77ba24b841211e4
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>
(cherry picked from commit 1bbda3ceda250a3d28ee70e5d9f0ea09cc91e261)

Bugfix: pass/not pass filter not work in result-report page

The reason is there are some conflict with jquery.js and ng-model.
So ng-model not work.

Change-Id: I01ccd0e297d1a89aff8f78d7fb0a63a0e2114f63
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>
(cherry picked from commit c94df5dc491cff80bfa14cf1e66b62db48e05b01)

bugfix: verify job failed because of one blank line

Change-Id: Ie981fc1288d7da52bfaa72c58ebab5a1ec7c75a5
Signed-off-by: xudan <xudan16@huawei.com>

Remove all alias tempest test cases in osinterop test specificaion docs

1. Some tempest test cases have alias test cases because of the different
   versions of tempest.
2. However, Dovetail fixes the version of tempest to be 14.0.0 in its first
   release. So the number of test cases that can be executed in osinterop
   is always 205. And for different SUTs, the 205 test cases are all the same.
3. In this situation, there is no need to list the alias test cases.
4. Just list all the 205 test cases which will not confuse users when they
   reading dovetail docs.

JIRA: DOVETAIL-566

Change-Id: I5e39dd82314833c8c0a6c1732c990f671ae64420
Signed-off-by: xudan <xudan16@huawei.com>

update the branch stable/danube

JIRA: DOVETAIL-573

Change-Id: Ibefd6c2c07e107de0911122a15293667f9042bd9
Signed-off-by: xudan <xudan16@huawei.com>

[cvp-web] Add initial CVP Portal homepage content for release

JIRA: DOVETAIL-563

The CVP portal homepage needs to be modified to support launch
activities. An initial iteration between OPNFV marketing has occurred.
Attached is a deck that outlines a basic left navigation menu and home
content.
We can focus on creating the left navigation and content outlined on
slide 7. The links for the left navigation aren't all flushed out.
Please leave Release Information/CVP Registry link href's blank for now
until we define content for those pages.

Change-Id: I84b8cfb996d336ef666d5a5f6aaabc0d5eebc37b
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

Remove one sub test case from dovetail.tempest.tc004

1. Currently, dovetail.tempest.tc004 has 13 sub test cases defined in its
   config file and specification document of the test case. All these
   sub test cases are picked from tempest based on it's version 15.0.0.
2. For Dovetail 1st release, it fixes the version of Functest to be
   opnfv/dovetail:cvp.0.5.0, and Functest integretes tempest 14.0.0
   in this version and it's E release.
3. There is one sub test case in dovetail.tempest.tc004 that is new in
   tempest 15.0.0, so it can not be recognized and executed by Functest D
   and E release. It is 'test_server_connectivity_cold_migration_revert'.
4. Remove this sub test case from dovetail.tempest.tc004. This means remove it
   from the test case config file and specification document.

JIRA: DOVETAIL-561

Change-Id: Ia927af040794c7027a741a282ed75fe401f99ff1
Signed-off-by: xudan <xudan16@huawei.com>

[cvp-web] Bugfix: Total num of test cases should be fixed

JIRA: DOVETAIL-552

The total num of test cases is decided by the number of the test cases
users uploaded to the Web now.
The total num should be fixed. For example, the total num of mandatory
test cases should be 215. The total num of optional test cases should be
63.

Change-Id: I6f7055bbeceb80f831af7d800b1a5aca4e165c45
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

[cvp-web] Admin can approve and not approve results

JIRA: DOVETAIL-562

According to the CVP workflow, once a result has been submitted to review,
the admin will send email to all reviewers to get the comment (+1 / -1).
Enable admin to approve/not approve the result after he gets the feedback from all reviewers.
Otherwise, the result will always be in 'review' status.

Change-Id: Ic3ace3c7284c70e9a8186d03e6cd88c91ecc76f9
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

Include full date in name of compressed result file

The name of the compressed result file included a timestamp according
to the pattern "day_hour_minute". This is a rather uncommon timestamp
and can cause confusion. This patch changes the timestamp to a more
common "YearMonthDay-HourMinute" format.

Please note: Please check if this change has an impact on the web
portal.

Change-Id: Ife41050bc1d5ca6942706b756d03a1d0d251ae41
Signed-off-by: Georg Kunz <georg.kunz@ericsson.com>

Just enable withdraw for the one who submit to review (onwer)

JIRA: DOVETAIL-559

Just enable withdraw for the one who submit to review (onwer).

Change-Id: I4f073fa00930c8f211239ee42034bb40c1af1f91
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

[cvp-web] Can't submit the same results to review from different users

JIRA: DOVETAIL-560

Can't submit the same results to review from different users.

Change-Id: I4a3dcc2dc8a817653ac9da6f93722659e04c89a1
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

[cvp-web] Bugfix:return 500 when upload a tarball file with no results.json

JIRA: DOVETAIL-558

The Web portal will return 500 code when upload a tarball file with no results.json
When all test cases failed or report with wrong DB url, there may be no results.json.
Check this and alert users instead of returning 500 status code.

Change-Id: Ie13d9c3c62044c525f5dbb3fca9b6123d0b5acce
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

bugfix: hosts info is wrongly processed

changes:
1. add usage example in hosts.yaml.sample
2. fix /etc/hosts from wrong format {'hostname': 'ip'} to
   the right 'ip hostnames'
3. fix --add-hosts from wrong usage --add-host {'hostname': 'ip'} to
   the right --add-host='hostnames':ip
4. support per ip mapping mutiple hostnames, which is also
   in line with /etc/hosts schema

JIRA: DOVETAIL-556

Change-Id: I92e8cb0fd3476b61f5c73a69e34c4a66aef51d6e
Signed-off-by: SerenaFeng <feng.xiaowei@zte.com.cn>

Remove redundant log when launch local DB

The script launch_db.sh will print "Already Exists" logs when the DB has been
initialized by the data stored in JumpHost.
Ignore this kind of logs because it won't affect the launch of the DB but
it will confuse users.

JIRA: DOVETAIL-557

Change-Id: I23616b10bbadc49888731e943d0a4ee4425045f5
Signed-off-by: xudan <xudan16@huawei.com>

Remove style.css for License issue

style.css is GPL 3.0 License based, we need to remove it.
The origin css file is as bellow:
    https://www.opnfv.org/wp-content/themes/salient/style.css?ver=4.8.3

So I remove style.css, and write a new css file to replace it.

Change-Id: I78a572f74c71081052767622903b371e22e158a4
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

Added a license metadata line to specify Apache-2.0

Change-Id: Ic5c3c3e2bbc2cff54f291fcd77bf9b5741f9f606
Signed-off-by: rpaik <rpaik@linuxfoundation.org>

[cvp-web] Bugfix: use '_id' as the primary key of the data rather than the 'Test ID'

JIRA: DOVETAIL-554

It allows different users to upload the same results now.
So the 'Test ID' is not unique in this situation.
Use '_id' as the primary key which can uniquely identify one data.

Change-Id: I852ee116f36a6a86e9b4350183e39ee00f8b99de
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

[cvp-web] Bugfix: Results shared by email are not shown on non-reviewer's pages

JIRA: DOVETAIL-551

The CVP web portal can support share with name and
share with email address.
But when sharing with email, the pages of non-reviewers
will not show the results shared by others.

Change-Id: I94451448cc60d1f7a3472d756c502200757a16a8
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

[cvp-web] Allow accounts with role 'reviewer' to submit resuts

JIRA: DOVETAIL-549

Accounts within the CVP portal with the role 'reviewer'
cannot submit test results currently.
While reviewers cannot review their own results,
they should be able to submit results.
Many within the Dovetail community will be serving
multiple roles as testers and reviewers.

Change-Id: I762aeec64bb2b207c582aa79e0ad1bd5a635fd19
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

Tag dovetail cvp.0.9.0

JIRA: DOVETAIL-550

Change-Id: I871ec1fdf8d33efe3ed00602d0184c7b35896c17
Signed-off-by: xudan <xudan16@huawei.com>

Bugfix: Failed to build local DB on Centos

1. The scripts for building local DB and testapi service just work on Ubuntu.
2. For Centos, they fails to do that.
3. This is mainly because of that Centos can't use the IP of the JumpHost
   to connect the DB and testapi. It needs to use the internal IPs of the
   DB container and the testapi container.
4. Change the IPs in the scripts to be the containers' internal IPs.

JIRA: DOVETAIL-548

Change-Id: I71aed82cb620b58bcd43ace61497db65c5bd7ecc
Signed-off-by: xudan <xudan16@huawei.com>

Minor docs change to test docs integration

This is minor patch which updates the documentation in the dovetail
repo in order to test the toolchain integration in opnfvdocs.

Change-Id: Id91c57d1a38cf02d8ed4653bc9eddb7081f025e7
Signed-off-by: Georg Kunz <georg.kunz@ericsson.com>

Modify reference to online mode

Changed reference to online mode to refer to installation rather than
uploading results from Test Host to CVP portal directly, as current
text is misleading.

Change-Id: I9439d340beabb76f04b7782243c050064753a8ec
Signed-off-by: Eddie Arrage <eddie.arrage@huawei.com>

Update the user guide environment diagrams

Updated the test user guide diagrams with the correct CVP portal
web link and removed direct connection between the Test host and
the CVP server. Online and offline mode refer to installation of
Dovetail docker and dependent images.

Change-Id: If2fb62d105557a41b156b90a3d9c956185be0b7c
Signed-off-by: Eddie Arrage <eddie.arrage@huawei.com>

Get SUT's endpoint info

Get the admin endpoints of all service.

JIRA: DOVETAIL-546

Change-Id: Ie0ac3bc5b4eb0885046e207b73217994a4f0e358
Signed-off-by: xudan <xudan16@huawei.com>

Get hardware info of SUT

Hardware info:
Use ansible to get all hardware info from all nodes.

JIRA: DOVETAIL-540

Change-Id: I6a2dde1b2ebae2af8f702008c23110ebe63cc06f
Signed-off-by: xudan <xudan16@huawei.com>

Bugfix: remove redundancy line

There is a redundancy line in result page when auto merge.
We need to remove it.

Change-Id: I31a754d881584be5a715ddcf6f1f32b25158dfca
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

Remove approve / no approve options for reviewers

Distinguish results shared or submitted from a tester

JIRA: DOVETAIL-544
JIRA: DOVETAIL-545

[cvp-web]There is consensus within C&C committee to move towards a
simpler means of voting by reviewers. We will use email voting (+1) on
the [cvp@opnfv.org|mailto:cvp@opnfv.org] email alias. For now, can we
disable the approve / not approve options in the drop-down in the
'Operation' column of the results? We can revisit this feature in the
future after some experience with the manual method.

[cvp-web]When a user shares or submits results, the recipient of
those results (share target or reviewer) do not know where the results
originated from. To remedy this issue, we will add a column labeled
'Owner' to the 'My Results' table that shows the email address or the
sending party?

Change-Id: I586b01ad113d898fe3d5824025df9877118fa622
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

[cvp-web] Show some SUT hardware info in 'My Results'

[cvp-web] Show SUT endpoint in web page

JIRA: DOVETAIL-541
JIRA: DOVETAIL-547

Show some SUT hardware info that dovetail concern in 'My Results' web page.
Show the info of all endpoints get from Dovetail tool in the web page.

Change-Id: Ibc465396e17b7c22678e3948fa2f659cbff6f323
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

[web-cvp] Trigger an email when admin submit an application form

JIRA: DOVETAIL-542

Trigger an email to cvp@opnfv.org when admin submit an application form.

Change-Id: Ie73d5a6380b5f5d1b0507564dc1f067047284f99
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

Add test case name into tempest testspecification docs

1. All test cases' testspecification docs have no info about test case names.
2. User don't know which test case to run when they just want to run
   one special test case.
3. Add the info into testspecification docs.

JIRA: DOVETAIL-530

Change-Id: I0ebe1b3b98be5609503814ea2a0cf71aefd06d35
Signed-off-by: xudan <xudan16@huawei.com>

Remove obsolete developer documents

Some developer documents are now old and suggested to be removed.

Change-Id: Ifa26a1535d57a560a0525eafa300ae087feb3191
Signed-off-by: Eddie Arrage <eddie.arrage@huawei.com>

Tag dovetail with cvp.0.8.0

JIRA: DOVETAIL-536

Change-Id: I7a947b1aa57728e6add1d0ca881a6a62a46c0913
Signed-off-by: xudan <xudan16@huawei.com>

Ignore Tox Error E722

1. After updating tox from 2.5 to 2.9, pep8 failed.
2. https://build.opnfv.org/ci/job/dovetail-verify-master/1018/console
3. The Error is 'E722 do not use bare except'.
4. It needs to change all 'except:' into 'except Exception:'.
5. This won't affect Dovetail, so just ignore this Error.
6. Dovetail next release will consider to fix this error.

JIRA: DOVETAIL-537

Change-Id: Ic3c7be4667685fc94025a47c3b17d07a087565da
Signed-off-by: xudan <xudan16@huawei.com>

System preparation guide

Change-Id: I4fc982d7037466b48424b7ce97d6207fbe44a09b
Signed-off-by: Wenjing Chu <chu.wenjing@gmail.com>

Fixing references and layout in the docs

This patchset introduces labels for documentation-internal references
and replaces footnote-style citations with inline hyperlinks.

Additional minor changes for a nicer rendering of bullet lists.

JIRA: DOVETAIL-521

Change-Id: Ic847fc05d546d673dadc7b8efee86fcb688133f5
Signed-off-by: Georg Kunz <georg.kunz@ericsson.com>

Use functest clean module to do the sdnvpn resources cleanup

1. If there throw an exception during the test of one sdnvpn test case,
   it will not do the clean.
2. Then there are many resources left, such as network, subnet, server...
3. This is a bug of sdnvpn see JIRA: SDNVPN-184
4. The patch for fixing this bug https://gerrit.opnfv.org/gerrit/#/c/44777/
5. Currently, use functest module "functest openstack clean" to clean the SUT.

JIRA: DOVETAIL-524

Change-Id: I629fc6fdc9e4c95960f6122358ff219a467d441b
Signed-off-by: xudan <xudan16@huawei.com>

Bugfix: the sdnvpn DB initialization information lacks two test cases

1. The SDNVPN DB initialization information lacks two test cases,
   functest_testcase_4 and functest_testcase_8.
2. So the results of these 2 test cases cannot be pushed into DB.
3. Add these 2 test cases info to DB.

JIRA: DOVETAIL-535

Change-Id: I1c6d049b942806924f15dd106452fd9b4d554454
Signed-off-by: xudan <xudan16@huawei.com>

Bugfix: build docker image failed

1. When build Dovetail docker image, the job failed.
2. https://build.opnfv.org/ci/view/dovetail/job/dovetail-docker-build-push-master/279/console
3. That's because the setuptools version is old.
4. It needs to upgrade setuptools in the Dockerfile.

JIRA: DOVETAIL-534

Change-Id: If37a4d7c3b57ea79903565fd880c5447da97b13b
Signed-off-by: xudan <xudan16@huawei.com>

Add testsuite cvp.0.8.0 for Beta tests

1. Now there is a testsuite proposed_tests for beta tests which may
   cause some confusions.
2. Copy all test cases to testsuite cvp.0.8.0 for beta testers to use.
3. Update userguide with testsuite cvp.0.8.0

JIRA: DOVETAIL-528

Change-Id: I35bc7dee6e07a9125a4c1991b0049f6e2d705cc5
Signed-off-by: xudan <xudan16@huawei.com>

[web-cvp]Additional columns in ‘My Results’

JIRA: DOVETAIL-532

1. original filename
2. user editable label

Change-Id: I1566cecb3d8ceacc14167bb2fb7fa41508f293be
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

[web-cvp]share result by email

JIRA: DOVETAIL-529

It may be easier to get other people's email than his user id

Change-Id: Ia5f9aa72d3c79bd3f5e69dad98b3f188cdaafc3d
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

[web-cvp]Direct drill-down for failed tests

JIRA: DOVETAIL-531

people may want to directly drill-down to the exact log file of each results, instead of searching in piles of log files.

Change-Id: I6e18b8d57739fd695e20ee29147e796de5c9e404
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

Updating test case requirements document

This patchset addresses review comments which were not incorporated in
the previous version of the test case requirements description.
Additionally, the text has been wrapped to 80 character lines.

Change-Id: If817f6c44d94870d915791a1a11916ffe4871f06
Signed-off-by: Georg Kunz <georg.kunz@ericsson.com>

Term refstack is mentioned in dovetail Testing User Guide

Remove refstack.log from the userguide because the refstack.log has been
renamed dovetail.osinterop.tc00X.log

JIRA: DOVETAIL-519

Change-Id: Icd0bd82ef78437ab96201e58b93e0a6997f9618a
Signed-off-by: xudan <xudan16@huawei.com>

Add dovetail tool CLI document

According to the wiki page, add the CLI document.
https://wiki.opnfv.org/display/dovetail/Dovetail+Command+Line

JIRA: DOVETAIL-509

Change-Id: I6a32446cd4c1bcad83465b1f2e12d5c1487e954e
Signed-off-by: xudan <xudan16@huawei.com>

SDNVPN test cases resources left may effect the next test cases

Move SDNVPN test cases after tempest test cases, then the resources left will
not effect tempest test cases.

JIRA: DOVETAIL-524

Change-Id: I815ae7f3a3be0225be1e9695f13d4552946bffb5
Signed-off-by: xudan <xudan16@huawei.com>

[web-cvp]failed to build docker image due to setuptools version

JIRA: DOVETAIL-526

error on docker build, upgrade the setuptools:
error in cryptography setup command: Invalid environment marker: python_version < '3'

Change-Id: If3b2b2ecd3a3e23f66cacb6a2048f15f1715dcd4
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

[web-cvp]add a api to fecth logs of backend api

JIRA: DOVETAIL-525

provide a easy way to fetch  logs of backend apis

Change-Id: I72054a6e155e6970254ed391dfa8b25943eceb35
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

Merge "[web-cvp]fix api&web service in dockerfiles"

[web-cvp]fix api&web service in dockerfiles

JIRA: DOVETAIL-523

api&web services is not running due to packages installation errors

Change-Id: I5175d987dfda3cefe28a3a37754acc9fc8d7bc13
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

Merge "[web-cvp]missing files in web sites"

[web-cvp]missing files in web sites

JIRA: DOVETAIL-522

some files missing due to incorrect .gitignore settings

Change-Id: I4d81842afcb6f2734abeebbdcde56ec5b3e1655b
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

Merge "Cvp application form"

Merge "[web-cvp]osinteros is counted as optional test case"

Merge "[web-cvp]failed to expand test results"

Cvp application form

Change-Id: I4bb0cea49179c7171ce766c52814f765e05ce9f8
Signed-off-by: Wenjing Chu <chu.wenjing@gmail.com>

Merge "Update user guide with the local DB operations"

[web-cvp]osinteros is counted as optional test case

JIRA: DOVETAIL-518

'defcore' is changed to 'osinterop', counted as optional test case

Change-Id: Ic5322c498869dcef9597530e343b053aebc376cf
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

[web-cvp]failed to expand test results

JIRA: DOVETAIL-517

When click on the "expand" button, nothing happens.

Change-Id: Ibe1554baf047d56fa07e27e936c15b2664326382
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

Update user guide with the local DB operations

If users want to store results or upload results to CVP web portal, they
need to build local DB adn testapi service.
Should add more introduction about the local DB and testapi in the user guide.

JIRA: DOVETAIL-504

Change-Id: I6493169b54104af8d7207d28fad93afedeae0b1b
Signed-off-by: xudan <xudan16@huawei.com>

Merge "Tag dovetail with cvp.0.7.0"

Tag dovetail with cvp.0.7.0

docker image used
1. opnfv/yardstick: danube.3.2
2. opnfv/functest: cvp.0.5.0
3. opnfv/bottlenecks: cvp.0.4.0
4. opnfv/testapi: cvp.0.5.0
5. opnfv/dovetail:web.cvp.0.7.0
6. opnfv/dovetail:api.cvp.0.7.0
7. opnfv/dovetail: cvp.0.7.0

main changes
1. [cvp-web]correct dockerfile
2. [cvp-web]remove useless docker-compose yaml
3. Bugfix: sdnvpn test cases failed due to wrong module name
4. Support to run mandatory or optional test cases separately
5. [cvp-web]remove workflow on homepage
6. add api&web services for cvp
7. Don't generate tar file when run without pushing results to DB
8. Make Yardstick log level can be set by CLI
9. Update the script for building local DB and testapi
10. Bugfix: tar results dir cannot be parsed by web portal
11. Replacing references to "DefCore"
12. Updating the test specification document with iterative inprovements
13. Dovetail tool replaces defcore with osinterop
14. Clearer structuring current and future test scope of CVP addendum
15. Adding a stub document for a CVP reviewer guide
16. Clarify criteria for testcase inclusion as running in Functest/CI
17. And additional clarifications.
18. add more information for the Identity testcases in the refstack
19. Doc: update user guide due to add new test cases and features

For more information, refer to https://wiki.opnfv.org/display/dovetail/Running+history+for+the+dovetail+tool

JIRA: DOVETAIL-516

Change-Id: Ic65073fd749c1bcdbd0946d081ba2d2fe9105057
Signed-off-by: xudan <xudan16@huawei.com>

Disable get DB schema in Dockerfile

Dovetail provides files for init local DB.
No need to get schema from opnfv DB when building docker image.

Change-Id: I05fbf4f65f3a94bb3a36fe3c140ad7bff58a4f15
Signed-off-by: xudan <xudan16@huawei.com>

Merge "[cvp-web]correct dockerfile"

Merge "[cvp-web]remove useless docker-compose yaml"

[cvp-web]correct dockerfile

JIRA: DOVETAIL-515

correct dockerfile, git clone from dovetail

Change-Id: I1dee7f8ae5278f55bcf5928bbf88cdb079388494
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

Merge "Bugfix: sdnvpn test cases failed due to wrong module name"

Bugfix: sdnvpn test cases failed due to wrong module name

SDNVPN test cases failed due to wrong module name.
The module name needs to be changed into "sdnvpn.test.functest.testcase_1"
Refer to patch https://gerrit.opnfv.org/gerrit/#/c/41385/
Currently Dovetail uses functest:cvp.0.5.0 which uses module name "testcase_1".

JIRA: DOVETAIL-510

Change-Id: I3232760d3af34125c7da71a5d2c62ca32693c82b
Signed-off-by: xudan <xudan16@huawei.com>

Merge "Support to run mandatory or optional test cases separately"

[cvp-web]remove useless docker-compose yaml

JIRA: DOVETAIL-514

remove useless docker-compose yaml

Change-Id: Ic754488611571c3464515772680ad94bbe5651ea
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

[cvp-web]remove workflow on homepage

JIRA: DOVETAIL-513

remove workflow on homepage, add a link to workflow instead

Change-Id: Id8e551d4c593a2104c7cc8eb55468e9c29b5052a
Signed-off-by: grakiss <grakiss.wanglei@huawei.com>

Merge "add api&web services for cvp"