Add host&targer in scenario['options']['server_name'] support

JIRA: YARDSTICK-810

Currently host, target is in scenario, but as a input, we prefer it in
scenario['options'].
So I add support for under scenario['options']['server_name']

If we write host in scenario['options']['server_name'], the host ip info
will be written in context.

Change-Id: I90df20467ef5da772d22e9f272a2cac250f822e0
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>

Log each test case status in a task

JIRA: YARDSTICK-785

Currently if one test case failed, we will log error.
But if one case success, we do not have any tips.
We need log success when one case success.

Change-Id: I0f41ac55f2569f44b787133e3f2594a5c5547f4a
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>

ansible: resize VNF image

When compiling Trex, DPDK, collectd and all the SampleVNFs
we use more than the 2.2GB size of the original Ubuntu cloud image.

Accordingly we need to resize the image.

If we were not inside a docker container we would use virt-resize
to automatically handle all the cases, but virt-resize launches qemu.

Instead we can use qemu-img to add extra space, then
luckily we can use parted to resize the partition and finally
resize2fs to resize the filesystem.

This limits us to only ext3/4 images, but if we need to
we could add support for other filesystems by checking
file system type.

Change-Id: Iac84b8e6967af5be64c280a7b1eaaf09f5d6b3aa
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

add scenario opnfv_os-nosdn-bar-ha_daily.yaml for Barometer

For now just copied and renamed opnfv_os-nosdn-nofeature-ha_daily.yaml

Change-Id: Idbd37a3e21220aa407d053157da71b449bad15ee
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

NSB: count from 0, vnf_0, tg_9, private->uplink, public->downlink

Also rename private to uplink, public to downlink

for scale-out template we need to count from 0
so we can use range() without +1/-1 errors

vnf_0, vnf_1
tg_0, tg_1

also fix Ixia defaults

Change-Id: I6aecfbb95f99af20f012a9df19c19be77d1b5b77
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>
Signed-off-by: Edward MacGillivray <edward.s.macgillivray@intel.com>

apiserver: mock socket.gethostbyname

we don't want use external DNS requests during unittest

Change-Id: I5ed67b700ef1dab4b650ae5071a3cf641a17ae4c
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

NSB test: remove vld_id it is not needed

we get vld_id from the topology, we
don't need it in Heat context

Change-Id: I42c2309dda919e5b2026065dda851555df76ba57
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Fixing vPE config creation anf bring up issues.

Change-Id: Icf7a01a053495e6d96bd664d6ceda8964fa437eb
Signed-off-by: Deepak S <deepak.s@linux.intel.com>
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Fix all the exception while genereating the latency traffic

Change-Id: I0b25e704b29fc68678eaa29d9e1d1eb04ee94e3e
Signed-off-by: Deepak S <deepak.s@linux.intel.com>
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Terminate the ixia traffic generator at the end of the test run

Change-Id: I80501ab3662a58930939d849f0bde0e810154a39
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

Added multi-port testcases for vFW

Change-Id: I6cf8675c83fc081dd22ae7896e63ff7725ed3c13
Signed-off-by: Deepak S <deepak.s@linux.intel.com>
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

rename odl_l3 tests to just odl

Change-Id: I664437d598db9f9dcc7036e306b8a4edc40287cf
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Fix the offset bug for UDP dst port in the traffic profile

Also sends a new line to the VNF when waiting for prompt.

Change-Id: Ib8641093974cd6713594aac9b418595ad5268e87
Signed-off-by: Martin Banszel <martinx.banszel@intel.com>

vnf_generic: adjust ssh timeout for number of VNFs

we assume the time it takes to start multiple
instances is proportional to the number of instances
so we scale the timeout based on the number of instances.

Change-Id: I6901890d3f184ac4e38e1d6823b96c291579e04a
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

NSB: fix port topology

Add a new PortPair class to resolve the
topology into list of public and private ports.

Before we were calculating public/private in multiple
locations and using different conventions.

In addition for all the DPDK test we need to use the DPDK
port number and no rely on interface ordering or interface naming
conventions.

We used to use  xe0 -> 0, xe1 -> 1, etc.  This is not the DPDK port
number.

Use the new dpdknicbind_helper class to parse the output of
dpdk-devbind.py to find the actual DPDK port number at runtime.

We then use this DPDK port number to correctly calculate the
port_mask_hex.

The port mask maps the DPDK port num (PMD ID) to the LINK ID
used in the pipeline config

We also need to make sure we only use the interfaces matched to the
topology and not use all the interfaces, because in some cases we will
have unused interfaces.  In particular TRex always requires an even
number of interfaces, so for single port TRex tests we have to create
the second port and not use it.

Thus we had to modify the traffic generator stats code to only dump
stats for used ports and no unused ports.

Ixia was using interface ordering to map to Ixia ports, instead we use
the dpdk_port_num which must be hardcoded for Ixia.

Renamed traffic_profile.execute to traffic_profile.execute_traffic so
we can trace the code easier.

We pass the port used by the traffic profile to generate_samples so we
don't get stats for unused ports.

Fixed up vPE config creation and bring up issues.

Fixed up CGNAPT and UDP_Replay to work correctly.

Tested with 4-port scale-out

Change-Id: I2e4f328bff2904108081e92a4bf712333fa73869
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>
Signed-off-by: Edward MacGillivray <edward.s.macgillivray@intel.com>

Merge "add tc083 rst and tc073/tc083 netperf local dashboard"

Merge "bugfix: show testcase api return type error"

Merge "tc006: fio job_file.ini the volume should be configed"

Merge "KVMFORNFV: Update Grafana config for Packet Forwarding test cases."

Merge "improve logging, clear using print"

Merge "[DRAFT] add yardstick cli info in userguide"

Merge "tc063: make node parameter can be pass"

add tc083 rst and tc073/tc083 netperf local dashboard

Change-Id: I382b2a711d6659f94982c4386c2f25c144705831
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Merge "Create opnfv_k8-ovn-lb-noha_daily.yaml test suite file"

Merge "tc011: make parameters to be able to config"

Merge "ssh fix, always wait"

KVMFORNFV: Update Grafana config for Packet Forwarding test cases.

JIRA: YARDSTICK-783

This patch is used for updating the configuration file of opnfv grafana
dashboard for kvmfornfv packet forwarding to publish the throughput
results of test cases added as part of kvmfornfv daily job.

Change-Id: I913bbc5172eefbbfeee86f7ca74b2b99c521c248
Signed-off-by: Gundarapu Kalyan Reddy <reddyx.gundarapu@intel.com>

bugfix: show testcase api return type error

segmentation_id should be number, provider should be string

Change-Id: Iabdc08cb0989f4d585013b5a8ef3662442eeda45
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

tc011: make parameters to be able to config

Change-Id: Ic8a85b762f5204a9b759bf57c3189df97aa52d0c
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

tc006: fio job_file.ini the volume should be configed

Change-Id: Ie03dfe7d1227578bb50e5e4460e50b9dc59dd202
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Create opnfv_k8-ovn-lb-noha_daily.yaml test suite file

JIRA: RDSTICK-811

We need to create opnfv_k8-ovn-lb-noha_daily.yaml so that we
can run kubernetes test in k8-ovn-lb-noha scenario.

Change-Id: I9c18b6d68c96ef917f3b65e494e3c2d9e1beefdd
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>

Heat: support non-mesh network toplogy

Previsouly we added all servers to every network
in Heat in a full mesh.

To more closely replicate test topology and to limit
then number of ports we need to all each server
to specify which ports should be connected to each network.

This should also allow for some kind of multiport setup.

Add optional network_ports dict to each server with network to port_list
mapping

match inteface based on port name or vld_id

replace vld_id matching with network name matching, since network_name == vld_id

Change-Id: I5de46b8f673949e3c17d8df6fa96f055c43886ce
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

improve logging, clear using print

Change-Id: I744353f631cf1771d75f750543e8612f81be71ee
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

ssh fix, always wait

Change-Id: I1c529eeb0ef47752ed15e3e7941f57f7793ebfd4
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Removed special networking from yardstick container when started by nsb_setup.

Change-Id: Ief1cfd7c018948a9125549400bb5bf0e5c20d730
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

tc063: make node parameter can be pass

Change-Id: I7af9706085508f2391957dc5633db4152f828bfc
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Merge "Added line parser to INI parser"

Merge "Bugfix: cleanup command not found"

[DRAFT] add yardstick cli info in userguide

Change-Id: Ib52f0f0629c27b35774804be81276427ac29bac2
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Merge "KVMFORNFV:Livemigration testcase changes in Yardstick"

Added line parser to INI parser

Line parser handles comments, keys and values
and makes exceptions.

Change-Id: I5cd3612ffd8cb08b14051bd0ef4b757c310f77bd
Signed-off-by: Edward MacGillivray <edward.s.macgillivray@intel.com>

Merge "change outage_time from 20 to 30s"

Merge "Add API(v1) to get real time log"

Bugfix: cleanup command not found

JIRA: YARDSTICK-808

This bug is from CI, see log:
https://build.opnfv.org/ci/view/yardstick/job/yardstick-joid-baremetal-daily-master/1560/consoleFull

The reason is we don not have cleanup function in the script.
It is in another script clean_image.sh.
so I remove it, and call clean_image.sh when in openstack scenario.

Change-Id: I844cd9e8f0b6e1e8ff7a6094be37789d35a2c345
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>

Merge "testcase: add rate parameter for spec cpu 2006"

Merge "Adding nfvi flag to enable data collection"

Merge "Adding latency test for vfw"

Merge "Yardstick TC083: Move sample test case netperf"

Merge "Yardstick TC082: move sample test case perf.yaml"

change outage_time from 20 to 30s

Change-Id: I255c71a75d748f8e7401815a2a5890111a1ee2f5
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Merge "Adding ixia latency support for dynamic cgnapt"

Adding ixia latency support for dynamic cgnapt

Change-Id: I346f6064c39cb5662c2b17ca0f520addbe5eae4c
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

Merge "updating the traffic profile to enable static cgnapt for ixnet"

Merge "update yardstick ha test cases dashboard"

Merge "Bugfix: ha test case criteria pass when sla not pass"

Merge "decrease default hugepages,  depends on VNF of course"

Merge "test_kubernetes: mock file operations in test_ssh_key"

Merge "test_vsperf_dpdk: mock time to speedup unitests"

Addition of Prox NSB tests in yardstick

JIRA: YARDSTICK-802

Added Prox L3FWD and Packet buffering tests
- The tests supports BM and Openstack Heat
- L3FWD tests suports 2 and 4 ports
- Packet flow buffering test is a 1 port test
- Grafana Dashboards are added

TODO: Latency stats are missing in KPI collection
      Need to invetigate that
      Coverage if needed!

Change-Id: I216a170488d5578622cf8c3748a6277b380f016a
Signed-off-by: Abhijit Sinha <abhijit.sinha@intel.com>

ansible: update package proxy code

re-enable retries

Change-Id: I77738250e8aa8de3c8a8a1019093af04ce785ae0
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "Adding NSB documentation for SV and Baremetal"

Add fixes for heat deployed UDP_Replay and TRex

- Added a PROTOCOL_MAP to map the protocol names to codes -- the scapy
  requires the code, it fails if the proto is set e.g. to 'udp'
- ip addresses must be str, not unicode -- explicit conversion to str
  added
- removed unittest for setup_vnf_environment in test_tg_trex.py as
  it is the same function as already tested in test_sample_vnf.py
- traffic_profile refactored -- code repetition decreased, unittest
  adapted

Known issues:
- there is a an attempt to stop already stopped trex. It fires an
  exception that stop command is issued on the disconnected client.

Change-Id: I87e9029630f48b30e8f5b4f9d88ab3b25fd65f03
Signed-off-by: Martin Banszel <martinx.banszel@intel.com>

nsb_setup: fixup typo

Change-Id: I7fcbf0a3c3f21065d82ffb23b5ea8c1e774a1d67
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "ansible: remove default openrc_file"

ansible: remove default openrc_file

when clause is re-evaluated after default

Change-Id: I2f9b093a4cb0e2d024f8d6beb935f336ac1df637
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

nsb_setup: pin pip versions for ansible, shade, docker

Change-Id: Ia1f1c26becdc776ce664b4ab2fb0254049087318
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

PROX: catch ports stats parse error

for some reason port status returned
fewer fields, catch this for debug
and return empty result dict so test continues
and hopefully we get a valid stat
read on next call.

Change-Id: I54f1a86707d2a00efcb82a7e0239d12f90a6542c
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Adding NSB documentation for SV and Baremetal

Change-Id: I6db301b88af67256b52f5d197dfffe3c0719e132
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

Merge "Addition of Prox NSB changes in yardstick"

ansible: fix corrupt /etc/fstab boot error

Change-Id: I71fdef5deff75cad434bf19f0a7e507c1dcc4ed3
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Introduced ansible playbook to setup NSB.

Change-Id: I5865cd50d5fde26e9e9fc265d4385372d668413f
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "Adding intel_pmu tools plugin for collectd"

Adding intel_pmu tools plugin for collectd

Change-Id: I81ff3d43d209e98188855c8b2eb302835bb5d417
Signed-off-by: Neha Vadnere <neha.r.vadnere@intel.com>
Signed-off-by: Deepak S <deepak.s@linux.intel.com>
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Fix Ixload KPIs collection & hang issues.

Change-Id: If679333dc1cb9e041a332fb374c55f72eaab1b28
Signed-off-by: Deepak S <deepak.s@linux.intel.com>
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Addition of Prox NSB changes in yardstick

JIRA: YARDSTICK-802

Addition of Prox L2Fwd, MPLS test cases for BM and Heat.

updates:
Most of tg_prox and prox_vnf were absorbed into the base classes.

delete most of ProxDpdkVnfSetupEnvHelper, it is handled by DpdkVnfSetupEnvHelper baseclass

use standard _build_pipeline_kwargs methods

don't use terminate() use baseclass version

add new method kill_vnf that runs pkill -x

replace resource_helper.execute() with vnf_execture for dumping stats

In order to share code between tg_prox and vnf_prox
refactor to have tg_prox hold and wrap a ProxApproxVnf instance and call
methods on that class.   Do this instead of multiple-inheritance.

Implement ProxApproxVnf.terminate() using prox socket command
based exit, (stop_all, quit, force_quit).

vnf_execute calls resource_helper.execute() which calls
socket methods on the sut object.

Since tg_prox wraps the VNF object, we can call
terminate on the VNF object and it should work correctly.

move prox config generation to parent process
    we need to get core number info from config file
    inside the TG processes, so we need to generate
    the config in the parent process so the data is
    copied to the child during the fork.

moved more config file methods to the setup_helper class.

we run force_quit after quit, so the socket should already be closed
this will trigger socket error, so add _ignore_errors option for
vnf_execute to ignore socket errors

Fixed the terminate issue. Added MPLS tests.
Added TG Stats in_packet/out_packet
Fixed compile (pep8) issues

Fixed MPLS TG port stats, in/out packets
Added Grafana dashboards for L2FWD and MPLS
Traffic profiles modified for tolerated loss and
precision as per DATS tests.

Added unit test case for Mpls
Single port test stats collection support.

Change-Id: Idd9493f597c668a3bb7d90e167e6a418546106e8
Signed-off-by: Abhijit Sinha <abhijit.sinha@intel.com>
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

test_create_keypair: fix op_utils mock and mock paramiko

Change-Id: I5c039c0d4f4ba651209c7d5ca4e748f9151b5630
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

test_kubernetes: mock file operations in test_ssh_key

tests take too long and we should not be createing/deleting
files during unittests, filesystems operations introduce
too many external issues

Change-Id: I989c9d0a84187becdf63497c0c1ac6e10c5eac70
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

test_vsperf_dpdk: mock time to speedup unitests

If you put time.sleep(1) all over your code you need
to mock time.sleep() in your unittests lest the unittests
take forever.

Change-Id: I9ebbf9e21c98e8c46bab727bbb22f33045db4361
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Adding nfvi flag to enable data collection

Change-Id: Ieafefb5501dc3a20fee41726a7daa9e4bb28599f
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

Adding latency test for vfw

Change-Id: Ibed8bf057a76f55a9e4cc5c55a104350e43a2a6e
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

updating the traffic profile to enable static cgnapt for ixnet

Change-Id: I49e9c5c69bc997d3ba33387e691459c167f3e4bc
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

add opnfv_os-odl-nofeature-noha_daily.yaml for odl_l3 to odl rename

Change-Id: Ib7cfb36d89551a187f5ee681454e61444a08c585
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "Adding support for updating the count/packetsize for given testcase"

sample_vnf: default to 16GB of 2048Kb hugepages

8192 * 2048kB = 16GB

Change-Id: I82bf420794e5174e88cfaea08b9fab0d77c2be7f
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "Adding vfw scale-up test with ixia as tg"

Adding cgnapt scale-up test with ixia as tg

Change-Id: I834d733aff2da5af12db08f4159be2e9c6361aab
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

Adding vfw scale-up test with ixia as tg

Change-Id: I4f476d16dd11a12f5ffa9047af78d2236a4fbbc2
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

decrease default hugepages,  depends on VNF of course

Change-Id: I5e8d1461e158c0b499a8864099fbb218965a429f
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "Introduced default values and remove unnecessary ones from ansible code image build code."

update yardstick ha test cases dashboard

Change-Id: I169e3dc7eb94efa7fe27fc4e82444f53452ccaba
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Adding support for updating the count/packetsize for given testcase

Change-Id: I3ec1a6d3710d44df5ddac6bd8967d28ad58e8d33
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

Merge "Added TC for vFW in heat context with ixia TG"

Yardstick TC083: Move sample test case netperf

JIRA: YARDSTICK-792

Change-Id: I81fb62144b83b215cbf39057e53029c895df50a0
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Yardstick TC082: move sample test case perf.yaml

JIRA: YARDSTICK-794

Change-Id: I75209a41f1afed5e72c035d729fc5bf608eb525e
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

testcase: add rate parameter for spec cpu 2006

Change-Id: I5f1634d2a30eb93b4632e4773cee3f8b7a151b1f
Signed-off-by: JingLu5 <lvjing5@huawei.com>

Bugfix: ha test case criteria pass when sla not pass

ha test cases didn't store moniter info and report
fail when sla didn't pass

Change-Id: I0e5637e37a66e1bf03b47fe09d17e0a1acfa11c1
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Added TC for vFW in heat context with ixia TG

- added common method to get relative paths
- added 'Ixia' APP_NAME

Change-Id: I7966798bab71af66d3efbeb1e13b07e8fbb41e88
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

Merge "Enable update ip headers for given testcase"

Enable update ip headers for given testcase

Change-Id: I008b3f09695f5e3f484b39d4e70b83e5942de863
Signed-off-by: Deepak S <deepak.s@linux.intel.com>
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

Introduced default values and remove unnecessary ones from ansible code image build code.

Change-Id: Id711d6fdacaddeafb8550290503d6cb6c814ea70
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>