Merge "Log each test case status in a task"

Merge "tg_rfc2544_ixia: log exceptions and fix list iter"

Merge "bugfix: tc025 should use ipmi to poweroff"

Merge "Add service in kubernetes context"

tg_rfc2544_ixia: log exceptions and fix list iter

Change-Id: Ia9722604b7c8ae23e784e780f113d012de544d4b
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "tg_rfc2544_ixia: use traffic id from JSON to update mac"

Add service in kubernetes context

JIRA: YARDSTICK-803

Currently kubernetes test case can only run in master node.

We need to support it run in jump server.
So I add service and use nodePort type.

Then we can login the pod using nodePort.

Change-Id: Ia7900d263f1c5323f132435addec27ad10547ef9
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>

Merge "Add host&targer in scenario['options']['server_name'] support"

Merge "requirements: bump Ansible version to 2.3"

Merge "Introduced timeout to post method of HttpClient"

bugfix: tc025 should use ipmi to poweroff

if it use shutdown, it'll take several minutes to shutdown,
leads to the ipmi power on command fails

Change-Id: I74b61325cbcc3a6ec070d2fa103accf84f29b0fa
Signed-off-by: root <limingjiang@huawei.com>

Introduced timeout to post method of HttpClient

We seen cases where grafana container bring-up code would fail,
because of too quick access to the http api. Added 10sec timeout
for the first query of the API.

Change-Id: Ifc95a626d0ab5552a1f26fb167fc3f65791392d7
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

tg_rfc2544_ixia: use traffic id from JSON to update mac

we were using raw sort index of the interfaces to
set the MAC address, but we should be using the
traffic id from the static JSON instead.

Change-Id: I13284db04abb3eaf8c9826974a9e5aa1c37b3891
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "tg_rfc2544_ixia: renamed traffic_profile.execute to traffic_profile.execute_traffic tg_rfc2544_ixia: pass ports to generate_samples"

Bumped samplevnfs flavor disk size to 6G.

Since we increased the images size the 4G is not sufficient anymore.

Change-Id: Iae25cf4cfb7a6cc69c8d28771c183a2342ac38d0
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

tg_rfc2544_ixia: renamed traffic_profile.execute to traffic_profile.execute_traffic
tg_rfc2544_ixia: pass ports to generate_samples

Change-Id: I90d12fa2ce8cd4d1c2a18bdcf70027f6d9e3f77f
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "nsb_setup.sh: update to Ansible 2.3.2"

Merge "cgnapt: mock time.sleep in unitests"

heat: fixup unittest block with pkey

get pkey after we have found the node

Change-Id: I0e67834b87ed5ba268ea9cb5cffb6c214aedeebb
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

nsb_setup.sh: update to Ansible 2.3.2

Change-Id: I2f700fbb169d02d126fe7ea22721bebf127c1206
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

cgnapt: mock time.sleep in unitests

Change-Id: I26957977e6dcd0392078a543a6907a550711c702
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "Generate pod.yaml from current context"

Merge "Heat: use pkey from string instead of key_filename"

requirements: bump Ansible version to 2.3

Change-Id: Ib429ba24d2b7287b6ec4e749386da0e1242d6a20
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "ansible: resize VNF image"

Merge "Tweaked nsb_setup to always re-download latest container and re-create the container."

Tweaked nsb_setup to always re-download latest container and re-create the container.

Change-Id: I21204ddf97e2cccc2d5a762f5d910068bda1a948
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

Merge "prox: fix TG KPIs"

Merge "prox: use find_relative_file when uploading"

prox: fix TG KPIs

The problem is that we share the same ProxResourceHelper
for both VNF and TG.

For VNF we want to talk to resource.py and get collectd KPIs.
For TG we need to read from the queue the TG calculated KPIs and
we also want collectd KPIs.

workaround is to use a different method name collect_collectd_kpi
for VNFs

Change-Id: Icc2132758e37ce210f5600a0cd433077930208e5
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Addition of PROX NSB tests to yardstick

JIRA: YARDSTICK-802

Addition of PROX L2FWD_Multiflow, ACL, Load Balancing  plus
grafana dashboards

Supports 2 and 4 port Baremetal & Heat

Change-Id: I1f3990d5451de265ee3901302569c355ece3b146
Signed-off-by: Daniel Martin Buckley <daniel.m.buckley@intel.com>

prox: use find_relative_file when uploading

the prox files were being found correctly.
if we use find_relative_file they will lookup
relative to the task_path

Change-Id: Ifde5d07df5ccfbfeba015b2f43bd8b53e89a00b7
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "prox testcases: private -> uplink,public -> downlink, vnf_0, tg_0"

Merge "prox: pass prox_config_dict between Processes using queue"

add opnfv_os-odl-fdio-dvr-ha_daily.yaml scenario

Change-Id: I723477edf810a220816a2e67aa80f7f144efb3a6
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

prox: pass prox_config_dict between Processes using queue

we generate the prox_config_dict in the _run Process,
but we also need it in the _traffic_runner Process to
get core info.

use a queue to pass the config list between the processes

enable collect_kpi

Change-Id: Ibaf41d606e559a87addf43d6ddaed206dbd2d20c
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>
Signed-off-by: Edward MacGillivray <edward.s.macgillivray@intel.com>

Merge "Fixed few gaps when running on a minimal version of system"

Fixed few gaps when running on a minimal version of system

- we need to make sure we have lsof installed
- we need to update cache inside the image, because we are unable to install some of them

Change-Id: Ic555489779e9096540001cb9c62ea2ab25c1ae90
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

Merge "UDP_Replay: enable collectd KPIs"

Merge "add scenario opnfv_os-nosdn-bar-ha_daily.yaml for Barometer"

prox testcases: private -> uplink,public -> downlink, vnf_0, tg_0

Change-Id: I85afff4582bf538fcd0be5b4db1405a4da2573f9
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

UDP_Replay: enable collectd KPIs

Change-Id: I92146411707a9ec29864d164dbd63b96d05bffe0
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "apiserver: mock socket.gethostbyname"

Heat: use pkey from string instead of key_filename

Instead of using a key_filename for Heat, we can
read the key as a string directly using pkg_resources.resource_string()

This will enable us to save Heat stacks as pod.yaml, because
we can embedded the key into the pod.yaml directly.

Change-Id: I16baaba17dab845ee0846f97678733bae33cb463
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>
Signed-off-by: Edward MacGillivray <edward.s.macgillivray@intel.com>

add scenario opnfv_os-nosdn-bar-ha_daily.yaml for Barometer

For now just copied and renamed opnfv_os-nosdn-nofeature-ha_daily.yaml

Change-Id: Idbd37a3e21220aa407d053157da71b449bad15ee
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

NSB: count from 0, vnf_0, tg_9, private->uplink, public->downlink

Also rename private to uplink, public to downlink

for scale-out template we need to count from 0
so we can use range() without +1/-1 errors

vnf_0, vnf_1
tg_0, tg_1

also fix Ixia defaults

Change-Id: I6aecfbb95f99af20f012a9df19c19be77d1b5b77
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>
Signed-off-by: Edward MacGillivray <edward.s.macgillivray@intel.com>

Merge "NSB test: remove vld_id it is not needed"

Merge "Fixing vPE config creation anf bring up issues."

NSB test: remove vld_id it is not needed

we get vld_id from the topology, we
don't need it in Heat context

Change-Id: I42c2309dda919e5b2026065dda851555df76ba57
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "Fix all the exception while genereating the latency traffic"

Merge "vnf_generic: adjust ssh timeout for number of VNFs"

Fixing vPE config creation anf bring up issues.

Change-Id: Icf7a01a053495e6d96bd664d6ceda8964fa437eb
Signed-off-by: Deepak S <deepak.s@linux.intel.com>
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Fix all the exception while genereating the latency traffic

Change-Id: I0b25e704b29fc68678eaa29d9e1d1eb04ee94e3e
Signed-off-by: Deepak S <deepak.s@linux.intel.com>
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Terminate the ixia traffic generator at the end of the test run

Change-Id: I80501ab3662a58930939d849f0bde0e810154a39
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

Merge "Added multi-port testcases for vFW"

Added multi-port testcases for vFW

Change-Id: I6cf8675c83fc081dd22ae7896e63ff7725ed3c13
Signed-off-by: Deepak S <deepak.s@linux.intel.com>
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

rename odl_l3 tests to just odl

Change-Id: I664437d598db9f9dcc7036e306b8a4edc40287cf
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Fix the offset bug for UDP dst port in the traffic profile

Also sends a new line to the VNF when waiting for prompt.

Change-Id: Ib8641093974cd6713594aac9b418595ad5268e87
Signed-off-by: Martin Banszel <martinx.banszel@intel.com>

vnf_generic: adjust ssh timeout for number of VNFs

we assume the time it takes to start multiple
instances is proportional to the number of instances
so we scale the timeout based on the number of instances.

Change-Id: I6901890d3f184ac4e38e1d6823b96c291579e04a
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Generate pod.yaml from current context

We want to generate pod.yaml from Heat contexts so we can
re-use the context without destroying it.

But we don't have node role information and it doesn't
make sense in this case, so make the role optional.

Since we changed Heat to use pkey instead of key_filename,
we can embed the pkey into the pod.yaml, but we have
to make sure to convert the pkey to string, in case
it is a RSAKey object

Change-Id: Ibefcfbd8236e68013a704c39964cb870da825da8
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "NSB: fix port topology"

Merge "add tc083 rst and tc073/tc083 netperf local dashboard"

Merge "bugfix: show testcase api return type error"

Merge "tc006: fio job_file.ini the volume should be configed"

Merge "KVMFORNFV: Update Grafana config for Packet Forwarding test cases."

Merge "improve logging, clear using print"

Merge "[DRAFT] add yardstick cli info in userguide"

Merge "tc063: make node parameter can be pass"

Add host&targer in scenario['options']['server_name'] support

JIRA: YARDSTICK-810

Currently host, target is in scenario, but as a input, we prefer it in
scenario['options'].
So I add support for under scenario['options']['server_name']

If we write host in scenario['options']['server_name'], the host ip info
will be written in context.

Change-Id: I90df20467ef5da772d22e9f272a2cac250f822e0
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>

add tc083 rst and tc073/tc083 netperf local dashboard

Change-Id: I382b2a711d6659f94982c4386c2f25c144705831
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Merge "Create opnfv_k8-ovn-lb-noha_daily.yaml test suite file"

Merge "tc011: make parameters to be able to config"

NSB: fix port topology

Add a new PortPair class to resolve the
topology into list of public and private ports.

Before we were calculating public/private in multiple
locations and using different conventions.

In addition for all the DPDK test we need to use the DPDK
port number and no rely on interface ordering or interface naming
conventions.

We used to use  xe0 -> 0, xe1 -> 1, etc.  This is not the DPDK port
number.

Use the new dpdknicbind_helper class to parse the output of
dpdk-devbind.py to find the actual DPDK port number at runtime.

We then use this DPDK port number to correctly calculate the
port_mask_hex.

The port mask maps the DPDK port num (PMD ID) to the LINK ID
used in the pipeline config

We also need to make sure we only use the interfaces matched to the
topology and not use all the interfaces, because in some cases we will
have unused interfaces.  In particular TRex always requires an even
number of interfaces, so for single port TRex tests we have to create
the second port and not use it.

Thus we had to modify the traffic generator stats code to only dump
stats for used ports and no unused ports.

Ixia was using interface ordering to map to Ixia ports, instead we use
the dpdk_port_num which must be hardcoded for Ixia.

Renamed traffic_profile.execute to traffic_profile.execute_traffic so
we can trace the code easier.

We pass the port used by the traffic profile to generate_samples so we
don't get stats for unused ports.

Fixed up vPE config creation and bring up issues.

Fixed up CGNAPT and UDP_Replay to work correctly.

Tested with 4-port scale-out

Change-Id: I2e4f328bff2904108081e92a4bf712333fa73869
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>
Signed-off-by: Edward MacGillivray <edward.s.macgillivray@intel.com>

Merge "ssh fix, always wait"

KVMFORNFV: Update Grafana config for Packet Forwarding test cases.

JIRA: YARDSTICK-783

This patch is used for updating the configuration file of opnfv grafana
dashboard for kvmfornfv packet forwarding to publish the throughput
results of test cases added as part of kvmfornfv daily job.

Change-Id: I913bbc5172eefbbfeee86f7ca74b2b99c521c248
Signed-off-by: Gundarapu Kalyan Reddy <reddyx.gundarapu@intel.com>

bugfix: show testcase api return type error

segmentation_id should be number, provider should be string

Change-Id: Iabdc08cb0989f4d585013b5a8ef3662442eeda45
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

tc011: make parameters to be able to config

Change-Id: Ic8a85b762f5204a9b759bf57c3189df97aa52d0c
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

tc006: fio job_file.ini the volume should be configed

Change-Id: Ie03dfe7d1227578bb50e5e4460e50b9dc59dd202
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Create opnfv_k8-ovn-lb-noha_daily.yaml test suite file

JIRA: RDSTICK-811

We need to create opnfv_k8-ovn-lb-noha_daily.yaml so that we
can run kubernetes test in k8-ovn-lb-noha scenario.

Change-Id: I9c18b6d68c96ef917f3b65e494e3c2d9e1beefdd
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>

Heat: support non-mesh network toplogy

Previsouly we added all servers to every network
in Heat in a full mesh.

To more closely replicate test topology and to limit
then number of ports we need to all each server
to specify which ports should be connected to each network.

This should also allow for some kind of multiport setup.

Add optional network_ports dict to each server with network to port_list
mapping

match inteface based on port name or vld_id

replace vld_id matching with network name matching, since network_name == vld_id

Change-Id: I5de46b8f673949e3c17d8df6fa96f055c43886ce
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

improve logging, clear using print

Change-Id: I744353f631cf1771d75f750543e8612f81be71ee
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

ssh fix, always wait

Change-Id: I1c529eeb0ef47752ed15e3e7941f57f7793ebfd4
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Removed special networking from yardstick container when started by nsb_setup.

Change-Id: Ief1cfd7c018948a9125549400bb5bf0e5c20d730
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

tc063: make node parameter can be pass

Change-Id: I7af9706085508f2391957dc5633db4152f828bfc
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Merge "Added line parser to INI parser"

Merge "Bugfix: cleanup command not found"

[DRAFT] add yardstick cli info in userguide

Change-Id: Ib52f0f0629c27b35774804be81276427ac29bac2
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Merge "KVMFORNFV:Livemigration testcase changes in Yardstick"

Added line parser to INI parser

Line parser handles comments, keys and values
and makes exceptions.

Change-Id: I5cd3612ffd8cb08b14051bd0ef4b757c310f77bd
Signed-off-by: Edward MacGillivray <edward.s.macgillivray@intel.com>

Log each test case status in a task

JIRA: YARDSTICK-785

Currently if one test case failed, we will log error.
But if one case success, we do not have any tips.
We need log success when one case success.

Change-Id: I0f41ac55f2569f44b787133e3f2594a5c5547f4a
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>

Merge "change outage_time from 20 to 30s"

Merge "Add API(v1) to get real time log"

Bugfix: cleanup command not found

JIRA: YARDSTICK-808

This bug is from CI, see log:
https://build.opnfv.org/ci/view/yardstick/job/yardstick-joid-baremetal-daily-master/1560/consoleFull

The reason is we don not have cleanup function in the script.
It is in another script clean_image.sh.
so I remove it, and call clean_image.sh when in openstack scenario.

Change-Id: I844cd9e8f0b6e1e8ff7a6094be37789d35a2c345
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>

Merge "testcase: add rate parameter for spec cpu 2006"

Merge "Adding nfvi flag to enable data collection"

Merge "Adding latency test for vfw"

Merge "Yardstick TC083: Move sample test case netperf"

Merge "Yardstick TC082: move sample test case perf.yaml"

change outage_time from 20 to 30s

Change-Id: I255c71a75d748f8e7401815a2a5890111a1ee2f5
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Merge "Adding ixia latency support for dynamic cgnapt"