cancel all queue join threads

In some cases we are blocking in base.Runner join() because the
queues are not empty

call cancel_join_thread to prevent the Queue from blocking the
Process exit

https://docs.python.org/3.3/library/multiprocessing.html#all-platforms

Joining processes that use queues

  Bear in mind that a process that has put items in a queue will wait
  before terminating until all the buffered items are fed by the
  "feeder" thread to the underlying pipe. (The child process can call
  the cancel_join_thread() method of the queue to avoid this behaviour.)

  This means that whenever you use a queue you need to make sure that
  all items which have been put on the queue will eventually be removed
  before the process is joined. Otherwise you cannot be sure that
  processes which have put items on the queue will terminate. Remember
  also that non-daemonic processes will be joined automatically.

Warning

  As mentioned above, if a child process has put items on a queue (and
  it has not used JoinableQueue.cancel_join_thread), then that process
  will not terminate until all buffered items have been flushed to the
  pipe.

  This means that if you try joining that process you may get a deadlock
  unless you are sure that all items which have been put on the queue
  have been consumed. Similarly, if the child process is non-daemonic
  then the parent process may hang on exit when it tries to join all its
  non-daemonic children.

cancel_join_thread()

  Prevent join_thread() from blocking. In particular, this prevents the
  background thread from being joined automatically when the process
  exits – see join_thread().

  A better name for this method might be allow_exit_without_flush(). It
  is likely to cause enqueued data to lost, and you almost certainly
  will not need to use it. It is really only there if you need the
  current process to exit immediately without waiting to flush enqueued
  data to the underlying pipe, and you don’t care about lost data.

Change-Id: I345c722a752bddf9f0824a11cdf52ae9f04669af
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

code inspection fixes: test_pktgen

Change-Id: I05cb069984b7674924cfcb1ed023048c0aa0c444
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Adding example testcase to enable multiport support for http

Change-Id: I780aa3ea6b04df08baffb5ee5beff66bdc37f37e
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

Merge "dpdk: pciutils and lspci is required for dpdk-devbind.py"

Merge "replace ansible modules"

Merge "Adapt getting the image architecture to mcp"

Merge "bugfix: tc054 default value is wrong"

Merge "Remove checkno.png and checkyes.png due to license issue"

Remove checkno.png and checkyes.png due to license issue

JIRA: YARDSTICK-817

Since checkno.png and checkyes.png is not Apache-2 license based.
so we need to remove them.

Change-Id: I40dd303fb54a3736ca969ac1c186d2cd23408436
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>

Fix src/dst ip update in ixia configuration

Change-Id: I03976c182e164a512a5ef48ad20928f27451c3f6
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

Auto create ixia config based on the traffic profile

Change-Id: I031cc7f24f0c0816eb577a4d1606a714f68a5f83
Signed-off-by: Deepak S <deepak.s@linux.intel.com>
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "NSB: ignore VNF node if there is no VNF model"

replace ansible modules

Change-Id: Ia7c1ce781075142910a6c618a9a23f34a710dfe9
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Enabling multi_VM & multi port launch in standalone context

new context names:
- SRIOV - StandaloneSriov
- OvsDpdk - StandaloneOvsDpdk

- Seperate helper, libvirt, server info class
- Allow multi-port and multi-VM support.

Change-Id: I3c65e4535082fa0e2f4c6ee11c3bca9ccfdc01b8
Signed-off-by: Deepak S <deepak.s@linux.intel.com>
Signed-off-by: Martin Banszel <martinx.banszel@intel.com>

Grafana Dashboard update for Prox Tests

JIRA: YARDSTICK-802

Updated the Grafana dashboards to collect KPI's
correctly & incorporate scale up changes in topology

Influx-db stores the KPI’s fields as: <TG><Port><kpi>
TG has changed from  : tg__1 to tg__0
VNF has changed from : vnf__1 to vnf__0

Change-Id: I3bd8be61210906bc4de95c9b1986033572d93277
Signed-off-by: Abhijit Sinha <abhijit.sinha@intel.com>

Adapt getting the image architecture to mcp

The part which gets the image architecture still uses the old fuel command.
Adapted the script to use the mcp command.

JIRA: ARMBAND-285

Change-Id: Iddce77c3a856ea11f9994861151db89a402e735e
Signed-off-by: Cristina Pauna <cristina.pauna@enea.com>

dpdk: pciutils and lspci is required for dpdk-devbind.py

Change-Id: I8529f33d849fc659b557e1d19761c0765ebda57e
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

CI: add new test cases into CI so they can have result

Change-Id: Ib2b165c41121b29b2af378dc420c2360786de3f0
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

bugfix: tc054 default value is wrong

management route ip is not common in most SUTs, so it should
be removed.
also huawei pod1 ipmi info should updated so this test case
can be added into ci later

Change-Id: I3a29c59c473ee7087d4d61753ffc955b061571fb
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Adjusted IPs in some prox tests.

Change-Id: Iff39fa5b90d1ae5534ce1fff31dfb84c1e47340c
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

Merge "add collectd ansible"

Switched to stable/euphrates for samplevnfs projext

Change-Id: I0305c263740c25bdfa3bb2667838ca2b75d33ba0
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

add collectd ansible

required DPDK fixes to enable building collectd with dpdkstats
need /usr/lib/dpdk-pmd symlinks

Compiling all this code requies more space than the default ubuntu
cloud-image, so we need to resize the cloud image somehow

Change-Id: Ib39fc94ba8101ca1aebc7d2a710be88b0338f7c3
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

Merge "vnf_generic: Fix str object has no attribute items"

Added hw_vif_multiqueue_enabled metadata to the added samplevnfs image in OpenStack.

Change-Id: Iad1dce6b0d0a1c010aa62f2fdf54c5d0560ed0c7
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

vnf_generic: Fix str object has no attribute items

When an IP range is specified in src_ip/dst_ip like:
src_ip:
   - '152.16.100.180-152.16.100.181'
yardstick would return str object has no attribute items error.
This change will return the IP range as is if type is str.

Change-Id: I3b097777f0d85b0600207157bebba18987ea2275
Signed-off-by: Dino Simeon Madarang <dinox.madarang@intel.com>
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "Addition of Prox NSB BNG and BNG-QoS test"

NSB: ignore VNF node if there is no VNF model

Change-Id: I571289c744441a6114c6d45ac6cbd7cfc0dafef2
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "collectd: add config file templates as package_data"

collectd: add config file templates as package_data

needed for pkg_resources.resource_string

Change-Id: Ief7a8fcd88fd6d371851a26e1559351963979e68
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "Get node IPs and IDs according to env"

Addition of Prox NSB BNG and BNG-QoS test

JIRA: YARDSTICK-802

Added Prox BNG and BNG-QoS Test
- The tests supports BM, Openstack Heat
- Supports 4 ports
- Test added for BNG traffic profile
- Fixed the Prox heat test cases with
  proper upstream and downstream links
- Grafana Dashboard for BNG & BNG-QoS added
- Increased the test Duration to 300

TODO:
- Test does not Terminate correctly

Update:
Added new helper class for run_test: Genric, MPLS
and BNG tests.

Change-Id: Ib40811bedb45a3c3030643943f32679a4044e076
Signed-off-by: Abhijit Sinha <abhijit.sinha@intel.com>
Signed-off-by: Edward MacGillivray <edward.s.macgillivray@intel.com>
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>
Signed-off-by: Daniel Martin Buckley <daniel.m.buckley@intel.com>

exec_tests: remove releng clone code

we bind-mount the credentials into the container
so we don't need to clone releng

Change-Id: I838745a1470015a693f1801c93b930e8df06ef4b
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Create test suite for Euphrates release

JIRA: YARDSTICK-814

Test suite:
"opnfv_os-odl-fdio-ha_daily.yaml",
"opnfv_os-odl-dvr-noha_daily.yaml",
"opnfv_os-odl-sfc-noha_daily.yaml"
are missing in yardstick-apex-baremetal-daily-euphrates job.
We need to create them.

Change-Id: I6d8bbeb17cd887776f1f3b401ec80523ea90d3c1
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>

Merge "[PATCH] Patch for Yardstick arm64 netperf_install.bash"

Merge "collectd: write config file from Jinja2 template"

Get node IPs and IDs according to env

Extract node IPs and IDs for each node having a controller or compute
role (name starting with the "cmp" or "ctl" prefix) and add them into
the $pod_yaml file, analogous to the previous implementation.
Since node IDs are expected to be unique and integers (condition that
does not match the salt node ID format), they are substituted with an
incremented index for each controller/compute node in the environment.

Change-Id: Id90626edc3f098bd96343336b2be179721dee5a1
Signed-off-by: Catalina Focsa <catalina.focsa@enea.com>

Terminate the run traffic if initiated after traffic is closed

Change-Id: I89fc4bccb5b5a0d49d804fca72b59e53ff77a805
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

collectd: write config file from Jinja2 template

We have the collectd.conf inside the python package
so instead of copying it from various places,
write the template directly to the remote system.

collectd: read collect.conf template with pkgresources

read the collectd.conf file as a string directly
and upload without creating temp file

use Jinja2 template, disable failing plugins

use proper Jinja2 template, disable the plugins that
were failing to load and blocking startup

add support for per-testcase collectd.conf config
using YAML

add support for custom interval, default is 25 seconds

Change-Id: Id904f7b7c9f41a9dd7adf5dfa06c064d65c25d2d
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "Adding multi-port support for ixia taffic generator"

Merge "Fix vPE VNF characterization issues."

Adding multi-port support for ixia taffic generator

Change-Id: Ic8aa130f3cdc7bd8dec39d06a6b824340bf658b2
Signed-off-by: Deepak S <deepak.s@linux.intel.com>
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Ensure that at least one handler is available

https://jira.opnfv.org/browse/YARDSTICK-773?filter=-3

Remove dependency of yardstick on utils methods

Change-Id: Iadf502364a7f08c279a8f0d17d7e45e8047f4066
Signed-off-by: Edward MacGillivray <edward.s.macgillivray@intel.com>

Merge "Enable IP_ROUTING for netperf UDP_STREAM test"

Merge "Read user & password from yardstick.conf in Grafana configuration"

Merge "bugfix: tc055 fail due to options with no value"

Merge "Add nodeSelector to enable selecting the desired Kubernetes running node when creating containers for Kubernetes context"

bugfix: tc055 fail due to options with no value

JIRA: YARDSTICK-816

Change-Id: Ib7eb411b940775915c6c9f87ac5cdc9825069467
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

task: fixup s/exe_info/exc_info

JIRA: YARDSTICK-785

Change-Id: Ib37498e8df6a520f1d03256b73346fcedab3a177
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Fix vPE VNF characterization issues.

Change-Id: Ia934128777d2839f6d2b940857c266fc3e2bd4a1
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

Merge "Log each test case status in a task"

Merge "tg_rfc2544_ixia: log exceptions and fix list iter"

[PATCH] Patch for Yardstick arm64 netperf_install.bash

Change-Id: Ic384c4603e7482f150fd4c4d2d6a6448a45ddb9e
Signed-off-by: Trevor Tao <trevor.tao@arm.com>

Merge "bugfix: tc025 should use ipmi to poweroff"

Merge "Add service in kubernetes context"

tg_rfc2544_ixia: log exceptions and fix list iter

Change-Id: Ia9722604b7c8ae23e784e780f113d012de544d4b
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "tg_rfc2544_ixia: use traffic id from JSON to update mac"

Add service in kubernetes context

JIRA: YARDSTICK-803

Currently kubernetes test case can only run in master node.

We need to support it run in jump server.
So I add service and use nodePort type.

Then we can login the pod using nodePort.

Change-Id: Ia7900d263f1c5323f132435addec27ad10547ef9
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>

Merge "Add host&targer in scenario['options']['server_name'] support"

Add nodeSelector to enable selecting the desired
Kubernetes running node when creating containers for
Kubernetes context

For example, a yaml file may looks like:
 servers:
    host:
      image: xxx
      command: /bin/bash
      nodeSelector:
          xxx: yyy

Synchronously change the unit test for this function

Change-Id: If74c9dad9b1a70395bb79f34708a0fde04e7e650
Signed-off-by: Trevor Tao <trevor.tao@arm.com>

Merge "requirements: bump Ansible version to 2.3"

Merge "Introduced timeout to post method of HttpClient"

bugfix: tc025 should use ipmi to poweroff

if it use shutdown, it'll take several minutes to shutdown,
leads to the ipmi power on command fails

Change-Id: I74b61325cbcc3a6ec070d2fa103accf84f29b0fa
Signed-off-by: root <limingjiang@huawei.com>

Introduced timeout to post method of HttpClient

We seen cases where grafana container bring-up code would fail,
because of too quick access to the http api. Added 10sec timeout
for the first query of the API.

Change-Id: Ifc95a626d0ab5552a1f26fb167fc3f65791392d7
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

tg_rfc2544_ixia: use traffic id from JSON to update mac

we were using raw sort index of the interfaces to
set the MAC address, but we should be using the
traffic id from the static JSON instead.

Change-Id: I13284db04abb3eaf8c9826974a9e5aa1c37b3891
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "tg_rfc2544_ixia: renamed traffic_profile.execute to traffic_profile.execute_traffic tg_rfc2544_ixia: pass ports to generate_samples"

Bumped samplevnfs flavor disk size to 6G.

Since we increased the images size the 4G is not sufficient anymore.

Change-Id: Iae25cf4cfb7a6cc69c8d28771c183a2342ac38d0
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

ansible: add grub.cfg hugepages regexp replace

when building the image in chroot we can't run
update-grub of grub-mkconfig because both commands
probe for root partitions, which doesn't work
in the chroot.

Instead we manually regexp replace the kernel boot
line in /boot/**/grub*.cfg

Change-Id: I31fac2a3db4d1d044f11357b1715119066509676
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

tg_rfc2544_ixia: renamed traffic_profile.execute to traffic_profile.execute_traffic
tg_rfc2544_ixia: pass ports to generate_samples

Change-Id: I90d12fa2ce8cd4d1c2a18bdcf70027f6d9e3f77f
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "nsb_setup.sh: update to Ansible 2.3.2"

Merge "cgnapt: mock time.sleep in unitests"

heat: fixup unittest block with pkey

get pkey after we have found the node

Change-Id: I0e67834b87ed5ba268ea9cb5cffb6c214aedeebb
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

nsb_setup.sh: update to Ansible 2.3.2

Change-Id: I2f700fbb169d02d126fe7ea22721bebf127c1206
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

cgnapt: mock time.sleep in unitests

Change-Id: I26957977e6dcd0392078a543a6907a550711c702
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "Generate pod.yaml from current context"

Merge "Heat: use pkey from string instead of key_filename"

requirements: bump Ansible version to 2.3

Change-Id: Ib429ba24d2b7287b6ec4e749386da0e1242d6a20
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "ansible: resize VNF image"

Merge "Tweaked nsb_setup to always re-download latest container and re-create the container."

Tweaked nsb_setup to always re-download latest container and re-create the container.

Change-Id: I21204ddf97e2cccc2d5a762f5d910068bda1a948
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

Merge "prox: fix TG KPIs"

Merge "prox: use find_relative_file when uploading"

Enable IP_ROUTING for netperf UDP_STREAM test

To avoid the following ERROR when netperf test between
2 different subnets:
ERROR netperf: send_omni: send_data failed: Network is unreachable

For detail, please see:
https://serverfault.com/questions/802320/netperf-iptables-\
masquerade-network-unreachable
Or:
https://stackoverflow.com/questions/11981480/error-in-running-\
netperf-udp-stream-over-openvpn

Change-Id: I62b202844861440deaf3bf0f65b41561bd87ae87
Signed-off-by: Trevor Tao <trevor.tao@arm.com>

prox: fix TG KPIs

The problem is that we share the same ProxResourceHelper
for both VNF and TG.

For VNF we want to talk to resource.py and get collectd KPIs.
For TG we need to read from the queue the TG calculated KPIs and
we also want collectd KPIs.

workaround is to use a different method name collect_collectd_kpi
for VNFs

Change-Id: Icc2132758e37ce210f5600a0cd433077930208e5
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Addition of PROX NSB tests to yardstick

JIRA: YARDSTICK-802

Addition of PROX L2FWD_Multiflow, ACL, Load Balancing  plus
grafana dashboards

Supports 2 and 4 port Baremetal & Heat

Change-Id: I1f3990d5451de265ee3901302569c355ece3b146
Signed-off-by: Daniel Martin Buckley <daniel.m.buckley@intel.com>

prox: use find_relative_file when uploading

the prox files were being found correctly.
if we use find_relative_file they will lookup
relative to the task_path

Change-Id: Ifde5d07df5ccfbfeba015b2f43bd8b53e89a00b7
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "prox testcases: private -> uplink,public -> downlink, vnf_0, tg_0"

Merge "prox: pass prox_config_dict between Processes using queue"

add opnfv_os-odl-fdio-dvr-ha_daily.yaml scenario

Change-Id: I723477edf810a220816a2e67aa80f7f144efb3a6
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

prox: pass prox_config_dict between Processes using queue

we generate the prox_config_dict in the _run Process,
but we also need it in the _traffic_runner Process to
get core info.

use a queue to pass the config list between the processes

enable collect_kpi

Change-Id: Ibaf41d606e559a87addf43d6ddaed206dbd2d20c
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>
Signed-off-by: Edward MacGillivray <edward.s.macgillivray@intel.com>

Merge "Fixed few gaps when running on a minimal version of system"

Fixed few gaps when running on a minimal version of system

- we need to make sure we have lsof installed
- we need to update cache inside the image, because we are unable to install some of them

Change-Id: Ic555489779e9096540001cb9c62ea2ab25c1ae90
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

Merge "UDP_Replay: enable collectd KPIs"

Merge "add scenario opnfv_os-nosdn-bar-ha_daily.yaml for Barometer"

prox testcases: private -> uplink,public -> downlink, vnf_0, tg_0

Change-Id: I85afff4582bf538fcd0be5b4db1405a4da2573f9
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

UDP_Replay: enable collectd KPIs

Change-Id: I92146411707a9ec29864d164dbd63b96d05bffe0
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "apiserver: mock socket.gethostbyname"

Heat: use pkey from string instead of key_filename

Instead of using a key_filename for Heat, we can
read the key as a string directly using pkg_resources.resource_string()

This will enable us to save Heat stacks as pod.yaml, because
we can embedded the key into the pod.yaml directly.

Change-Id: I16baaba17dab845ee0846f97678733bae33cb463
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>
Signed-off-by: Edward MacGillivray <edward.s.macgillivray@intel.com>

add scenario opnfv_os-nosdn-bar-ha_daily.yaml for Barometer

For now just copied and renamed opnfv_os-nosdn-nofeature-ha_daily.yaml

Change-Id: Idbd37a3e21220aa407d053157da71b449bad15ee
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

NSB: count from 0, vnf_0, tg_9, private->uplink, public->downlink

Also rename private to uplink, public to downlink

for scale-out template we need to count from 0
so we can use range() without +1/-1 errors

vnf_0, vnf_1
tg_0, tg_1

also fix Ixia defaults

Change-Id: I6aecfbb95f99af20f012a9df19c19be77d1b5b77
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>
Signed-off-by: Edward MacGillivray <edward.s.macgillivray@intel.com>