ansible: add grub.cfg hugepages regexp replace

when building the image in chroot we can't run
update-grub of grub-mkconfig because both commands
probe for root partitions, which doesn't work
in the chroot.

Instead we manually regexp replace the kernel boot
line in /boot/**/grub*.cfg

Change-Id: I31fac2a3db4d1d044f11357b1715119066509676
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "nsb_setup.sh: update to Ansible 2.3.2"

Merge "cgnapt: mock time.sleep in unitests"

heat: fixup unittest block with pkey

get pkey after we have found the node

Change-Id: I0e67834b87ed5ba268ea9cb5cffb6c214aedeebb
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

nsb_setup.sh: update to Ansible 2.3.2

Change-Id: I2f700fbb169d02d126fe7ea22721bebf127c1206
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

cgnapt: mock time.sleep in unitests

Change-Id: I26957977e6dcd0392078a543a6907a550711c702
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "Generate pod.yaml from current context"

Merge "Heat: use pkey from string instead of key_filename"

Merge "ansible: resize VNF image"

Merge "Tweaked nsb_setup to always re-download latest container and re-create the container."

Tweaked nsb_setup to always re-download latest container and re-create the container.

Change-Id: I21204ddf97e2cccc2d5a762f5d910068bda1a948
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

Merge "prox: fix TG KPIs"

Merge "prox: use find_relative_file when uploading"

prox: fix TG KPIs

The problem is that we share the same ProxResourceHelper
for both VNF and TG.

For VNF we want to talk to resource.py and get collectd KPIs.
For TG we need to read from the queue the TG calculated KPIs and
we also want collectd KPIs.

workaround is to use a different method name collect_collectd_kpi
for VNFs

Change-Id: Icc2132758e37ce210f5600a0cd433077930208e5
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Addition of PROX NSB tests to yardstick

JIRA: YARDSTICK-802

Addition of PROX L2FWD_Multiflow, ACL, Load Balancing  plus
grafana dashboards

Supports 2 and 4 port Baremetal & Heat

Change-Id: I1f3990d5451de265ee3901302569c355ece3b146
Signed-off-by: Daniel Martin Buckley <daniel.m.buckley@intel.com>

prox: use find_relative_file when uploading

the prox files were being found correctly.
if we use find_relative_file they will lookup
relative to the task_path

Change-Id: Ifde5d07df5ccfbfeba015b2f43bd8b53e89a00b7
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "prox testcases: private -> uplink,public -> downlink, vnf_0, tg_0"

Merge "prox: pass prox_config_dict between Processes using queue"

add opnfv_os-odl-fdio-dvr-ha_daily.yaml scenario

Change-Id: I723477edf810a220816a2e67aa80f7f144efb3a6
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

prox: pass prox_config_dict between Processes using queue

we generate the prox_config_dict in the _run Process,
but we also need it in the _traffic_runner Process to
get core info.

use a queue to pass the config list between the processes

enable collect_kpi

Change-Id: Ibaf41d606e559a87addf43d6ddaed206dbd2d20c
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>
Signed-off-by: Edward MacGillivray <edward.s.macgillivray@intel.com>

Merge "Fixed few gaps when running on a minimal version of system"

Fixed few gaps when running on a minimal version of system

- we need to make sure we have lsof installed
- we need to update cache inside the image, because we are unable to install some of them

Change-Id: Ic555489779e9096540001cb9c62ea2ab25c1ae90
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

Merge "UDP_Replay: enable collectd KPIs"

Merge "add scenario opnfv_os-nosdn-bar-ha_daily.yaml for Barometer"

prox testcases: private -> uplink,public -> downlink, vnf_0, tg_0

Change-Id: I85afff4582bf538fcd0be5b4db1405a4da2573f9
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

UDP_Replay: enable collectd KPIs

Change-Id: I92146411707a9ec29864d164dbd63b96d05bffe0
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "apiserver: mock socket.gethostbyname"

Heat: use pkey from string instead of key_filename

Instead of using a key_filename for Heat, we can
read the key as a string directly using pkg_resources.resource_string()

This will enable us to save Heat stacks as pod.yaml, because
we can embedded the key into the pod.yaml directly.

Change-Id: I16baaba17dab845ee0846f97678733bae33cb463
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>
Signed-off-by: Edward MacGillivray <edward.s.macgillivray@intel.com>

add scenario opnfv_os-nosdn-bar-ha_daily.yaml for Barometer

For now just copied and renamed opnfv_os-nosdn-nofeature-ha_daily.yaml

Change-Id: Idbd37a3e21220aa407d053157da71b449bad15ee
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

NSB: count from 0, vnf_0, tg_9, private->uplink, public->downlink

Also rename private to uplink, public to downlink

for scale-out template we need to count from 0
so we can use range() without +1/-1 errors

vnf_0, vnf_1
tg_0, tg_1

also fix Ixia defaults

Change-Id: I6aecfbb95f99af20f012a9df19c19be77d1b5b77
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>
Signed-off-by: Edward MacGillivray <edward.s.macgillivray@intel.com>

Merge "NSB test: remove vld_id it is not needed"

Merge "Fixing vPE config creation anf bring up issues."

NSB test: remove vld_id it is not needed

we get vld_id from the topology, we
don't need it in Heat context

Change-Id: I42c2309dda919e5b2026065dda851555df76ba57
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "Fix all the exception while genereating the latency traffic"

Merge "vnf_generic: adjust ssh timeout for number of VNFs"

Fixing vPE config creation anf bring up issues.

Change-Id: Icf7a01a053495e6d96bd664d6ceda8964fa437eb
Signed-off-by: Deepak S <deepak.s@linux.intel.com>
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Fix all the exception while genereating the latency traffic

Change-Id: I0b25e704b29fc68678eaa29d9e1d1eb04ee94e3e
Signed-off-by: Deepak S <deepak.s@linux.intel.com>
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Terminate the ixia traffic generator at the end of the test run

Change-Id: I80501ab3662a58930939d849f0bde0e810154a39
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

Merge "Added multi-port testcases for vFW"

Added multi-port testcases for vFW

Change-Id: I6cf8675c83fc081dd22ae7896e63ff7725ed3c13
Signed-off-by: Deepak S <deepak.s@linux.intel.com>
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

rename odl_l3 tests to just odl

Change-Id: I664437d598db9f9dcc7036e306b8a4edc40287cf
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Fix the offset bug for UDP dst port in the traffic profile

Also sends a new line to the VNF when waiting for prompt.

Change-Id: Ib8641093974cd6713594aac9b418595ad5268e87
Signed-off-by: Martin Banszel <martinx.banszel@intel.com>

vnf_generic: adjust ssh timeout for number of VNFs

we assume the time it takes to start multiple
instances is proportional to the number of instances
so we scale the timeout based on the number of instances.

Change-Id: I6901890d3f184ac4e38e1d6823b96c291579e04a
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Generate pod.yaml from current context

We want to generate pod.yaml from Heat contexts so we can
re-use the context without destroying it.

But we don't have node role information and it doesn't
make sense in this case, so make the role optional.

Since we changed Heat to use pkey instead of key_filename,
we can embed the pkey into the pod.yaml, but we have
to make sure to convert the pkey to string, in case
it is a RSAKey object

Change-Id: Ibefcfbd8236e68013a704c39964cb870da825da8
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "NSB: fix port topology"

Merge "add tc083 rst and tc073/tc083 netperf local dashboard"

Merge "bugfix: show testcase api return type error"

Merge "tc006: fio job_file.ini the volume should be configed"

Merge "KVMFORNFV: Update Grafana config for Packet Forwarding test cases."

Merge "improve logging, clear using print"

Merge "[DRAFT] add yardstick cli info in userguide"

Merge "tc063: make node parameter can be pass"

add tc083 rst and tc073/tc083 netperf local dashboard

Change-Id: I382b2a711d6659f94982c4386c2f25c144705831
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Merge "Create opnfv_k8-ovn-lb-noha_daily.yaml test suite file"

Merge "tc011: make parameters to be able to config"

NSB: fix port topology

Add a new PortPair class to resolve the
topology into list of public and private ports.

Before we were calculating public/private in multiple
locations and using different conventions.

In addition for all the DPDK test we need to use the DPDK
port number and no rely on interface ordering or interface naming
conventions.

We used to use  xe0 -> 0, xe1 -> 1, etc.  This is not the DPDK port
number.

Use the new dpdknicbind_helper class to parse the output of
dpdk-devbind.py to find the actual DPDK port number at runtime.

We then use this DPDK port number to correctly calculate the
port_mask_hex.

The port mask maps the DPDK port num (PMD ID) to the LINK ID
used in the pipeline config

We also need to make sure we only use the interfaces matched to the
topology and not use all the interfaces, because in some cases we will
have unused interfaces.  In particular TRex always requires an even
number of interfaces, so for single port TRex tests we have to create
the second port and not use it.

Thus we had to modify the traffic generator stats code to only dump
stats for used ports and no unused ports.

Ixia was using interface ordering to map to Ixia ports, instead we use
the dpdk_port_num which must be hardcoded for Ixia.

Renamed traffic_profile.execute to traffic_profile.execute_traffic so
we can trace the code easier.

We pass the port used by the traffic profile to generate_samples so we
don't get stats for unused ports.

Fixed up vPE config creation and bring up issues.

Fixed up CGNAPT and UDP_Replay to work correctly.

Tested with 4-port scale-out

Change-Id: I2e4f328bff2904108081e92a4bf712333fa73869
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>
Signed-off-by: Edward MacGillivray <edward.s.macgillivray@intel.com>

Merge "ssh fix, always wait"

KVMFORNFV: Update Grafana config for Packet Forwarding test cases.

JIRA: YARDSTICK-783

This patch is used for updating the configuration file of opnfv grafana
dashboard for kvmfornfv packet forwarding to publish the throughput
results of test cases added as part of kvmfornfv daily job.

Change-Id: I913bbc5172eefbbfeee86f7ca74b2b99c521c248
Signed-off-by: Gundarapu Kalyan Reddy <reddyx.gundarapu@intel.com>

bugfix: show testcase api return type error

segmentation_id should be number, provider should be string

Change-Id: Iabdc08cb0989f4d585013b5a8ef3662442eeda45
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

tc011: make parameters to be able to config

Change-Id: Ic8a85b762f5204a9b759bf57c3189df97aa52d0c
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

tc006: fio job_file.ini the volume should be configed

Change-Id: Ie03dfe7d1227578bb50e5e4460e50b9dc59dd202
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Create opnfv_k8-ovn-lb-noha_daily.yaml test suite file

JIRA: RDSTICK-811

We need to create opnfv_k8-ovn-lb-noha_daily.yaml so that we
can run kubernetes test in k8-ovn-lb-noha scenario.

Change-Id: I9c18b6d68c96ef917f3b65e494e3c2d9e1beefdd
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>

Heat: support non-mesh network toplogy

Previsouly we added all servers to every network
in Heat in a full mesh.

To more closely replicate test topology and to limit
then number of ports we need to all each server
to specify which ports should be connected to each network.

This should also allow for some kind of multiport setup.

Add optional network_ports dict to each server with network to port_list
mapping

match inteface based on port name or vld_id

replace vld_id matching with network name matching, since network_name == vld_id

Change-Id: I5de46b8f673949e3c17d8df6fa96f055c43886ce
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

improve logging, clear using print

Change-Id: I744353f631cf1771d75f750543e8612f81be71ee
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

ssh fix, always wait

Change-Id: I1c529eeb0ef47752ed15e3e7941f57f7793ebfd4
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Removed special networking from yardstick container when started by nsb_setup.

Change-Id: Ief1cfd7c018948a9125549400bb5bf0e5c20d730
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

tc063: make node parameter can be pass

Change-Id: I7af9706085508f2391957dc5633db4152f828bfc
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Merge "Added line parser to INI parser"

Merge "Bugfix: cleanup command not found"

[DRAFT] add yardstick cli info in userguide

Change-Id: Ib52f0f0629c27b35774804be81276427ac29bac2
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Merge "KVMFORNFV:Livemigration testcase changes in Yardstick"

Added line parser to INI parser

Line parser handles comments, keys and values
and makes exceptions.

Change-Id: I5cd3612ffd8cb08b14051bd0ef4b757c310f77bd
Signed-off-by: Edward MacGillivray <edward.s.macgillivray@intel.com>

Merge "change outage_time from 20 to 30s"

Merge "Add API(v1) to get real time log"

Bugfix: cleanup command not found

JIRA: YARDSTICK-808

This bug is from CI, see log:
https://build.opnfv.org/ci/view/yardstick/job/yardstick-joid-baremetal-daily-master/1560/consoleFull

The reason is we don not have cleanup function in the script.
It is in another script clean_image.sh.
so I remove it, and call clean_image.sh when in openstack scenario.

Change-Id: I844cd9e8f0b6e1e8ff7a6094be37789d35a2c345
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>

Merge "testcase: add rate parameter for spec cpu 2006"

Merge "Adding nfvi flag to enable data collection"

Merge "Adding latency test for vfw"

Merge "Yardstick TC083: Move sample test case netperf"

Merge "Yardstick TC082: move sample test case perf.yaml"

change outage_time from 20 to 30s

Change-Id: I255c71a75d748f8e7401815a2a5890111a1ee2f5
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Merge "Adding ixia latency support for dynamic cgnapt"

Adding ixia latency support for dynamic cgnapt

Change-Id: I346f6064c39cb5662c2b17ca0f520addbe5eae4c
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

Merge "updating the traffic profile to enable static cgnapt for ixnet"

Merge "update yardstick ha test cases dashboard"

Merge "Bugfix: ha test case criteria pass when sla not pass"

Merge "decrease default hugepages,  depends on VNF of course"

Merge "test_kubernetes: mock file operations in test_ssh_key"

Merge "test_vsperf_dpdk: mock time to speedup unitests"

Addition of Prox NSB tests in yardstick

JIRA: YARDSTICK-802

Added Prox L3FWD and Packet buffering tests
- The tests supports BM and Openstack Heat
- L3FWD tests suports 2 and 4 ports
- Packet flow buffering test is a 1 port test
- Grafana Dashboards are added

TODO: Latency stats are missing in KPI collection
      Need to invetigate that
      Coverage if needed!

Change-Id: I216a170488d5578622cf8c3748a6277b380f016a
Signed-off-by: Abhijit Sinha <abhijit.sinha@intel.com>

ansible: update package proxy code

re-enable retries

Change-Id: I77738250e8aa8de3c8a8a1019093af04ce785ae0
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "Adding NSB documentation for SV and Baremetal"

Add fixes for heat deployed UDP_Replay and TRex

- Added a PROTOCOL_MAP to map the protocol names to codes -- the scapy
  requires the code, it fails if the proto is set e.g. to 'udp'
- ip addresses must be str, not unicode -- explicit conversion to str
  added
- removed unittest for setup_vnf_environment in test_tg_trex.py as
  it is the same function as already tested in test_sample_vnf.py
- traffic_profile refactored -- code repetition decreased, unittest
  adapted

Known issues:
- there is a an attempt to stop already stopped trex. It fires an
  exception that stop command is issued on the disconnected client.

Change-Id: I87e9029630f48b30e8f5b4f9d88ab3b25fd65f03
Signed-off-by: Martin Banszel <martinx.banszel@intel.com>

nsb_setup: fixup typo

Change-Id: I7fcbf0a3c3f21065d82ffb23b5ea8c1e774a1d67
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "ansible: remove default openrc_file"

ansible: remove default openrc_file

when clause is re-evaluated after default

Change-Id: I2f9b093a4cb0e2d024f8d6beb935f336ac1df637
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

nsb_setup: pin pip versions for ansible, shade, docker

Change-Id: Ia1f1c26becdc776ce664b4ab2fb0254049087318
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

PROX: catch ports stats parse error

for some reason port status returned
fewer fields, catch this for debug
and return empty result dict so test continues
and hopefully we get a valid stat
read on next call.

Change-Id: I54f1a86707d2a00efcb82a7e0239d12f90a6542c
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Adding NSB documentation for SV and Baremetal

Change-Id: I6db301b88af67256b52f5d197dfffe3c0719e132
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

Merge "Addition of Prox NSB changes in yardstick"