add tc083 rst and tc073/tc083 netperf local dashboard

Change-Id: I382b2a711d6659f94982c4386c2f25c144705831
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Merge "ssh fix, always wait"

Heat: support non-mesh network toplogy

Previsouly we added all servers to every network
in Heat in a full mesh.

To more closely replicate test topology and to limit
then number of ports we need to all each server
to specify which ports should be connected to each network.

This should also allow for some kind of multiport setup.

Add optional network_ports dict to each server with network to port_list
mapping

match inteface based on port name or vld_id

replace vld_id matching with network name matching, since network_name == vld_id

Change-Id: I5de46b8f673949e3c17d8df6fa96f055c43886ce
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

ssh fix, always wait

Change-Id: I1c529eeb0ef47752ed15e3e7941f57f7793ebfd4
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Removed special networking from yardstick container when started by nsb_setup.

Change-Id: Ief1cfd7c018948a9125549400bb5bf0e5c20d730
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

Merge "Added line parser to INI parser"

Merge "Bugfix: cleanup command not found"

Merge "KVMFORNFV:Livemigration testcase changes in Yardstick"

Added line parser to INI parser

Line parser handles comments, keys and values
and makes exceptions.

Change-Id: I5cd3612ffd8cb08b14051bd0ef4b757c310f77bd
Signed-off-by: Edward MacGillivray <edward.s.macgillivray@intel.com>

Merge "change outage_time from 20 to 30s"

Merge "Add API(v1) to get real time log"

Bugfix: cleanup command not found

JIRA: YARDSTICK-808

This bug is from CI, see log:
https://build.opnfv.org/ci/view/yardstick/job/yardstick-joid-baremetal-daily-master/1560/consoleFull

The reason is we don not have cleanup function in the script.
It is in another script clean_image.sh.
so I remove it, and call clean_image.sh when in openstack scenario.

Change-Id: I844cd9e8f0b6e1e8ff7a6094be37789d35a2c345
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>

Merge "testcase: add rate parameter for spec cpu 2006"

Merge "Adding nfvi flag to enable data collection"

Merge "Adding latency test for vfw"

Merge "Yardstick TC083: Move sample test case netperf"

Merge "Yardstick TC082: move sample test case perf.yaml"

change outage_time from 20 to 30s

Change-Id: I255c71a75d748f8e7401815a2a5890111a1ee2f5
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Merge "Adding ixia latency support for dynamic cgnapt"

Adding ixia latency support for dynamic cgnapt

Change-Id: I346f6064c39cb5662c2b17ca0f520addbe5eae4c
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

Merge "updating the traffic profile to enable static cgnapt for ixnet"

Merge "update yardstick ha test cases dashboard"

Merge "Bugfix: ha test case criteria pass when sla not pass"

Merge "decrease default hugepages,  depends on VNF of course"

Merge "test_kubernetes: mock file operations in test_ssh_key"

Merge "test_vsperf_dpdk: mock time to speedup unitests"

Addition of Prox NSB tests in yardstick

JIRA: YARDSTICK-802

Added Prox L3FWD and Packet buffering tests
- The tests supports BM and Openstack Heat
- L3FWD tests suports 2 and 4 ports
- Packet flow buffering test is a 1 port test
- Grafana Dashboards are added

TODO: Latency stats are missing in KPI collection
      Need to invetigate that
      Coverage if needed!

Change-Id: I216a170488d5578622cf8c3748a6277b380f016a
Signed-off-by: Abhijit Sinha <abhijit.sinha@intel.com>

ansible: update package proxy code

re-enable retries

Change-Id: I77738250e8aa8de3c8a8a1019093af04ce785ae0
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "Adding NSB documentation for SV and Baremetal"

Add fixes for heat deployed UDP_Replay and TRex

- Added a PROTOCOL_MAP to map the protocol names to codes -- the scapy
  requires the code, it fails if the proto is set e.g. to 'udp'
- ip addresses must be str, not unicode -- explicit conversion to str
  added
- removed unittest for setup_vnf_environment in test_tg_trex.py as
  it is the same function as already tested in test_sample_vnf.py
- traffic_profile refactored -- code repetition decreased, unittest
  adapted

Known issues:
- there is a an attempt to stop already stopped trex. It fires an
  exception that stop command is issued on the disconnected client.

Change-Id: I87e9029630f48b30e8f5b4f9d88ab3b25fd65f03
Signed-off-by: Martin Banszel <martinx.banszel@intel.com>

nsb_setup: fixup typo

Change-Id: I7fcbf0a3c3f21065d82ffb23b5ea8c1e774a1d67
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "ansible: remove default openrc_file"

ansible: remove default openrc_file

when clause is re-evaluated after default

Change-Id: I2f9b093a4cb0e2d024f8d6beb935f336ac1df637
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

nsb_setup: pin pip versions for ansible, shade, docker

Change-Id: Ia1f1c26becdc776ce664b4ab2fb0254049087318
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

PROX: catch ports stats parse error

for some reason port status returned
fewer fields, catch this for debug
and return empty result dict so test continues
and hopefully we get a valid stat
read on next call.

Change-Id: I54f1a86707d2a00efcb82a7e0239d12f90a6542c
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Adding NSB documentation for SV and Baremetal

Change-Id: I6db301b88af67256b52f5d197dfffe3c0719e132
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

Merge "Addition of Prox NSB changes in yardstick"

ansible: fix corrupt /etc/fstab boot error

Change-Id: I71fdef5deff75cad434bf19f0a7e507c1dcc4ed3
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Introduced ansible playbook to setup NSB.

Change-Id: I5865cd50d5fde26e9e9fc265d4385372d668413f
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "Adding intel_pmu tools plugin for collectd"

Adding intel_pmu tools plugin for collectd

Change-Id: I81ff3d43d209e98188855c8b2eb302835bb5d417
Signed-off-by: Neha Vadnere <neha.r.vadnere@intel.com>
Signed-off-by: Deepak S <deepak.s@linux.intel.com>
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Fix Ixload KPIs collection & hang issues.

Change-Id: If679333dc1cb9e041a332fb374c55f72eaab1b28
Signed-off-by: Deepak S <deepak.s@linux.intel.com>
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Addition of Prox NSB changes in yardstick

JIRA: YARDSTICK-802

Addition of Prox L2Fwd, MPLS test cases for BM and Heat.

updates:
Most of tg_prox and prox_vnf were absorbed into the base classes.

delete most of ProxDpdkVnfSetupEnvHelper, it is handled by DpdkVnfSetupEnvHelper baseclass

use standard _build_pipeline_kwargs methods

don't use terminate() use baseclass version

add new method kill_vnf that runs pkill -x

replace resource_helper.execute() with vnf_execture for dumping stats

In order to share code between tg_prox and vnf_prox
refactor to have tg_prox hold and wrap a ProxApproxVnf instance and call
methods on that class.   Do this instead of multiple-inheritance.

Implement ProxApproxVnf.terminate() using prox socket command
based exit, (stop_all, quit, force_quit).

vnf_execute calls resource_helper.execute() which calls
socket methods on the sut object.

Since tg_prox wraps the VNF object, we can call
terminate on the VNF object and it should work correctly.

move prox config generation to parent process
    we need to get core number info from config file
    inside the TG processes, so we need to generate
    the config in the parent process so the data is
    copied to the child during the fork.

moved more config file methods to the setup_helper class.

we run force_quit after quit, so the socket should already be closed
this will trigger socket error, so add _ignore_errors option for
vnf_execute to ignore socket errors

Fixed the terminate issue. Added MPLS tests.
Added TG Stats in_packet/out_packet
Fixed compile (pep8) issues

Fixed MPLS TG port stats, in/out packets
Added Grafana dashboards for L2FWD and MPLS
Traffic profiles modified for tolerated loss and
precision as per DATS tests.

Added unit test case for Mpls
Single port test stats collection support.

Change-Id: Idd9493f597c668a3bb7d90e167e6a418546106e8
Signed-off-by: Abhijit Sinha <abhijit.sinha@intel.com>
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

test_create_keypair: fix op_utils mock and mock paramiko

Change-Id: I5c039c0d4f4ba651209c7d5ca4e748f9151b5630
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

test_kubernetes: mock file operations in test_ssh_key

tests take too long and we should not be createing/deleting
files during unittests, filesystems operations introduce
too many external issues

Change-Id: I989c9d0a84187becdf63497c0c1ac6e10c5eac70
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

test_vsperf_dpdk: mock time to speedup unitests

If you put time.sleep(1) all over your code you need
to mock time.sleep() in your unittests lest the unittests
take forever.

Change-Id: I9ebbf9e21c98e8c46bab727bbb22f33045db4361
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Adding nfvi flag to enable data collection

Change-Id: Ieafefb5501dc3a20fee41726a7daa9e4bb28599f
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

Adding latency test for vfw

Change-Id: Ibed8bf057a76f55a9e4cc5c55a104350e43a2a6e
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

updating the traffic profile to enable static cgnapt for ixnet

Change-Id: I49e9c5c69bc997d3ba33387e691459c167f3e4bc
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

add opnfv_os-odl-nofeature-noha_daily.yaml for odl_l3 to odl rename

Change-Id: Ib7cfb36d89551a187f5ee681454e61444a08c585
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "Adding support for updating the count/packetsize for given testcase"

sample_vnf: default to 16GB of 2048Kb hugepages

8192 * 2048kB = 16GB

Change-Id: I82bf420794e5174e88cfaea08b9fab0d77c2be7f
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "Adding vfw scale-up test with ixia as tg"

Adding cgnapt scale-up test with ixia as tg

Change-Id: I834d733aff2da5af12db08f4159be2e9c6361aab
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

Adding vfw scale-up test with ixia as tg

Change-Id: I4f476d16dd11a12f5ffa9047af78d2236a4fbbc2
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

decrease default hugepages,  depends on VNF of course

Change-Id: I5e8d1461e158c0b499a8864099fbb218965a429f
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "Introduced default values and remove unnecessary ones from ansible code image build code."

update yardstick ha test cases dashboard

Change-Id: I169e3dc7eb94efa7fe27fc4e82444f53452ccaba
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Adding support for updating the count/packetsize for given testcase

Change-Id: I3ec1a6d3710d44df5ddac6bd8967d28ad58e8d33
Signed-off-by: Deepak S <deepak.s@linux.intel.com>

Merge "Added TC for vFW in heat context with ixia TG"

Yardstick TC083: Move sample test case netperf

JIRA: YARDSTICK-792

Change-Id: I81fb62144b83b215cbf39057e53029c895df50a0
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Yardstick TC082: move sample test case perf.yaml

JIRA: YARDSTICK-794

Change-Id: I75209a41f1afed5e72c035d729fc5bf608eb525e
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

testcase: add rate parameter for spec cpu 2006

Change-Id: I5f1634d2a30eb93b4632e4773cee3f8b7a151b1f
Signed-off-by: JingLu5 <lvjing5@huawei.com>

Bugfix: ha test case criteria pass when sla not pass

ha test cases didn't store moniter info and report
fail when sla didn't pass

Change-Id: I0e5637e37a66e1bf03b47fe09d17e0a1acfa11c1
Signed-off-by: rexlee8776 <limingjiang@huawei.com>

Added TC for vFW in heat context with ixia TG

- added common method to get relative paths
- added 'Ixia' APP_NAME

Change-Id: I7966798bab71af66d3efbeb1e13b07e8fbb41e88
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

Merge "Enable update ip headers for given testcase"

Enable update ip headers for given testcase

Change-Id: I008b3f09695f5e3f484b39d4e70b83e5942de863
Signed-off-by: Deepak S <deepak.s@linux.intel.com>
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

Introduced default values and remove unnecessary ones from ansible code image build code.

Change-Id: Id711d6fdacaddeafb8550290503d6cb6c814ea70
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

Rabbitmq user fix for collectd

After rabbitmq server reset we need to setup user profile so that
collectd and rabbitmq can communitcate. This profile should match amqp
plugin configuration in collectd.

Change-Id: I7eef3617d983d909418d484f8ded9e269d5d715d
Signed-off-by: Dhaval Patel <dhaval.r.patel@intel.com>

KVMFORNFV:Livemigration testcase changes in Yardstick

This patch includes few changes like retrieving the parameters in
qemu_migrate_benchmark.bash and providing the results for live migration
testcase in yardstick

Change-Id: Ie7f85973b3043ddc3880e06aae0d311e56ac15a3
Signed-off-by:RajithaY<rajithax.yerrumsetty@intel.com>

Add API(v1) to get real time log

JIRA: YARDSTICK-805

We need to get real time log if we use API(v1) run test case.

API: /yardstick/tasks/<task_id>/log
For example:
http://ip:port/yardstick/tasks/14795be8-f144-4f54-81ce-43f4e3eab33f/log?index=0

Change-Id: Ic0bf10f26f4f07d3264f2415c4923a1bfded2f81
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>

Merge "sample_vnf: run_traffic loop, check if tg_process is alive"

_get_ip_flow_range: fix bug with single IP ranges

If we have a /32 or for some reason find a range of IPs
to use, we can default to the single IP specified on the interface.

Change-Id: Ieaa1d57b04e1d57e8cef344d5a53bbca05e7887f
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

sample_vnf: run_traffic loop, check if tg_process is alive

if the tg_process crashes, this loop won't terminate unless
we check tg_process.is_alive()

wait 1 second before checking in case is_alive needs time
to become True

Change-Id: Ia0b8fd884dcfeb75ebb8e36caaf1f0b70dab079d
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

ssh: fix unittest race condition

os.stat is being called multiple times for some reason

we only care that is it called at some point.

======================================================================
FAIL: tests.unit.test_ssh.SSHRunTestCase.test__put_file_sftp
tags: worker-1
----------------------------------------------------------------------
Traceback (most recent call last):
  File "/home/jenkins/opnfv/slave_root/workspace/yardstick-verify-master/.tox/py3/lib/python3.5/site-packages/mock/mock.py", line 1305, in patched
    return func(*args, **keywargs)
  File "/home/jenkins/opnfv/slave_root/workspace/yardstick-verify-master/tests/unit/test_ssh.py", line 458, in test__put_file_sftp
    mock_stat.assert_called_once_with("localfile")
  File "/home/jenkins/opnfv/slave_root/workspace/yardstick-verify-master/.tox/py3/lib/python3.5/site-packages/mock/mock.py", line 947, in assert_called_once_with
    raise AssertionError(msg)
AssertionError: Expected 'stat' to be called once. Called 3 times.
Ran 1209 tests in 2.618s
FAILED (id=0, failures=1)
error: testr failed (1)
+ testr failing
======================================================================
FAIL: tests.unit.test_ssh.SSHRunTestCase.test__put_file_sftp
tags: worker-1
----------------------------------------------------------------------
Traceback (most recent call last):
  File "/home/jenkins/opnfv/slave_root/workspace/yardstick-verify-master/.tox/py3/lib/python3.5/site-packages/mock/mock.py", line 1305, in patched
    return func(*args, **keywargs)
  File "/home/jenkins/opnfv/slave_root/workspace/yardstick-verify-master/tests/unit/test_ssh.py", line 458, in test__put_file_sftp
    mock_stat.assert_called_once_with("localfile")
  File "/home/jenkins/opnfv/slave_root/workspace/yardstick-verify-master/.tox/py3/lib/python3.5/site-packages/mock/mock.py", line 947, in assert_called_once_with
    raise AssertionError(msg)
AssertionError: Expected 'stat' to be called once. Called 3 times.
Ran 1 tests in 0.110s
FAILED (id=0, failures=1)

Change-Id: I73370996e6e0543419eec8ecbe81be424ec15822
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "Fix Scale-up issue in HWLB"

Merge "DRAFT: model: remove vld_id not needed"

Merge "utils: catch SyntaxError during import"

Merge "Add common openstack opertation scenarios: router & port"

DRAFT: model: remove vld_id not needed

it seems vld_id is not needed now that
we add it in _resolve_topology.

Remove it from the model and Heat context first
and see what happens

Needs testing

Change-Id: I30d13c80bd90246ee3be67a2bd3439db45e20bcd
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "Collectd Fixes"

Merge "Kubernetes context adoption when run in CI"

Kubernetes context adoption when run in CI

JIRA: YARDSTICK-801

We need kubernetes test case run in CI.
We have one scenario k8-nosdb-lb-noha for kubernetes.
But for now, we need to do some adoption in CI script.

Also I move check OS_AUTH_URL in heat.py.

Change-Id: Iff86caf77fd74e70469ad2dc43f2238097ce0001
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>

utils: catch SyntaxError during import

bad modules can also throw SyntaxError besides ImportError

Change-Id: I4fa912505753cba3c06f127105354572b7f5ddd8
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Merge "DRAFT: update yardstick generic test cases dashboard"

Merge "Test case: Fio volume benchmark testcase using job file"

Merge "Raise Exception if HA test case failed"

Merge "Create test suite k8-nosdn-lb-noha run with k8s context"

Merge "bugfix: tc063 fails to get the correct result in ubuntu node"

Merge "improve tc055 results"

Merge "improve tc002 to make packet size parameterize"

Raise Exception if HA test case failed

Change-Id: Ia3677724075c1c1408f50bbfcebd3cbcde251d66
Signed-off-by: JingLu5 <lvjing5@huawei.com>

Merge "collectd: disable auto-provision"

collectd: disable auto-provision

auto-provision requires Internet access inside
the VNF, which may not be the case.

Change-Id: I2b5b73e1b80074356943c5e3152c3e6a318f3ca4
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Enabling ACL test for provider network.

Properly re-using network_type from model.

Change-Id: I40180eb53080a360b4099c034038eac67716f8d1
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

Merge "Added external versions for vFW and cgnat TCs."

Merge "ansible: update dpdk, trex and samplevnf install"

Added external versions for vFW and cgnat TCs.

Change-Id: I6778dac0c60f090238ed1f4860470e62a64c7d69
Signed-off-by: Maciej Skrocki <maciej.skrocki@intel.com>

Trex: fix KPI collection

return super result

Change-Id: I723a37281da15c1887ae1b3cf91d7e957b1924d1
Signed-off-by: Ross Brattain <ross.b.brattain@intel.com>

Create test suite k8-nosdn-lb-noha run with k8s context

JIRA: YARDSTICK-800

We have k8-nosdn-lb-noha scenario with kubernetes deployment.
So we need to add k8-nosdn-lb-noha test suite to run test case.

Change-Id: Id6dc73ad999733ddfa2e03673c20f7e92a8250a3
Signed-off-by: chenjiankun <chenjiankun1@huawei.com>