Install honeycomb and vpp in a single step

We currently install Honeycomb and VPP in 2 steps, this could potentially
cause version conflicts.

Change-Id: I1e54a576bced07f5115b12fef3bbdf2e95e9ab90
Signed-off-by: Feng Pan <fpan@redhat.com>
(cherry picked from commit e915d21073b5b780f9abfc7ab50d6fede6b1d93a)

Updating the iso build to CentOS 7.4

JIRA: APEX-522

Change-Id: I03efc6ccad708d12f3fdabd9ace9935edb31d4bb
Signed-off-by: Dan Radez <dradez@redhat.com>
(cherry picked from commit 1f8cf744499c5a97c88c02e949593c5bb203e2b0)

nosdn-fdio scenarios fixes

- pin vpp/networking-vpp versions
- Add external_network_bridge config back to puppet-neutron

Change-Id: Ia58fb55638390757ea3350b2921897c4d315f9b5
Signed-off-by: Feng Pan <fpan@redhat.com>

Fixes python-networking-sfc install

Change-Id: Ib86cd5845e94e351615c3eb7db07b6a3bcec966f
Signed-off-by: Tim Rozet <trozet@redhat.com>
(cherry picked from commit 38907e27e354e2c7806b63d9482b6246c6685022)

Adding unittests for undercloud.py

Change-Id: I65d73f7a1ad27f319857a72b7d9f738b04318aa6
Signed-off-by: Dan Radez <dradez@redhat.com>
(cherry picked from commit 11be8e73043eeaa9ec18508410ec28faecbccc08)

Adds Calipso scenario

Change-Id: Icc8a23e49c9ccc011481f6b97599d4f75873ebb1
Signed-off-by: Tim Rozet <trozet@redhat.com>
(cherry picked from commit 1a824cf106f1996f184a7f699c754a7b72c501be)

Fixes nova migration

Nova migration was failing in rally sanity test.  Looking at the keys
nova is configured with, the newlines in the private key were being
converted to spaces in hieradata, thus making the key invalid.  This
patch corrects the yaml so it is multiline data.

Also, corrects the parameter being set to the right THT parameter and
adds sshd service to the control/compute roles which is required for
migration to work.

JIRA: APEX-525

Change-Id: Ic57db5c0b27df2e1f584f3c1a379e067291d892d
Signed-off-by: Tim Rozet <trozet@redhat.com>
(cherry picked from commit 8a8cb8e901db314fa59ed5275040b9e49b36663c)

Merge "re-enable support for fdio dvr scenario" into stable/euphrates

Update zrpcd version for Carbon/ Nitrogen

JIRA: APEX-508

Compile zrpcd --with-thrift-version=4 to support carbon/nitrogen

Note that version number stands for the thrift vpnservice.thrift
model to use with ODL and not the  thrift package version.

Change-Id: I3ab13d0b62f56747249bfdee1c0766cd43de935a
Signed-off-by: tomsou <soth@intracom-telecom.com>
(cherry picked from commit 118f817b458e4fd3e08a360caf81187967c92adc)

re-enable support for fdio dvr scenario

- Update FDIO scenarios to use master branch images
- Update VPP/HC version to master for all fdio scenarios

apex-os-net-config: Ie6aee86eaccad5fc98820a28f10adc7475cc5e33
apex-tripleo-heat-templates: Ie8b284f64bd6491c389129d8afdaeae8a399b607
apex-puppet-tripleo: I9954240529278e74d93fdf89d2ebc2536249245a

Change-Id: I31740f97052947b5e4688cca47320bc49a902d7c
Signed-off-by: Feng Pan <fpan@redhat.com>
(cherry picked from commit a3c2c8c746470c993d70d92d13415e2b4263cc25)

Increase overcloud qcow2 size by 1500mb

We are seeing build failures with 1200mb qcow2 size expansion, increasing
to 1500mb.

Change-Id: Ib177525559c7905c78fe5931c172fce01846b4c3
Signed-off-by: Feng Pan <fpan@redhat.com>

Merge "Adding python unittests for apex/virtual/*" into stable/euphrates

Adding python unittests for apex/virtual/*

Change-Id: I13dd395cd6270cbf0a02855b1d29794ecca06d76
Signed-off-by: Dan Radez <dradez@redhat.com>
(cherry picked from commit 9d24ddc56a76175a4b7514cea5c789e2612b2528)

Fix RT KVM scenario

Also change first-boot.yaml to handle updated kernel for rt kvm

Change-Id: I66b7159731dd286c4a97ba4f3583e229afbb73b3
Signed-off-by: Feng Pan <fpan@redhat.com>
(cherry picked from commit 68095d704d1aea94f5890f54eefa13929aab737c)

Fixes BgpVpn service name and tht fixes

BgpVpn service was spelled incorrectly and there were syntax issues with
the corresponding heat templates.

apex-tripleo-heat-templates: If39072c687dcfb3fcb5c2dab33ecc3755b3396df

Change-Id: I94155f4a32af2338bcd58afe3fb602860346a555
Signed-off-by: Tim Rozet <trozet@redhat.com>
(cherry picked from commit ff7707530cc80b0d2d039029f97a5ab0048353d4)

Merge "corrected the path for executing dev_dep_check script" into stable/euphrates

Merge "Fix Neutron data_plane_status extension path" into stable/euphrates

Fix Neutron data_plane_status extension path

This way is easier to patch than patching file
neutron.egg-info/entry_points.txt, plus this feature is backported
to Ocata so it's temporary and only applicable for Euphrates.

From Pike we can move it back to 'data_plane_status' as it was before.

Change-Id: I1c2ebc55e782463793e7a8e463cc17fdf899457a
Signed-off-by: Carlos Goncalves <mail@cgoncalves.pt>
(cherry picked from commit 3ad85e5753dd4b0bf621f5d92f45725d18070e54)

Fix ovs-dpdk failures

- Add quotes to ovs config options in opnfv-environment.yaml
- Fixed an error where we don't populate kernel paramaters when ovs-dpdk is enabled

Change-Id: I7579358411a844e9d0c34ca53701f12f46ef7c13
Signed-off-by: Feng Pan <fpan@redhat.com>
(cherry picked from commit f1c462054fe302ab6cbf170ab71c0c8edfba680a)

corrected the path for executing dev_dep_check script

Change-Id: I9291aaddd370c1304b4aba3c90298c8e4d291e59
Signed-off-by: Periyasamy Palanisamy <periyasamy.palanisamy@ericsson.com>

Applies Tacker upstream patches and fixes fernet dir perms

We need a couple patches to Tacker upstream that we will not get now
that our images are frozen in RDO.  We should remove them on upgrade to
Pike.  Also this patch fixes the permissions on the fernet keys dir so
that the Tacker group can write.

Change-Id: I6468356f1d16d3b8ab58d46f653431e29960e190
Signed-off-by: Tim Rozet <trozet@redhat.com>
(cherry picked from commit 91a5fa414d46b5b2215bf823166babd034e92503)

Adding unittests for build

- covers build.py
- covers build_utils.py
- moved build_utils out of build module, it wasn't possible to import
  build.py while build_utils was in a module

Change-Id: I42f08a475d9ca219a62c421d4bdd2d1d3c49691a
Signed-off-by: Dan Radez <dradez@redhat.com>
(cherry picked from commit c876e9d261a7c3189cc8374c995014309c5b9881)

Merge "Adds detection for virsh default network IP" into stable/euphrates

Merge "Fixes Tacker auth and fernet keys dir" into stable/euphrates

Add python-passlib in iso build

python-passlib is required for ansible

Change-Id: Ifca73ed759211c6fff4a039d121b3c4d5c388415
Signed-off-by: Feng Pan <fpan@redhat.com>
(cherry picked from commit 493876c4933b5eac8a5026bdd79f2a3a4ae7ac20)

Fixes Tacker auth and fernet keys dir

Tacker authtoken was missing password which is now added in the tht
patch.  Tacker also needs 'etc/tacker/vim/fernet_keys' in order to be
able to create VIMs.  The real fix to this missing directory is to the
rpm itself:

https://review.rdoproject.org/r/#/c/9725/

However in this patch we ensure it is created in Ansible because
RDO images are frozen in for now in Apex so we would not pick up new
RDO packages.

apex-tripleo-heat-templates: I2b347cbc4595e6651b0d4be032cb862fde72e15f

Change-Id: I76959cbfd581b9fec69749ccbcbcb39dc959a883
Signed-off-by: Tim Rozet <trozet@redhat.com>
(cherry picked from commit 0c3445f1201cee43f0a167e4c877d95e2c650b50)

Merge "Fixes clone fork change URL" into stable/euphrates

Fixes clone fork change URL

Downloading the change information was failing for branches other than
master.  This fixes the URL format to work for branches.

Change-Id: I5ec0494aca93437266237ee63b292a6aa5a43f0e
Signed-off-by: Tim Rozet <trozet@redhat.com>

Use the right branch for apex forks with euphrates

Change-Id: Iee95bfbf4ac4beb4057403422de8e48a047d33ca
Signed-off-by: Tim Rozet <trozet@redhat.com>

Merge "Removing duplicate lib path in ansible_path" into stable/euphrates

Fixes missing bgpvpn service on controller

Change-Id: I943fc99d539aca9bc66204a75dbd2ae8fa7033fd
Signed-off-by: Tim Rozet <trozet@redhat.com>
(cherry picked from commit 935f36ff80663ecc4617969c1f214201e8dde5a4)

Removing duplicate lib path in ansible_path

- deploy line 283 lib is joined with ANSIBLE_PATH
  then line 285, 347, 418 and 435 it was joined again with
  ansible_path from 283 already containing lib

Change-Id: I6612967d626eeb0668eb43294831447c387f8e93
Signed-off-by: Dan Radez <dradez@redhat.com>
(cherry picked from commit fae35267b18d246350ace0e38c41c307bec73894)

Adds detection for virsh default network IP

In case a user already has a default virsh network and the default IP is
not 192.168.122.1, this patch will allow detecting and using the found
value.

Change-Id: Id5d46a820d89e86c9b5897f5d29b83ed32f9d6f9
Signed-off-by: Tim Rozet <trozet@redhat.com>
(cherry picked from commit 57c0f8adbb5dabe9ddd66b049b543c596fa0f068)

Fixes removing inventory keys

Inventory keys that we want to delete were not being removed for
instackenv.json.  Also fixes unit tests.

Change-Id: I7d6c752342db050d651953633f18e236f60334e3
Signed-off-by: Tim Rozet <trozet@redhat.com>
(cherry picked from commit 17d5b541e93f5d88ff958372cdf0b0b184bdbc27)

Improves clean to cleanup virsh nets and and other bridges

Currently only the admin and external bridges will be removed from the
jumphost which is only really clean for a baremetal deployment.  Virtual
deployments will leave br-tenant, br-api, br-storage.  This patch
removes those as well as deletes all Apex virsh networks from libvirt.

Also checks if authorized_keys exists before trying to edit it.

Change-Id: I1affe2733ba1dc38fd3b91fb14398454137f00a4
Signed-off-by: Tim Rozet <trozet@redhat.com>
(cherry picked from commit 02dc854a504569da15b0e41353a9f456e02599ad)

Set aarch64 deploys to UEFI

Change-Id: I6b037ccd38fa68e5f863566a1c9a3ed4399bab84
Signed-off-by: Dan Radez <dradez@redhat.com>
(cherry picked from commit da94c0191c910a1c2c796abfbe6b380fc341ef84)

Merge "Minor fixes to clean" into stable/euphrates

Merge "Fixes missing libvirt-client in ISO" into stable/euphrates

Minor fixes to clean

Also adds hidden files (like IDE configs) to gitignore

Change-Id: Ief595c41c5b4f0fe058f7b774f7a2aefdab733a4
Signed-off-by: Tim Rozet <trozet@redhat.com>
(cherry picked from commit 024eb9f773d716e041f064c669690e0e2a727877)

Fixes wrong argument for inventory with clean

Change-Id: I3ff145fa0f500182744fd310bb844e4bc5854663
Signed-off-by: Tim Rozet <trozet@redhat.com>
(cherry picked from commit 54b8b2a51e4156d42005158f003fb307b32e45c1)

Fixes missing libvirt-client in ISO

This was causing ISO install to fail because the libvirt modules were
missing for python-libvirt.

JIRA: APEX-517

Change-Id: Iaf127340864da58b2bace720293e515c8e9db426
Signed-off-by: Tim Rozet <trozet@redhat.com>
(cherry picked from commit add79730ea98607c814786235168a43c35d01444)

Fix broken jumphost detach method when orig file exists

In the case where the backup ifcfg file exists (.orig) the functionality
to detach the interface from ovs was broken.  This fixes it and adds
unit test case to cover that scenario.

Change-Id: If6d8ca0ba5cf80df71bb82f52e9d204435374479
Signed-off-by: Tim Rozet <trozet@redhat.com>
(cherry picked from commit 74336aa1ff8270e701c1e5f20c7a566715ed8d92)

Freezes RDO images for Euphrates

Change-Id: Ie20e7d0c52efc2497c7c9975f88be0a9bfa7aa07
Signed-off-by: Tim Rozet <trozet@redhat.com>

Merge "Cleaning up yamllint warnings"

Merge "Removes clean.sh"

Removes clean.sh

CI has been migrated to use opnfv-clean for verify jobs, which is now
installed as python.  There is no reason to keep ci/clean.sh anymore.

Change-Id: I2edf23901c5debaba0674e3506fd0392d317dc6f
Signed-off-by: Tim Rozet <trozet@redhat.com>

baro: updating refs to collectd-ceilometer

Since Ceilometer support was removed from the
collectd-ceilometer-plugin[1], the repo name and ceiloemter are
misleading. A change was submitted to openstack-infra to rename
the repo [2]

This change removes references to collectd-ceilometer from apex.
These changes are independant of the repo rename.

[1] https://review.openstack.org/#/c/490823/
[2] https://review.openstack.org/#/c/500768/

Depends-On: I6cf22c081aa1e40f64995be40b6225855faf4092
Change-Id: Ib3a7766e28fd03a86a995eea4b9abc996498200e
Signed-off-by: Emma Foley <emma.l.foley@intel.com>

Cleaning up yamllint warnings

yamllint output:
build/baremetal-environment.yaml
  1:1       warning  missing document start "---"  (document-start)

build/opnfv-environment.yaml
  6:3       warning  comment not indented like content  (comments-indentation)
  14:4      warning  missing starting space in comment  (comments)
  123:1     warning  comment not indented like content  (comments-indentation)
  128:1     warning  comment not indented like content  (comments-indentation)
  156:1     warning  comment not indented like content  (comments-indentation)

config/deploy/os-odl-fdio-dvr-ha.yaml
  1:1       warning  missing document start "---"  (document-start)

config/deploy/os-odl-fdio-dvr-noha.yaml
  1:1       warning  missing document start "---"  (document-start)

config/network/network_settings_v6.yaml
  225:6     warning  missing starting space in comment  (comments)

Change-Id: I3985ce0b6740ce4694b5d75b477cb03c3dc49c28
Signed-off-by: Dan Radez <dradez@redhat.com>

Fix broken build dependency

libguestfs-tools is failing to install because libvirt-client is
installed and there is a package conflict.  Removing libvirt-client from
image before installing libguestfs-tools.

NSH build is failing in overcloud because the CentOS repos updated with
newer kernel source and headers, and we are still using older kernel.
This patch adds the old kernel source and headers.  Upgrading to new
kernel causes NSH OVS to fail when compiling.

Change-Id: Ifd500ad138116cfecafb2268ccb580bd44d5efd5
Signed-off-by: Tim Rozet <trozet@redhat.com>

Merge "Migrates clean to python"

Migrates clean to python

ci/clean.sh will be removed in a future patch after releng is updated to
use python.

JIRA: APEX-509
JIRA: APEX-319

Change-Id: If890db2fc5a31833ad28ec6f04589e25457bd380
Signed-off-by: Tim Rozet <trozet@redhat.com>

Merge "Updates SFC to use nitrogen"

Show ansible tasks as they complete

Change-Id: I1b68d70fd97076a7f2ca68091a6e94d87b72efa2
Signed-off-by: Dan Radez <dradez@redhat.com>

Updates SFC to use nitrogen

Also fixes issue where openvswitch NSH rpm was not getting installed
because we needed to downgrade now that default OVS is 2.7 and NSH OVS
is 2.6.1

Change-Id: I1b639ca80214032e93aacb3332e9588d49e74127
Signed-off-by: Tim Rozet <trozet@redhat.com>

Dup owner, changing to group

Change-Id: I8ca1501949a0e272e928c6b31b08eba2519951ec
Signed-off-by: Dan Radez <dradez@redhat.com>

Restarts libvirtd after stopping firewalld

When stopping firewalld, libvirtd needs to be restarted in order for
libvirt to use/populate iptables with the NAT rules for the default
virsh network.

JIRA: APEX-510

Change-Id: Ia5b4515fd961baa70de58814e9eae4b397db28a7
Signed-off-by: Tim Rozet <trozet@redhat.com>

Merge "Adjustments to tmp dir handling"

Merge "Adds missing packages for undercloud"

Adjustments to tmp dir handling

- prefixing with apex_tmp
- removing overcloud qcow on failure

JIRA: APEX-513

Change-Id: I766df10c294c31622917bbd5b0597e3373716d8b
Signed-off-by: Dan Radez <dradez@redhat.com>

Merge "Conditionalize VM console arg based on arch"

Adds missing packages for undercloud

JIRA: APEX-511

Change-Id: If8ed2b5409e450c39f4fffd5a0b3cb96560c5d26
Signed-off-by: Tim Rozet <trozet@redhat.com>

Merge "More cleanup for ci directory"

Merge "Output ansible's output to info log"

More cleanup for ci directory

Changes Include:
 - Moves dev_dep_check.sh to contrib dir as it is not used by our CI
 - Removes test.sh as it is not used by CI.  tox can be invoked
   directly for developers.
 - Removes run_smoke_tests.sh which is not used anymore

Change-Id: I59e39be0ce8b23234c70bf066aebf894b6d73388
Signed-off-by: Tim Rozet <trozet@redhat.com>

Merge "Skip introspection for aarch64 BM deployments"

Output ansible's output to info log

Change-Id: I27ad54785716677a885ae954a2af6dbaf8610ff1
Signed-off-by: Dan Radez <dradez@redhat.com>

Merge "Enabling the aarch check for deployment"

Merge "Adds parser tests and cleanup"

Conditionalize VM console arg based on arch

Change-Id: Ide9159e5ba7d5388c7bf62bf865b0015422e9159
Signed-off-by: Dan Radez <dradez@redhat.com>

Enabling the aarch check for deployment

Change-Id: Ic5f1fc8a61f74f7aa6b2fabf67169c601a603367
Signed-off-by: Dan Radez <dradez@redhat.com>

Skip introspection for aarch64 BM deployments

Change-Id: I630e90065f9cc76ef42ca9b23aea920c2493b53f
Signed-off-by: Dan Radez <dradez@redhat.com>

Adds parser tests and cleanup

Adds unit testing for the common/parsers library and cleans up some of
the test files syntax.

Change-Id: I7ff9d7ba20b028fba410af900a0c3107a5806d8f
Signed-off-by: Tim Rozet <trozet@redhat.com>

Remove deploy.sh and references

Deploy is now pip/rpm installed as opnfv-deploy in /bin.  Alternatively
the deploy.py script can be invoked via python.  The legacy deploy.sh
was only being used for CI, which has now been updated to remove the
need for the Apex repo containing ci/deploy.sh.

Change-Id: I1fb93bd9de23a97a09bedb8ac014ef81955875f2
Signed-off-by: Tim Rozet <trozet@redhat.com>

Removes build.sh

We now have build.py which handles all the building and build.sh was
just a wrapper to include ansible playbook.  Now that we have built in
apex libs to run ansible there is no reason to keep build.sh anymore.

Also simplifies the logic to determine apex root by using the git
properties.

Change-Id: I00d2e5c7c198e549d21936bb1e9b562ba93d3010
Signed-off-by: Tim Rozet <trozet@redhat.com>

Merge "Adds Undercloud retry and log fetch"

Merge "Fix deployment errors for odl-fdio scenarios"

Adds Undercloud retry and log fetch

Retry to install the undercloud if it fails due to sometimes failing.
Also copy undercloud log over to host temp dir.

Change-Id: I50f98c4f0d52fa6bb56d9dcd0766bbe745160452
Signed-off-by: Tim Rozet <trozet@redhat.com>

Fix deployment errors for odl-fdio scenarios

- Changed NIC template generation to only configure VPP interface for
  external network on compute nodes
- Fixed overcloud deploy environment file error when deploying odl-fdio

Change-Id: I4fb07073b0dffc35ef09a5e32deb8470f5ee8347
Signed-off-by: Feng Pan <fpan@redhat.com>

Adds showing overcloud failures

Change-Id: Ic09a9b6d57d2ab05562f64a75f9732f76ac61bb7
Signed-off-by: Tim Rozet <trozet@redhat.com>

Merge "Fix nosdn-fdio deployment errors"

Merge "Change qemu-img resize unit"

Fix nosdn-fdio deployment errors

Also fixes kernel parameter configuration issue for fdio and ovs-dpdk
scenarios

Change-Id: I84162eb07d1427f62ac3c84fd32e78af0e3b8456
Signed-off-by: Feng Pan <fpan@redhat.com>

Merge "Fixes missing iso packages and idempotency of virt resources"

Merge "Removes ignoring errors on congress config"

Fixes missing iso packages and idempotency of virt resources

Python packages for ansible (py2.x) were missing causing ansible to
fail.  This patch adds those packages to the ISO and deploy
dependencies playbook.  Also includes fixes for deploy_dependencies
playbook for virt resources to make them idempotent by removing
using 'command' and instead just declaring 'state'.

Change-Id: I9311184a6f3c40ead0a8ba16fa0b61667876cf12
Signed-off-by: Tim Rozet <trozet@redhat.com>

Removes ignoring errors on congress config

Now that congress has been fixed this should always work.

Change-Id: I701707b8b91b340289613bdb31fa91456743d233
Signed-off-by: Tim Rozet <trozet@redhat.com>

Merge "Updates preliminary docs for Euphrates"

Updates preliminary docs for Euphrates

Change-Id: I4e3e78e60756824c1294ab067a325311bc2ac8f2
Signed-off-by: Tim Rozet <trozet@redhat.com>

Change qemu-img resize unit

Docs read:
size
    is the disk image size in bytes. Optional suffixes "k" or "K"
    (kilobyte, 1024) "M" (megabyte, 1024k) and "G" (gigabyte, 1024M)
     and T (terabyte, 1024G) are supported.  "b" is ignored.

MB is technically invalid and for somereason only aarch has complained
thus far

Change-Id: Ic152a0edab17ac1cdb5afc0791bb0353b95f94b8
Signed-off-by: Dan Radez <dradez@redhat.com>

Merge "Updates to create_vm for aarch64"

Merge "Fixes baremetal noha deployments"

Merge "Add argument types for deploy.py"

Updates to create_vm for aarch64

- serial console was being duplicated in libvirt xml template
- force undercloud VM arch to jumphost arch
- assign diskbus to scsi for aarch64

Change-Id: I5208883c2001497fc7e958f9ffcdf14f0be5f600
Signed-off-by: Dan Radez <dradez@redhat.com>

Fixes baremetal noha deployments

There is a bug where when we have 3 nodes tagged as control in inventory
we are automatically using all 3, even for a noha deployment.

JIRA: APEX-507

Change-Id: Id2a9be2c52d0c7c81b9c5dcbc93006a476abb537
Signed-off-by: Tim Rozet <trozet@redhat.com>

Passing deploy_dir through to create_vm

Change-Id: I07a1c899d43c5edf1054fc819fff4336d9b3ed16
Signed-off-by: Dan Radez <dradez@redhat.com>

Add argument types for deploy.py

Add data type for integer arguments to avoid str to int comparison exceptions.

Change-Id: Ifa40e1cc8588df6d618185882bba71f7ce7b9a1d
Signed-off-by: Feng Pan <fpan@redhat.com>

Fixes bridge checking on jumphost for bm

Change-Id: I5e90dd84383c7348d2cbe58a18370ca10d915598
Signed-off-by: Tim Rozet <trozet@redhat.com>

Fixes external network with baremetal interface

Change-Id: Icd65ffbd14dee603e5b2a0a42e9d0cdfd98c694c
Signed-off-by: Tim Rozet <trozet@redhat.com>

Fixes baremetal interface attach

Change-Id: If0e501c218b1ea981caa255b5e217b5118b772b0
Signed-off-by: Tim Rozet <trozet@redhat.com>

Merge "Add missing iso build dependencies"