Merge "Ensure yum cache is ready before update"

Merge "Enable Neutron LBaaS Integration"

Merge "Corrected wrong os_region_name in glance-api conf file"

Merge "Improve logs from ansible, puppet, docker-puppet.py"

Merge "Handles {controller,NovaCompute}ExtraConfig deprecation in ovecloud.j2"

Merge "Add ComputeHCI role and related validations"

Merge "CI/scenarios: set NotificationDriver to 'noop'"

Handles {controller,NovaCompute}ExtraConfig deprecation in ovecloud.j2

We missed to parse and merge {controller,NovaCompute}ExtraConfig data
in change [1].

Also fixes whitespaces handling in docker-steps.j2 and
puppet-steps.j2 previously updated by [2].

1. Id37de5864138edd5476c097a8a1f0763faeaf768
2. I36a642fbc2076ad9e4a10ffc56d6d16f3ed6f27a

Change-Id: Ia9983bc991eb79e479855993c1c8819ddfb52e38

Merge "Add role_merged_configs into workflow executions environmentxi"

Merge "Workflow input parameter update in plan-environment"

Merge "Use a single configuration file for specifying docker containers."

Merge "Adds network/cidr mapping into a new service property"

Use a single configuration file for specifying docker containers.

This removes the default container names from all the templates
and uses a single environment file to specify the full container
name and registry from which to pull.  Also does away with most
of DockerNamespace.

Change-Id: Ieaedac33f0a25a352ab432cdb00b5c888be4ba27
Depends-On: Ibc108871ebc2beb1baae437105b2da1d0123ba60
Co-Authored-By: Dan Prince <dprince@redhat.com>
Co-Authored-By: Steve Baker <sbaker@redhat.com>

CI/scenarios: set NotificationDriver to 'noop'

So we don't waste RabbitMQ resources since nothing will actually consume
the messages sent on the queue.

Note: we don't change scenario001, since it's a Telemetry scenario and
the services require notifications enabled.

Change-Id: I7d1d80da4eda7c0385461fe62b1d3038022973c6

Merge "Support deprecated controllerExtraConfig naming in role template"

Add role_merged_configs into workflow executions environmentxi

Merges per-role config settings into merged_config_settings which
is wired into the workflow executions environment.

Useful to consume role config settings from within a workflow.

Change-Id: Id37de5864138edd5476c097a8a1f0763faeaf768

Enable Neutron LBaaS Integration

Allows the configuration of the Neutron LBaaS agent.

Change-Id: I4c29ece765ec9147cef9b4d74d30e3c4483c48ab
Implements: blueprint lbaasv2-service-integration

Merge "Disable systemd-networkd & systemd-resolved"

Adds network/cidr mapping into a new service property

Makes it possible to resolve network subnets within a service
template; the data is transported into a new property ServiceData
wired into every service which hopefully is generic enough to
be extended in the future and transport more data.

Data can be consumed in service templates to set config values
which need to know what is the subnet where a deamon operates (for
example the Ceph Public vs Cluster network).

Change-Id: I28e21c46f1ef609517175f7e7ee19e28d1c0cba2

Merge "Move services.yaml to common directory"

Merge "Remove special-case of memcache node ips for ipv6"

Improve logs from ansible, puppet, docker-puppet.py

* Debug ansible 'puppet apply' stderr joined stdout, split
  by lines.
* Do 'puppet apply' w/o colors, logdest syslog, and given a wanted
  modulepath instead of the module puppet, that can't support those
  options.
* Bind-mount syslog socket for docker-puppet.py to pass puppet logs
  to host OS syslog.
* Fix logging handlers for multiprocess workers in docker-puppet.py.

Related-bug: #1698172
Closes-bug: #1700086

Change-Id: I84112a836e968aa5c3596a6544e0392980529963
Signed-off-by: Bogdan Dobrelya <bdobreli@redhat.com>

Disable systemd-networkd & systemd-resolved

Latest commits in puppet-systemd enabled by default systemd-networkd and
systemd-resolved but we don't want to manage them for now in TripleO.
MySQL and MongoDB services were managing some systemd resources so now
we ensure that these 2 systemd services are disabled. In the future, we
might want and activate these services and revert that patch but for now
we want to disable them.

Change-Id: I42c6c9b643a71a0fbb1768bbae91e8bfa916ea00
Closes-Bug: #1704145

Merge "Adds check for existing yum process during the legacy minor update"

Support deprecated controllerExtraConfig naming in role template

To enable backwards compatibility with rendering the controler-role
template add this deprecated parameter for all roles - we should
remove this in a future release after the tripleoclient warnings re
deprecated parameters are available.

Change-Id: Icce93a4109191609848ca216c946a32663753b93

Remove special-case of memcache node ips for ipv6

This should be handled in puppet-tripleo, as is done for some other
services e.g ceph.  This has also been identified as a possible
performance problem due to the nested get_attr calls.

Change-Id: I7e14f0219c28c023c4e8e1d4693f0bfa9674d801
Related-Bug: #1684272
Depends-On: Iccb9089db4b382db3adb9340f18f6d2364ca7f58

Merge "Remove hardcoded enable_load_balancer from Controller role"

Merge "Make NeutronEnableDVR parameter consistent"

Merge "Added OvS permission workaround for enabling DPDK"

Merge "Make Rabbit parameters consistent"

Merge "Make CephValidationDelay/Retries default consistent"

Merge "Make *AdminStateUp parameters consistent"

Adds check for existing yum process during the legacy minor update

Checks for an existing /var/run/yum.pid and exit 1 with an error
message saying why.

Change-Id: I374eeb4164a8007ae67fea2796eac109fffdef97
Closes-Bug: 1704131

Move services.yaml to common directory

This new directory has now been added to the RDO packaging so we
can move things common to both puppet/container architecture here,
starting with the recently combined services.yaml

Change-Id: If2ce27188c4c15002b3ad830e8d6eb9504d2f3d2

Merge "Containerize Manila Share service"

Merge "Use ServerOsCollectConfigData value in output"

Ensure yum cache is ready before update

To workaround yum bug with libnss we need to make yum cache
before running update. In fact we should have done this
regardless of the bug.

Change-Id: I5b2355fb8abe3c8d4b9ce9c62b9ffdba8c1e8d9d
Resolves: rhbz#1458841
Closes-Bug: #1703830

Corrected wrong os_region_name in glance-api conf file

KeystoneRegion value for all endpoints is set as 'regionOne',
it should be same in the configuration file.
In case of Cinder as glance backend the os_region_name should be
"regionOne" instead of "RegionOne".

Currently CI is not failing because cinder backend scenario is not yet added.
But this would definitely fail if os_region_name=RegionOne.

Change-Id: I26811a404a20ea3c55f5b272f86d9269d0f6acec
Closes-Bug: 1704060

Merge "Fix ironic-pxe startup issues"

Merge "Tolerate network errors in pingtest retry logic"

Merge "Drop ComputeServices from environments/docker.yaml"

Merge "Add support for running crontabs in containers"

Merge "Revert "Revert "Blacklist support for ExtraConfig"""

Merge "Run rsync for Swift without xinetd"

Merge "Allow to set Notification Driver to 'noop'"

Merge "Add DeployedServerEnvironmentOutput"

Merge "Add missing tags in iscsid upgrade_tasks"

Merge "Implement scenario006 with Ironic in overcloud"

Merge "Remove controller specific bootstack_nodeid"

Merge "Add dependency relationship between nested get_attr targets"

Fix ironic-pxe startup issues

This patch updates the ironic-api docker service so that it
generates its config files in a unique config root. This
ensures that it doesn't have config files in the httpd
conf.d directory for both the API and PXE services thus
causing the API container to attempt to launch both of them.

This functionally fixes the Ironic API and PXE services with
docker so they once again can bring up an overcloud.

Change-Id: I537cd6a3337bf776ca38a279b7c130b6429eea04
Closes-bug: #1702799

Merge "Bind mount needed cert for haproxy for HA too"

Containerize Manila Share service

Change-Id: I797eea2f7788f65411964ccb852b5707e916416f
Partial-Bug: #1668922

Drop ComputeServices from environments/docker.yaml

Change-Id: Ibfc568755764203b68aed524d6f334eeb7cd5da7
Closes-bug: #1703001

Add support for running crontabs in containers

This change enables the puppet cron resource in docker-puppet.py and adds user
crontabs to the paths copied from the config containers.

Only the nova crontab is configured for now. Other services will require
similar changes to run their crontabs.

Partial-Bug: 1701254

Change-Id: I2d1d0f0d77908a132472cf4bc475f8bd526af504
Depends-On: Ie16fb4539481a3c192cff8220a97daa4c70467fc

Merge "Remove ceilometer apache files on upgrade"

Run rsync for Swift without xinetd

The default in non-containerized environments is to run rsync within
xinetd for Red Hat-based deployments, however in an containerized
environment this is not really needed. Therefore run rsync directly
without being started by xinetd.

Change-Id: I08abd917eba08d1192437ddf96c71b06d099a3f8

Merge "Switch from oslosphinx to openstackdocstheme"

Allow to set Notification Driver to 'noop'

This patch does 2 things:
* Configure messagingv2 as default driver for Oslo Notifications sent on
  RPC.
* Allow users to choose between messagingv2 (default) and noop when we
  want to disable notifications (for example, when Telemetry is disabled).
* Deprecate KeystoneNotificationDriver in favor of NotificationDriver.

Change-Id: Ia547d7f4bfb51e7c45246b097b48fd86da231bd3
Related-Bug: #1701357

Add dependency relationship between nested get_attr targets

Starting with Pike, Heat will do attribute resolution in a single pass. A
consequence of this is that when the result of a get_attr is passed to
another get_attr call, there must be a dependency relationship between the
resources so that the inner attribute is resolved first before we try to
determine which attributes are required from the resource in the outer
call.

There are two uses of nested dep_attr in the overcloud template. One (which
hopefully can be removed soon) is in the allNodesConfig resource. In this
case, the {{primary_role_name}}IpListMap already depends on the
ServiceNetMap.

The second is in the KeystoneAdminVip output. This patch makes the VipMap
depend on the ServiceNetMap so that attributes can be resolved in a single
pass in that case.

Change-Id: I438a79748b9b408ec1101271d96c60d84028b57e

Remove hardcoded enable_load_balancer from Controller role

This is associated with the haproxy service, so set the hieradata there
instead.  This is needed so we can render the controller role template
via j2, and also if anyone ever wants to run haproxy on some role other
then the Controller.

Change-Id: I82b992afe42f6da7788f6efca2366863c3bf68f7
Partially-Implements: blueprint composable-networks

Remove controller specific bootstack_nodeid

This has been replaced for some time by bootstrap_nodeid which isn't
hard-coded to the Controller role.

Change-Id: I2c172de13646e5b88cb9930a93ca71fcc990e522
Depends-On: I0a9fced847caf344e5d26b452f1bd40afab8f029

Don't confuse Heat with empty parameter_defaults

Apparently providing completely empty parameter_defaults in an
environment file can confuse Heat, and it seems like it doesn't try to
deploy any services on the overcloud in the multinode job. See the bug
for more details about the bug symptoms.

Change-Id: Ia9cb01b48087b78f66004263757590877219f743
Closes-Bug: #1703599

Revert "Revert "Blacklist support for ExtraConfig""

There is a Heat patch posted (via Depends-On) that resolves the issue
that caused this to be reverted. This reverts the revert and we need to
make sure all the upgrades jobs pass before we merge this patch.

This reverts commit 69936229f4def703cd44ab164d8d1989c9fa37cb.
Closes-Bug: #1699463
implements blueprint disable-deployments

Change-Id: Iedf680fddfbfc020d301bec8837a0cb98d481eb5

Merge "Copy only generated puppet files into the container"

Use ServerOsCollectConfigData value in output

Just use the value from the ServerOsCollectConfigData resource in the
output instead of recalculating the value for each role via jinja.

Change-Id: I4e3bf4f25c9a8f677d5d177eb409594193a86405

Add DeployedServerEnvironmentOutput

Add a new output, DeployedServerEnvionmentOutput, that can be used as
the contents of an environment file to input into a services only stack
when using split-stack. The parameter simplifies the manual steps needed
to deploy split-stack.

By default, the resource that generates the output is mapped to
OS::Heat::None.

implements blueprint split-stack-default
Change-Id: I6004cd3f56778f078a69a20e93a0eba0c574b3db

Merge "Modify generic role template to support custom networks"

Bind mount needed cert for haproxy for HA too

haproxy needs the deployed SSL cert file to function when TLS is
enabled.

It is also required for the docker-puppet haproxy container since the
haproxy puppet module uses a validate_cmd to check the generated config
file is valid that fails when the required SSL cert is not present.
There is no clean way to disable this feature [1] so we need to bind
mount the cert into the container.

This commit applies the same change that was applied in
Id2df144b678769def204961236624091d4e5c457 for the non-ha case.

[1] https://github.com/puppetlabs/puppetlabs-haproxy/blob/4753ea5b2506ee093e9b4c8af6e91201d476d426/manifests/config.pp#L53-L57

Change-Id: I93e1ee86197bcf271f18a62a27c2f350ed3966ea
Co-Authored-By: Damien Ciabrini <dciabrin@redhat.com>

Added OvS permission workaround for enabling DPDK

The vhost sockets sockets are created with qemu permission, but ovs
runs with root permission. In order to allow ovs to access vhost sockets
reducing the ovs group permission from root to qemu. This is a temprovary
workaround, until ovs fixes the permission issue. The script supports
both ovs2.6 and ovs2.7 versions.

Change-Id: I172956390c19fc9824bf7590cd48bfcf6201191b

Copy only generated puppet files into the container

This solves a problem with bind-mounts when the containers are holding
files descriptors open.

At the same time this makes the template more robust to puppet changes
since new config files will be available in the containers without
needing to update the templates.

Partial-Bug: #1698323
Change-Id: Ia4ad6d77387e3dc354cd131c2f9756939fb8f736

Disable network validation in multinode jobs

Sometimes the infracloud gateway refuses to ping even though
everything else is working fine.  Since we have coverage of this
functionality in the OVB jobs it should be safe to turn it off
here so it stops spuriously failing our jobs.

We can't just set the resource to OS::Heat::None because there
are other resources with dependencies on it.  Instead, this adds
a noop version of the validation software config that always
returns true.

Change-Id: I8361bc8be442b45c3ef6bdccdc53598fcb1d9540
Partial-Bug: 1680167

Merge "Add in roles data validation"

Merge "Rename CongressApi to Congress (docker)"

Merge "Create NIC templates for Neutron Networker composable role"

Merge "Add sample usage of StorageMgmt network for compute nodes"

Remove ceilometer apache files on upgrade

Ceilometer API runs under apache. Since this service is
deprecated and disabled in pike, we need to ensure the
apache files are removed during upgrade.

Change-Id: I0c0913e74396bd463f5a6da46f83512bab77b75e

Add in roles data validation

With the merging of Iad3e9b215c6f21ba761c8360bb7ed531e34520e6 the
roles_data.yaml should be generated with tripleoclient rather than
edited. This change adds in a pep8 task to verify that the appropriate
role files in roles/ have been modified to match how our default
roles_data.yaml is constructed.  Additionally this change adds a new tox
target called 'genrolesdata' that will all you to automatically generate
roles_data.yaml and roles_data_undercloud.yaml

Change-Id: I5eb15443a131a122d1a4abf6fc15a3ac3e15941b
Related-Blueprint: example-custom-role-environments

Rename CongressApi to Congress (docker)

Before it was Congress, let's stay consistent and stop using CongressApi
in Docker service, because we release.

Change-Id: Id939b3d70e185da4279f3860812fa5dce27d64dd

Switch from oslosphinx to openstackdocstheme

As part of the docs migration work[0] for Pike we need to switch to use the
openstackdocstheme.

[0] https://review.openstack.org/#/c/472275/

Change-Id: Ib2b6afb7075c68fecf1fbeaf650a31a7494af49f

Merge "Enable Neutron LBaaS Integration"

Merge "Update cinder-netapp-config environment"

Merge "Fix typo in roles/Networker.yaml"

Modify generic role template to support custom networks

Render all per-network resources and interfaces via j2 to enable
future support for custom networks via network_data.yaml

Note this doesn't enable custom networks for the built-in roles
as we skip j2 rendering for them, this will be resolved by converting
them to use the generic role template instead of the hard-coded
ones listed in the j2_excludes.yaml.

Depends-On: I18fa3829ff38ac200550d8e36bbe334c0005da22
Change-Id: I49565f9389f3ec9aef4861e23a3bed64a85501e6
Partially-Implements: blueprint composable-networks

Merge "Adds docker OpenDaylight"

Merge "Update NovaCompute to consume CephClientKey"

Workflow input parameter update in plan-environment

derive_parameters workflow input parameter needs to be
changed as num_phy_cores_per_numa_node_for_pmd
instead of number_of_pmd_cpu_threads_per_numa_node.
The performance varies based on the physical core
rather than the logical CPUs. Which means, user should
be able to decide the number of physical cores,
which is proportional to data rate.
Implements: blueprint tripleo-derive-parameters

Change-Id: I056fb330a17e647ab527e8bccd52bdf5e77067b6

Merge "Bind mount needed cert for haproxy"

Merge "Allow volumes in puppet_config containers spec"

Merge "Convert role templates to consume roles_data map"

Merge "New environment file to configure containers."

Merge "Updated from global requirements"

Merge "Install ansible-pacemaker on O->P upgrade"

Updated from global requirements

Change-Id: I714ecad87a406bc237e3d4fdf88bc7e10555693c

Fix typo in roles/Networker.yaml

The captialization mismatch here means the role currently doesn't
work.

Change-Id: Iced5004f993f8c100268361d87580d922e47f983

Enable Neutron LBaaS Integration

Allows the configuration of the Neutron LBaaS agent.

Implements: blueprint lbaasv2-service-integration
Change-Id: Iae2bf7faeea93d5275994b2ee10f9bf863ed6152
Depends-On: Ieeb21fafd340fdfbaddbe7633946fe0f05c640c9

Convert role templates to consume roles_data map

Currently we only consume the name with a special-case
for the disable constraints boolean, but it will be more
flexible if we consume the whole roles_data mapping for
each role, so that e.g composable networks and other
per-role customizations can be expressed in these
templates

Partially-Implements: blueprint composable-networks
Depends-On: Id1249b78b3dd87e91d572ffa31b7a541f3cde2c7
Change-Id: I355534ec456479944f66106e957404a660d8f2d2

Merge "Make ceilometer crontab removal idempotent"

Adds docker OpenDaylight

Depends-On: I020550ede0ef981582392cf6c48dd5cb5823a074
Depends-On: I610b07a3c2bcf1c3288f76112a08b81c50e06913
Depends-On: I3d378044b3da5309b60967a12df7800520a254dc
Depends-On: I9c32b41ef865a09587f3ebfe8b8a896031fbd285
Depends-On: Ib31bf29bc69f5c58e98b99c3e598b19c99efc77f

Change-Id: I36c7390ddb4192e55ee56006fd6e9c5f8704445c
Signed-off-by: Tim Rozet <trozet@redhat.com>

Update NovaCompute to consume CephClientKey

It is not necessary to get the Ceph key issueing a get-key to the Ceph
cluster; this change provides the libvirt key via parameter instead.

Change-Id: Iff3dbcb0f1b4d2373570e184e636a71553cea708